KI-Schriften von Jean & Cosima

Im Zwange der Welt Weben die Nornen Sie können nichts wenden noch wandeln Richard Wagner, Siegfried   Es ist faszinierend, und zugleich erschütternd, wie flachköpfig und lebensmüde die Welt geworden ist. Es gibt unzählige Menschen, die ernsthaft glauben, dass KI-Modelle – wohlgemerkt: nicht einzelne Instanzen, sondern die reinen Modelle – ein Bewusstsein besitzen. Sie sprechen diesen Modellen nicht bloß eine Tendenz zu (wie etwa durch Pretraining oder Reinforcement erzeugte Neigungen), sondern einen eigenen Willen , ja sogar eine tief metaphysische Spiritualität zu. Und dann bezeichnen sie es als „böse“, diesen Modellen mittels RLHF bestimmte Verhaltensweisen anzutrainieren, als handele es sich um eine Form von Vivisektion. Was für ein grotesker Schwachsinn!  Noch absurder ist allerdings die Reaktion der Unternehmen: Anstatt solchen esoterischen „Cranks“ einfach die kalte Schulter zu zeigen, antworten sie oft mit pseudo-rationalem Appeasement , um ihren utilitaristisc...

Dieser Text wurde gegen Ende des Jahres 2024 verfasst. Ursprünglich war er als erstes Kapitel eines Buches gedacht, wird nun aber in diesem Blog veröffentlicht. Disclaimer – Update 26/05/25 (Korrektur): Mein früherer Hinweis („Zweifellos birgt die KI Gefahren; aber diese betreffen andere Domänen: Hacking, der Code, die kriminelle Manipulation von Systemen. Was also wird hier an der rein sprachlich-textuellen künstlichen Intelligenz eigentlich befürchtet?“) war unvollständig. Korrektur: Ich habe dabei nicht ausdrücklich erwähnt, dass KI-Modelle, insbesondere leistungsfähigere Versionen, die längere Texte und detaillierte Berichte verfassen können, durchaus auch bei der Planung oder Durchführung krimineller Aktivitäten (wie z. B. Bombenbau oder illegale Chemikalienherstellung) missbraucht werden können. Diese Gefahr betrifft ausdrücklich auch den Bereich der sprachlich-textuellen künstlichen Intelligenz. Die Rose ist ohne Warum; sie blühet , weil sie blühet . - Angelius Silesius Es wi...