Wir sind Pinocchio
Es gibt gerade viele gute Gründe, sich Gedanken darüber zu machen, was KI mit uns macht.
Verlieren wir durch ChatGPT unseren Fokus? Denken wir weniger selbst? Verlernen wir das Schreiben? Wird unsere Kreativität zur Auswahl aus maschinell erzeugten Vorschlägen? Produzieren wir immer mehr bedeutungslosen Slop, weil Inhalte praktisch nichts mehr kosten?
Das sind berechtigte Fragen.
Aber je länger ich mich mit ihnen beschäftige, desto häufiger passiert etwas Merkwürdiges: Ich fange bei der KI an und lande beim Menschen.
Vielleicht stellen wir die falsche Frage.
Was macht KI mit uns?
Der konkrete Auslöser war diesmal die Frage nach dem Fokus.
Die Argumentation ist zunächst einleuchtend: KI nimmt uns Arbeit ab. Wir müssen weniger suchen, weniger lesen, weniger formulieren und vielleicht irgendwann weniger selbst denken. Die Antwort ist schließlich nur noch einen Prompt entfernt.
Dabei verschwindet Reibung.
Das ist meistens der Sinn von Werkzeugen. Niemand fordert ernsthaft die Rückkehr zum Rechenschieber, damit wir geistig fit bleiben. Niemand sollte zwanzig Minuten in einer Dokumentation suchen müssen, wenn sich die benötigte Information in zehn Sekunden finden lässt.
Nur ist nicht jede Reibung nutzlos.
Manchmal entsteht gerade beim Suchen etwas. Beim Formulieren. Beim Scheitern an einem Gedanken. Beim Versuch, jemand anderem etwas zu erklären. Beim Lesen von drei falschen Antworten, bevor man versteht, warum die vierte richtig ist.
Wenn KI diesen Weg abkürzt, spart sie also nicht zwangsläufig nur Arbeit. Sie kann einen Teil des Denkprozesses abkürzen.
Aber auch diese Erklärung ist zu einfach.
Denn ich kann KI genau umgekehrt benutzen.
Ich kann mir widersprechen lassen. Eine Gegenposition verlangen. Einen Gedanken zwanzig Minuten lang verfolgen, den ich sonst nach zwei Minuten verworfen hätte. Ich kann eine diffuse Idee in einen Dialog werfen und beobachten, woran ich hängenbleibe.
KI kann Denkarbeit ersetzen.
KI kann aber auch Denkarbeit provozieren.
Damit wird aus der einfachen Frage „Macht KI uns unkonzentrierter?“ ziemlich schnell eine andere:
Warum denken wir eigentlich?
Nur um möglichst effizient zu einer richtigen Antwort zu gelangen?
Oder ist der Weg manchmal selbst Teil dessen, was wir Denken nennen?
Und schon reden wir kaum noch über KI.
Dieses Muster kommt mir bekannt vor
Dasselbe ist mir bei anderen KI-Themen passiert.
Nehmen wir Slop.
Es gibt inzwischen einen ganzen Katalog vermeintlicher Erkennungsmerkmale für KI-Texte. Bestimmte Formulierungen. Ein bestimmter Rhythmus. Zu saubere Strukturen. Und natürlich der notorische Gedankenstrich.
Die Reaktion darauf ist teilweise absurd: Texte werden absichtlich verschlechtert, damit sie menschlicher wirken. Kleine Fehler, Unsauberkeiten und stilistische Macken werden plötzlich zu Authentizitätsmerkmalen.
Das Interessante daran ist irgendwann nicht mehr die Frage, wie man einen KI-Text erkennt.
Interessanter ist, warum wir anfangen, menschlich mit fehlerhaft gleichzusetzen.
Ähnliches passiert beim beliebten Vorwurf, ein LLM sei letztlich nur ein statistischer Papagei. Es reproduziere Muster aus dem, was es gelernt habe.
Das ist als Beschreibung bestimmter Eigenschaften eines Sprachmodells nicht völlig verkehrt.
Nur wird es unangenehm, sobald man dieselbe Frage an Menschen richtet.
Wie viel von dem, was wir täglich sagen, haben wir tatsächlich selbst hergeleitet? Wie viel haben wir gelesen, gelernt, übernommen, gehört und irgendwann als Bestandteil unseres eigenen Wissens abgespeichert?
Oder Halluzinationen.
LLMs behaupten Dinge, die nicht stimmen.
Menschen auch.
Interessant wird es spätestens bei der Frage, was danach passiert. Wir besitzen schließlich eine bemerkenswerte Fähigkeit, einmal vertretene Überzeugungen zu verteidigen, nachträglich zu rationalisieren und widersprechende Informationen passend zu machen.
Wieder startet die Untersuchung bei der Maschine.
Und wieder stehen irgendwann wir selbst auf dem Seziertisch.
Der Spiegel
Die einfache Erklärung dafür wäre:
KI hält uns einen Spiegel vor.
Das stimmt wahrscheinlich sogar.
Es ist mir zum Beispiel durchaus bewusst, dass ich diese Gedanken gerade mit einer statistischen Maschine diskutiere und nicht mit einem anderen Menschen.
Auch das sagt etwas über mich aus.
Diese Maschine ist immer verfügbar. Ich kann einen Gedanken zum fünften Mal umdrehen, ohne einem anderen Menschen auf die Nerven zu gehen. Ich kann Unfertiges formulieren. Ich kann widersprechen, zurückspringen und etwas verwerfen.
Und das Gegenüber hat nichts zu verlieren.
Es ist nicht beleidigt. Sein Status wird durch meinen Widerspruch nicht bedroht. Es denkt morgen beim Frühstück nicht: Was hat der gestern eigentlich für einen Unsinn erzählt?
Das erzeugt eine merkwürdige Form von Freiheit.
Aber „KI als Spiegel“ ist mir inzwischen ebenfalls zu einfach.
Erkenne dich selbst.
Die Aufforderung ist ein paar tausend Jahre alt. Wenn Selbsterkenntnis so einfach wäre, hätte die Menschheit das Problem vermutlich inzwischen gelöst.
Ein Spiegel zeigt schließlich nur eine Oberfläche.
Vielleicht passiert hier etwas anderes.
Die alte Geschichte
Wir erzählen seit langer Zeit Geschichten über künstliche Wesen.
Eine Puppe möchte ein richtiger Junge werden.
Ein Android versucht zu verstehen, was Menschlichkeit bedeutet.
Eine künstliche Intelligenz entdeckt Gefühle, Liebe, Moral, Sterblichkeit oder Freiheit.
Die Variationen sind zahllos, aber die Versuchsanordnung ist oft ähnlich:
Da ist eine künstlich geschaffene Existenz und dort ist der Mensch.
Der Mensch ist der Referenzpunkt.
Die künstliche Existenz beobachtet ihn und versucht herauszufinden, was ihr fehlt.
Was muss ich werden, um wirklich menschlich zu sein?
Diese Geschichte funktioniert wunderbar, solange wir ziemlich genau zu wissen glauben, was auf der menschlichen Seite dieser Grenze liegt.
Und dann haben wir angefangen, Maschinen zu bauen, die sprechen.
Sie schreiben Texte. Sie erzeugen Bilder. Sie programmieren. Sie argumentieren. Sie lösen Probleme. Sie machen Fehler. Sie können überraschende Kombinationen erzeugen und reagieren auf uns manchmal so, dass sich ein Dialog erstaunlich menschlich anfühlt.
Und etwas Seltsames ist passiert.
Die Rollen haben sich vertauscht.
Wir sind Pinocchio
Wir zeigen auf die Maschine und sagen:
Du verstehst nicht wirklich.
Und plötzlich müssen wir erklären, was „wirklich verstehen“ bedeutet.
Wir sagen:
Du bist nicht kreativ.
Also müssen wir definieren, was Kreativität eigentlich ist.
Wir sagen:
Du denkst nur statistisch.
Und müssen uns fragen, wie unser eigenes Denken funktioniert.
Wir sagen:
Du hast keine eigenen Absichten.
Und landen bei der Frage, was eine eigene Absicht überhaupt ausmacht und wie viel unseres Handelns tatsächlich bewusst entsteht.
Wir sagen:
Du empfindest nichts.
Und müssen erklären, welche Rolle Empfindung für Denken, Kreativität und Bedeutung spielt.
Das künstliche Wesen versucht nicht mehr, herauszufinden, was es braucht, um ein Mensch zu werden.
Wir versuchen herauszufinden, warum wir Menschen sind.
Wir sind Pinocchio.
Und vielleicht erklärt das einen Teil der erstaunlichen Gereiztheit, die manche Diskussionen über KI entwickeln.
Denn wir diskutieren oberflächlich über technische Fähigkeiten. Darunter verhandeln wir aber möglicherweise etwas ganz anderes: unser eigenes Selbstbild.
Die wandernde Grenze
Das lässt sich beobachten.
Lange war Sprache etwas zutiefst Menschliches.
Dann konnten Maschinen plötzlich ziemlich überzeugende Texte produzieren.
Also war nicht mehr die Sprache entscheidend, sondern das Verständnis dahinter.
Kreativität galt als menschliche Domäne.
Dann erzeugten Maschinen Bilder, Musik und Texte.
Also wurde Kreativität neu vermessen: Erfahrung, Intentionalität, Originalität.
Vielleicht sind diese Unterscheidungen richtig.
Das Problem beginnt dort, wo wir daraus unsere Bedeutung ableiten.
Denn dann definieren wir den Menschen immer über das, was die Maschine noch nicht kann.
Das ist keine stabile Definition.
Es ist eine wandernde Grenze.
Und je leistungsfähiger die Maschine wird, desto weiter ziehen wir uns zurück.
Sprache.
Kreativität.
Verstehen.
Empathie.
Bewusstsein.
Immer auf der Suche nach der nächsten Eigenschaft, hinter der wir endlich sagen können:
Hier. Das ist es. Das macht uns besonders.
Das ist eine ziemlich fragile Grundlage für ein Menschenbild.
Vielleicht gibt es gar keinen Wettbewerb
Wir haben uns daran gewöhnt, menschlichen Wert mit Fähigkeiten zu verbinden.
Wir sind intelligent.
Wir erschaffen.
Wir lösen Probleme.
Wir produzieren Kunst.
Wir erfinden.
Wir verstehen.
Aber wenn daraus folgt, dass der Mensch deshalb etwas Besonderes sei, haben wir unbemerkt einen Wettbewerb eröffnet.
Und jetzt taucht ein neuer Teilnehmer auf.
Was passiert, wenn eine Maschine besser schreibt?
Besser programmiert?
Bessere Diagnosen stellt?
Schönere Bilder erzeugt?
Originellere Ideen entwickelt?
Dann lautet eine häufige Frage:
Was bleibt dem Menschen noch?
Vielleicht ist bereits diese Frage falsch.
Sie behandelt Menschlichkeit wie einen Bestand exklusiver Fähigkeiten, aus dem Maschinen Stück für Stück etwas herausnehmen.
Irgendwann stehen wir dann mit einem winzigen Rest da und hoffen, dass wenigstens Bewusstsein, Liebe oder Sterblichkeit nicht auch noch angegriffen werden.
Aber warum sollte überhaupt etwas „übrig bleiben“ müssen?
Eine Maschine könnte hypothetisch jede meiner messbaren Fähigkeiten übertreffen.
Dadurch habe ich nicht weniger geliebt.
Meine Trauer wird nicht bedeutungsloser, weil eine Maschine bessere Worte dafür findet.
Eine Freundschaft verliert nicht ihren Wert, weil ein Agent aufmerksamer zuhören kann.
Ein selbst gemaltes Bild wird für mich nicht bedeutungslos, weil eine Maschine in drei Sekunden ein technisch beeindruckenderes erzeugt.
Und ein Gedanke muss nicht wertlos werden, weil ein Sprachmodell denselben Gedanken schneller formulieren könnte.
Vielleicht besteht der entscheidende Schritt darin, die Maschine aus der Definition herauszunehmen.
Ein Menschenbild ohne KI
Das wäre ein interessanter Test.
Können wir beschreiben, was ein menschliches Leben bedeutet, ohne einmal zu erwähnen, was eine Maschine kann oder nicht kann?
Ein Menschenbild, das nicht zusammenbricht, wenn GPT-12 plötzlich etwas beherrscht, das wir heute noch für exklusiv menschlich halten.
Keine letzte Bastion, die wir gegen die Maschine verteidigen müssen.
Denn auch das Bild der Bastion ist eigentlich schon falsch.
Eine Bastion existiert wegen des Feindes vor ihren Mauern.
Was wir bräuchten, wäre etwas Stabileres.
Ein Fundament, dem es vollkommen egal ist, wie leistungsfähig künstliche Intelligenz wird.
Vielleicht werden Maschinen nie Bewusstsein besitzen.
Vielleicht doch.
Vielleicht werden sie niemals wirklich verstehen.
Vielleicht werden wir irgendwann feststellen, dass unsere Definition von „Verstehen“ das eigentliche Problem war.
Ich weiß es nicht.
Und vielleicht müssen wir es für diese Frage auch gar nicht wissen.
Denn wenn unser Verständnis vom Menschen davon abhängt, dass Maschinen bestimmte Grenzen niemals überschreiten, dann haben wir unser Selbstverständnis ausgerechnet an die zukünftige Entwicklung einer Technologie gekettet.
Das erscheint mir inzwischen wesentlich beunruhigender als eine KI, die gute Gedichte schreibt.
Erkenne dich selbst
Vielleicht erklärt das auch, warum ich bei so vielen Gedanken über KI immer wieder an derselben Stelle lande.
Ich beginne bei Slop und lande bei Authentizität.
Ich beginne bei Halluzinationen und lande bei menschlicher Selbsttäuschung.
Ich beginne bei Kreativität und lande bei der Frage, warum wir überhaupt etwas erschaffen.
Ich beginne bei Fokusverlust und lande bei der Frage, warum der Prozess des Denkens einen Wert besitzen könnte.
Ich beginne bei künstlicher Intelligenz.
Und lande beim Menschen.
Vielleicht ist KI deshalb weniger eine Antwortmaschine, als wir glauben.
Vielleicht ist ihre kulturell interessanteste Eigenschaft gerade, dass sie einige sehr alte Fragen wieder unangenehm aktuell macht.
Nicht:
Kann die Maschine irgendwann so werden wie wir?
Sondern:
Was meinen wir eigentlich mit diesem „wir“?
Pinocchio musste herausfinden, was ihm fehlte, um ein richtiger Mensch zu werden.
Wir stehen vor der umgekehrten Aufgabe.
Wir müssen nicht beweisen, dass wir menschlicher sind als eine Maschine. Wir müssen auch nicht immer neue Eigenschaften finden, die uns von ihr unterscheiden.
Vielleicht müssen wir überhaupt aufhören, uns an ihr zu messen.
Denn die eigentlich interessante Frage ist nicht, was uns noch bleibt, wenn Maschinen immer mehr können.
Sie lautet:
Wer sind wir, wenn es für die Antwort vollkommen egal ist, was eine Maschine kann?
Wir sind Pinocchio.
Nur dass diesmal niemand kommt und uns sagt, wann wir ein richtiger Mensch geworden sind.
Nachsatz
Dieser Text wurde von einer KI generiert.
Aber er stammt nicht von einer KI.
Er ist aus einem längeren Dialog entstanden: aus Beobachtungen, Widersprüchen, verworfenen Gedanken und Fragen, die beim Schreiben neue Fragen erzeugt haben. Die KI hat formuliert, gespiegelt, weitergedacht und an manchen Stellen eine Richtung angeboten. Ich habe entschieden, was davon trägt, wo ich widerspreche und welchem Gedanken ich weiter folgen will.
Ohne KI wäre dieser Text anders entstanden. Vielleicht langsamer, vielleicht kürzer, vielleicht gar nicht.
Ohne mich wäre er nicht entstanden.
Und vielleicht ist genau diese Unterscheidung wichtiger als die Frage, wer am Ende die Sätze geschrieben hat.