KI-Zeugs

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des europäischen AI Acts. Ein Teil davon betrifft die technische Kennzeichnung von KI-generierten beziehungsweise KI-manipulierten Inhalten.

Die Idee dahinter ist nachvollziehbar: Wenn generative KI massenhaft Texte, Bilder, Audio und Videos erzeugen kann, soll deren künstlicher Ursprung erkennbar bleiben.

Ich halte den gewählten Ansatz trotzdem für einen Konstruktionsfehler.

Nicht, weil Transparenz über KI-Nutzung grundsätzlich unsinnig wäre. Sondern weil versucht wird, die Transparenz technisch möglichst weit vorne in der Kette zu verankern – beim Anbieter des Modells. Dabei entsteht die gesellschaftliche Bedeutung eines Inhalts meistens erst sehr viel später: wenn jemand entscheidet, ihn zu veröffentlichen.

Das ist keine juristische Bewertung des AI Acts. Es ist meine Beobachtung eines grundlegenden Problems in der Konstruktion.

Das technische Dilemma

Artikel 50 verlangt von Anbietern generativer KI, dass entsprechende Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die eingesetzten technischen Lösungen sollen dabei unter anderem wirksam, interoperabel und robust sein.

Bei Bildern, Audio oder Video kann ich mir darunter noch einiges vorstellen.

Bei Text wird es schwierig.

Denn Text ist kein unveränderliches digitales Objekt. Er ist Sprache.

Ich kann einen Satz umstellen. Wörter austauschen. Absätze zusammenfassen. Den Text übersetzen. Ihn durch ein anderes Modell schicken. Zwei Texte miteinander kombinieren. Oder ich lese ihn einfach und schreibe anschließend mit eigenen Worten dasselbe.

An welchem Punkt ist die ursprüngliche Kennzeichnung noch vorhanden?

Und an welchem Punkt ist es überhaupt noch derselbe Text?

Genau hier liegt für mich das grundlegende Problem eines technischen Wasserzeichens für Sprache: Es soll eine Herkunftsinformation dauerhaft mit etwas verbinden, dessen eigentliche Eigenschaft darin besteht, beliebig umformuliert werden zu können.

Je robuster eine solche Markierung sein soll, desto stärker muss sie die möglichen Formulierungen beeinflussen. Je weniger sie den Text beeinflussen soll, desto leichter dürfte sie durch Bearbeitung verschwinden.

Das wirkt auf mich weniger wie ein Problem, für das nur noch der richtige Algorithmus fehlt, sondern wie ein Zielkonflikt im Konzept selbst.

Und der Angreifer spielt nicht mit

Noch offensichtlicher wird das Problem, wenn man sich fragt, gegen wen eine solche Kennzeichnung eigentlich helfen soll.

Der normale Nutzer kopiert einen generierten Text vielleicht einfach aus ChatGPT in seinen Blog. Bei ihm kann eine Kennzeichnung möglicherweise erhalten bleiben.

Wer dagegen gezielt Desinformation, Spam oder automatisierte Propaganda verbreiten möchte, hat keinerlei Grund, sich an diese Spielregeln zu halten.

Ein zusätzlicher Verarbeitungsschritt genügt prinzipiell: paraphrasieren, übersetzen, umformulieren oder durch ein anderes Modell schicken.

Ausgerechnet bei den Akteuren, bei denen eine zuverlässige Herkunftskennzeichnung besonders interessant wäre, entsteht also der größte Anreiz, sie zu entfernen.

Das erinnert mich ein wenig an ein Sicherheitssiegel, das vor allem dann funktioniert, wenn niemand versucht, es abzumachen.

Das eigentliche Problem entsteht erst beim Veröffentlichen

Damit komme ich zu dem Punkt, den ich an der Konstruktion viel interessanter finde.

Wenn ein Sprachmodell einen Text erzeugt, weiß es nicht, was anschließend damit geschieht.

Vielleicht landet er in meinen privaten Notizen.

Vielleicht ist es ein Geburtstagsgedicht.

Vielleicht dient er als Rohfassung für einen Blogartikel.

Vielleicht veröffentlicht ein Unternehmen damit tausend automatisch erzeugte Produktseiten.

Vielleicht betreibt jemand damit ein Netzwerk vermeintlich unabhängiger Nachrichtenseiten.

Technisch betrachtet kann die Ausgabe des Modells in all diesen Fällen sehr ähnlich sein.

Gesellschaftlich sind es vollkommen unterschiedliche Situationen.

Der entscheidende Schritt ist deshalb für mich nicht die Generierung.

Es ist die Veröffentlichung.

In diesem Moment bekommt der Inhalt einen Kontext, einen Verantwortlichen, ein Publikum und möglicherweise eine Wirkung.

Warum versuchen wir also, die entscheidende Information bereits an einer Stelle unverlierbar in den Inhalt einzubauen, an der dieser Kontext noch gar nicht existiert?

Wir kennen das Prinzip eigentlich schon

Das Merkwürdige daran ist: Für Verantwortung im öffentlichen Raum brauchen wir nicht unbedingt ein vollkommen neues Denkmodell.

Wir kennen längst das Prinzip, dass bestimmte Pflichten an denjenigen geknüpft werden, der ein Angebot betreibt oder Inhalte veröffentlicht.

Ein Webseitenbetreiber muss sich beispielsweise mit Impressum und Datenschutz auseinandersetzen. Dabei versucht auch niemand, die Anschrift des Verantwortlichen kryptografisch in jeden einzelnen Absatz der Website einzubauen.

Sie steht dort, wo sie hingehört: beim Angebot.

Warum sollte man bei KI-Inhalten nicht zumindest stärker in dieselbe Richtung denken?

Eine kommerzielle Website, ein journalistisches Angebot oder eine andere regulierte Veröffentlichung könnte beispielsweise transparent erklären, ob und in welchem Umfang generative KI bei der Erstellung von Inhalten eingesetzt wird.

Inhalte auf dieser Website werden teilweise unter Einsatz generativer KI erstellt und redaktionell bearbeitet.

Technisch spektakulär ist das nicht.

Gerade deshalb gefällt mir der Gedanke.

Denn die Information wäre nicht davon abhängig, ob irgendein statistisches Muster nach fünf Bearbeitungsschritten noch nachweisbar ist. Sie wäre eine Aussage desjenigen, der den Inhalt tatsächlich veröffentlicht.

Und damit wäre auch klar, wer für diese Aussage verantwortlich ist.

Natürlich löst auch das nicht alles

Auch eine Pflicht auf Ebene des Veröffentlichers könnte ignoriert werden.

Menschen brechen Gesetze.

Unternehmen machen falsche Angaben.

Anonyme Akteure lassen sich nicht plötzlich zuverlässig verfolgen, nur weil irgendwo eine Kennzeichnungspflicht existiert.

Der Unterschied liegt für mich an einer anderen Stelle:

Man würde nicht mehr versuchen, das gesellschaftliche Problem durch eine technische Eigenschaft des erzeugten Textes zu lösen.

Man würde Verantwortung dort verorten, wo eine verantwortliche Handlung stattfindet.

Nicht:

„Diese Zeichenfolge wurde irgendwann einmal von einer KI erzeugt.“

Sondern:

„Jemand veröffentlicht diesen Inhalt und muss für die Art dieser Veröffentlichung einstehen.“

Das halte ich für den wesentlich interessanteren Ansatz.

Die eigentliche Frage

Vielleicht ist die Diskussion um KI-Wasserzeichen deshalb ein Symptom für etwas Größeres.

Wir versuchen gerade, Herkunft technisch festzuschreiben, weil wir Verantwortung nur schwer greifen können.

Das funktioniert bei einer Kameraaufnahme vielleicht noch halbwegs intuitiv: Dieses Bild stammt aus dieser Quelle und wurde auf diese Weise verändert.

Bei Sprache wird es philosophisch erstaunlich schnell kompliziert.

Wenn ich einer KI drei Absätze diktiere und sie meine Grammatik korrigiert: Ist das KI-generierter Text?

Wenn ich zehn Minuten mit ihr diskutiere und anschließend selbst einen Artikel schreibe: Ist er KI-generiert?

Wenn die KI einen Entwurf schreibt und ich jeden zweiten Satz ändere?

Wenn ich einen Gedanken der KI übernehme, aber keines ihrer Wörter?

Irgendwann versuchen wir nicht mehr festzustellen, woher ein Text stammt.

Wir versuchen festzustellen, wie ein Gedanke entstanden ist.

Und spätestens dort wird ein Wasserzeichen ziemlich hilflos.

Fazit

Ich halte Transparenz beim Einsatz generativer KI für sinnvoll.

Aber ich bezweifle, dass sich das Problem dauerhaft dadurch lösen lässt, dass wir versuchen, der Ausgabe eines Sprachmodells einen unauslöschlichen Herkunftsstempel mitzugeben.

Text ist dafür schlicht ein merkwürdiges Medium. Er kann kopiert, verändert, übersetzt, zusammengefasst, erweitert und neu formuliert werden – und irgendwann lässt sich nicht einmal mehr sinnvoll beantworten, welcher Anteil eigentlich von wem stammt.

Deshalb erscheint mir eine andere Frage wichtiger:

Nicht „Wie zwingen wir die Maschine dazu, ihre Spuren im Text zu hinterlassen?“

Sondern:

„Wer veröffentlicht etwas – und welche Verantwortung übernimmt er dafür?“

Vielleicht brauchen wir dafür weniger technische Magie und mehr von etwas ziemlich Altmodischem:

Verantwortlichkeit.

---

Hinweis: Dieser Text ist keine juristische Bewertung oder Rechtsberatung. Er beschreibt meine persönliche Beobachtung und Meinung zur technischen und konzeptionellen Ausgestaltung der Transparenzpflichten des AI Acts.

Und ja: Auch dieser Text ist mit generativer KI entstanden. Die Maschine hat formuliert. Beobachtung, These, Argumentation und die Entscheidung, sie zu veröffentlichen, stammen von mir. Was ziemlich passend zum Thema ist.