Dieser Nachrichtenartikel ist eine KI-generierte Übersetzung aus dem Niederländischen ins Deutsche.
Anthropic hat kürzlich bekannt gegeben, dass jeder Text, den der Chatbot Claude generiert, künftig ein unsichtbares Wasserzeichen tragen wird. Die Maßnahme soll für mehr Transparenz in unserer Welt voller KI-generierter Inhalte sorgen. Doch wie zuverlässig ist diese Technologie?
Seit Anthropic diese Maßnahme angekündigt hat, tauchen immer wieder einige Fragen auf. Funktioniert das tatsächlich? Ist es eine gute Idee? Und die vielleicht am häufigsten gestellte Frage: Lässt sich das Wasserzeichen umgehen?
Um zu verstehen, wie ein für das bloße Auge unsichtbares Wasserzeichen in KI-Text funktioniert, muss man zunächst wissen, wie ein Sprachmodell Sätze bildet. „Ein Sprachmodell sagt jeweils ein Wort – oder eigentlich ein Token – auf der Grundlage des vorangehenden Textes voraus und arbeitet dabei mit Wahrscheinlichkeitsberechnungen“, erklärt Paul Van Eecke, Professor für Computerlinguistik an der VUB. „Für das Wort ‚Hund‘ würde das Modell beispielsweise dem Wort ‚bellt‘ eine hohe Wahrscheinlichkeit zuweisen und dem Wort ‚Computer‘ eine vernachlässigbar geringe Wahrscheinlichkeit. Wichtig ist, dass das Modell nicht immer das wahrscheinlichste Wort auswählt, da dies zu langweiligen, vorhersehbaren Texten führen würde. Stattdessen wird jedes Mal ein Wort aus der Wahrscheinlichkeitsverteilung ausgewählt, wobei wahrscheinlichere Wörter auch eine größere Chance haben, tatsächlich ausgewählt zu werden.“
Genau bei dieser Auswahl greift ein Wasserzeichen ein. Wenn mehrere Wortkandidaten in etwa gleich wahrscheinlich sind, wählt ein Modell normalerweise zufällig zwischen diesen Optionen aus. In einem mit einem Wasserzeichen versehenen Modell ist diese Auswahl nicht wirklich zufällig, sondern erfolgt durch das, was Van Eecke einen „pseudozufälligen Prozess“ nennt: Für den Nutzer sieht es wie Zufall aus, aber in Wirklichkeit ist das Ergebnis festgelegt. „Wenn man diesen bestimmten Schlüssel hat, kann man die Zuordnung der Wörter tatsächlich vorhersagen“, sagt er.
Der Würfel, der kein Würfel ist
Um dieses Prinzip zu verdeutlichen, greift Van Eecke auf eine Analogie zum Brettspiel „Monopoly“ zurück. „Monopoly hat ein Zufallselement, nämlich den Würfel: In jedem Zug würfelt man. Man könnte Monopoly auch ohne Würfel spielen, sondern beispielsweise mit einem Knopf, den man drückt und der einem jedes Mal die nächste Dezimalstelle von Pi angibt.“ Für die Spieler selbst ändert sich nichts: Das Spiel funktioniert weiterhin, und niemand bemerkt den Unterschied zwischen einem tatsächlichen Würfelwurf und einer Ziffer aus Pi. „Aber wenn man weiß, dass es einen Code gibt, und man diesen Code kennt und Pi kennt, dann kann man erkennen, welche Partien mit dem Pi-Knopf gespielt wurden und welche nicht.“ Auf Sprachmodelle übertragen bedeutet das: An jeder Stelle, an der Mehrdeutigkeit zwischen mehreren Wörtern besteht, wird die Wahl subtil durch einen verborgenen, modellspezifischen Schlüssel gelenkt. „Wer diesen Schlüssel besitzt, kann im Nachhinein anhand eines ausreichend langen Textes mit sehr hoher Sicherheit feststellen, ob dieser von genau diesem Modell verfasst wurde“, sagt Van Eecke.
Ryan Ott, Machine-Learning-Ingenieur beim belgischen KI-Unternehmen ML6, erkennt diesen Mechanismus und fügt ein weiteres Bild hinzu, das in der Fachliteratur häufig verwendet wird: „Das wird oft anhand einer grünen und einer roten Liste erklärt. In einem Text ohne Wasserzeichen würde man eine annähernd gleichmäßige Verteilung zwischen den beiden Listen erwarten. In einem Text mit Wasserzeichen verschiebt sich dieses Gleichgewicht leicht, ohne dass ein Leser dies bemerkt.“ Anthropic hat diese Technik nicht erfunden. Sie baut auf SynthID auf, einer Methode, die Google DeepMind bereits 2024 in einer Forschungsarbeit veröffentlicht hat. „Vor einigen Jahren habe ich auf einer Konferenz einen Vortrag besucht, bei dem Google DeepMind diese Art der Wasserzeichen-Einfügung vorgestellt hat“, sagt Van Eecke. Ott bestätigt dies. „Anthropic ist das erste Unternehmen, das diese Technik breit und öffentlich in allen seinen Produkten einsetzt, wobei ausdrücklich der Europäische KI-Gesetz als Motivation genannt wird“, sagt Ott.
Warum gerade jetzt und warum Anthropic?
Dass das Wasserzeichen plötzlich überall diskutiert wird, überraschte Ott zunächst. „Die Diskussion in den Medien nahm schnell zu, aber ich halte sie in gewisser Weise für logisch.“ Seiner Meinung nach liegt die Erklärung im Zusammenspiel zweier Faktoren: der durch das KI-Gesetz vorgegebenen festen Frist und der Tatsache, dass Anthropic einer der wenigen Akteure ist, die die Technik sofort auf alle ihre Ergebnisse anwenden.
Das KI-Gesetz verpflichtet KI-Anbieter tatsächlich dazu, sicherzustellen, dass alle Ergebnisse ihrer Chatbots – also auch Videos, Fotos, Audiodateien und Texte – in einem „maschinenlesbaren Format“ als künstlich erzeugt oder manipuliert erkennbar sind, wie es Artikel 50 des KI-Gesetzes wörtlich vorschreibt. Letztendlich werden alle KI-Anbieter keine andere Wahl haben, als Wasserzeichen einzubauen, damit sie mit ihrer eigenen Erkennungssoftware nachweisen können, dass Bilder oder Texte von ihrer KI-Software generiert oder manipuliert wurden. Das KI-Gesetz sieht jedoch eine Ausnahme vor, beispielsweise für eine „Hilfsfunktion zur Standardbearbeitung“: Man denke dabei an eine Rechtschreib- oder Grammatikprüfung. In einem solchen Fall verlangt Europa nicht, dass eine Erkennung möglich ist.
Anthropic ist das erste Unternehmen, das so offen darüber kommuniziert, wie es Wasserzeichen einsetzen und weltweit einführen wird. Dies steht im Gegensatz zu Google, das zwar SynthID entwickelt hat, es aber nicht überall aktiv einsetzt, und zu OpenAI, das sich noch zurückhält.
Auch KI-Anbieter profitieren davon
Dennoch spielen laut Van Eecke und Ott auch andere Interessen eine Rolle, die wenig mit Regulierung zu tun haben. KI-Unternehmen sehen sich allmählich mit einem Mangel an neuen, nicht KI-generierten Trainingsdaten konfrontiert. Das Trainieren mit den eigenen Ergebnissen führt nur zu einem Qualitätsverlust. „Diese Unternehmen haben also einen sehr starken Anreiz, erkennen zu können, was sie selbst generiert haben, damit sie nicht versehentlich mit ihren eigenen Texten trainieren“, sagt Van Eecke. Ott bestätigt dies: „Ich denke, für sie könnte das tatsächlich ein sehr angenehmer Nebeneffekt sein. Ich gehe davon aus, dass wir kurz davor stehen, dass der neue Text ausgeht – wenn wir diesen Punkt nicht sogar schon erreicht haben.“ Miguel Degeneffe vom in Hasselt ansässigen KI-Dienstleistungsunternehmen AI-D geht sogar noch weiter und nennt dies den Hauptgrund: „Das Internet ist voll von KI-generierten Inhalten. Angesichts dieser riesigen Menge an KI-Müll im Internet, auch bekannt als ‚KI-Slop‘, können sie nicht weiter trainieren.“