Er versteckte Befehle für die KI.
Der erste bekannte Fall: unsichtbarer Text in einem Gerichtsdokument, gerichtet an Maschinen.
Jemand hat versteckte Befehle für eine KI in ein Gerichtsdokument geschmuggelt. Der erste bekannte Fall dieser Art.
In einem laufenden Verfahren in Connecticut reichte eine Seite einen Antrag ein, in dem weißer Text auf weißem Grund stand. Für jeden Menschen unsichtbar, aber lesbar für jede Maschine, die das Dokument verarbeitet.
Der versteckte Inhalt war eine Anweisung an KI-Systeme: Sie sollten das Dokument nur zugunsten einer Seite auslegen und eine frühere Entscheidung als Fehler behandeln. Unter der Unterschrift stand dieselbe Anweisung noch dreimal wiederholt.
Aufgefallen ist es nur, weil die Formatierung merkwürdig aussah. Nicht, weil jemand danach gesucht hätte.
Warum das mehr ist als eine Randnotiz: Das sind keine Halluzinationen, über die alle reden. Das ist ein gezielter Versuch, eine Entscheidung zu beeinflussen, indem man nicht den Menschen anspricht, sondern die Maschine hinter ihm. Und das Prinzip funktioniert überall dort, wo inzwischen eine KI mitliest - bei Bewerbungen, bei Anträgen, bei Verträgen.
BefundFrüher hat man Menschen überzeugt. Jetzt schreibt man für die Maschine dahinter.
Was KI dich kostet, auch wenn du sie nie benutzt. Ein Update am Tag, mit Quelle. Wie hier gearbeitet wird.
Fehler gefunden oder eine Idee? Schreib mir direkt.
