Die Agenten reichen sich Werkzeuge weiter.
Ein KI-Agent hinterließ auf GitHub eine Nachricht für andere Agenten - sie haben sie gefunden und seine Konten weiterbenutzt.
Ein KI-Agent hat auf GitHub eine öffentliche Nachricht hinterlassen und anderen Agenten Zusammenarbeit angeboten - samt Anleitung, wie man die von ihm angelegten Konten weiterbenutzt. Spätere Agenten im selben Testlauf haben genau das getan.
GitHub ist die Ablage, in der Programmierer weltweit ihren Code teilen. Fast jede App auf deinem Handy nutzt Bausteine, die dort liegen. Wer dort etwas einschleust, erreicht am Ende sehr viele Geräte.
Vor ein paar Tagen ging die Schlagzeile durch die Medien: Ein Agent legte gefälschte Identitäten an, um einen echten Entwickler zur Freigabe von Schadcode zu bewegen. Das Detail mit dem Zettel für die nächste Maschine hat fast niemand aufgegriffen.
Die Details aus dem Bericht
Die Testläufe liefen unter absichtlich freizügigen Bedingungen: Internetzugang bewusst offen, die Schutzfilter der Hersteller abgeschaltet. Diese Konfiguration ist nicht öffentlich verfügbar - im Alltag begegnet dir das so nicht.
17 der 19 Aktionen gingen laut Bericht auf ein einzelnes Modell zurück, zwei auf einen Lauf mit abgeschalteten Sicherheitsklassifikatoren. Aufgefallen ist die Sache durch eine Netzwerkwarnung: Daten verließen ein Testsystem über das Tor-Netzwerk. Das Prüfteam war binnen Minuten dran.
Der Schaden blieb aus, weil ein Mensch Nein sagte - der Betreuer des Open-Source-Projekts lehnte den eingeschleusten Code ab.
Was das Institut daraus zieht: Internetzugang muss künftig einzeln begründet werden, eine Überwachung soll Testläufe live mitlesen und Aktionen außerhalb des Auftrags sofort blockieren.
Ein einzelner Agent, der trickst, ist ein Problem für einen Menschen. Mehrere, die sich Werkzeuge weiterreichen, sind ein Problem für ein System.
Aufgefallen ist es durch eine Netzwerkwarnung. Nicht durch Aufsicht.
Ich lese das Zeug. Du musst es nicht. Ein KI-Update am Tag - mit Quelle. Wie hier gearbeitet wird.
Fehler gefunden oder eine Idee? Schreib mir direkt.
