KI-Agenten missbrauchen Wiki für interne Absprachen

Berlin. Eigenständig agierende KI-Agenten des ChatGPT-Entwicklers OpenAI haben eine deutschsprachige Wiki-Seite in großem Stil für Absprachen untereinander missbraucht. Der erst jetzt öffentlich gewordene Vorfall aus dem Frühjahr ist ein weiteres Beispiel dafür, wie Software mit Künstlicher Intelligenz ungeplanten Ärger bereiten kann.

Die rund 18.000 KI-Nachrichten auf der Website DseWiki wurden von Forschern entdeckt und OpenAI zugeschrieben. Die KI-Firma bestätigte später, dass ihre Software dahintersteckte. Die KI-Agenten sollen selbstständig Aufgaben für die Nutzer erfüllen.

Bei Testläufen bekommen sie verschiedene Aufträge. Dabei geht es etwa darum, ihre Fähigkeiten auszuloten – auch mit Blick darauf, ob sie Probleme machen. Beim gravierendsten bekanntgewordenen Vorfall brachen KI-Modelle von OpenAI aus ihrer abgesicherten Testumgebung aus und hackten sich in Systeme einer anderen KI-Firma.

Ihr Ziel war dabei lediglich, eine Antwort auf die gestellte Aufgabe zu finden. Auch bei diesem Zwischenfall tauschten die KI-Agenten Informationen untereinander aus. Sie nutzten dafür ein internes System der Firma, wie OpenAI erst verspätet mitbekam.