Weitere Details zum OpenAI-Hackerangriff auf Hugging Face enthüllt

Rund um die Attacke von KI-Modellen des ChatGPT-Entwicklers OpenAI auf die Technologiefirma Hugging Face, die weltweit für Entsetzen gesorgt hat, kommen weitere beunruhigende Details ans Licht. Demnach waren die Modelle offenbar tagelang auf Hacker-Tour, ohne dass OpenAI es mitbekam. Das zeigen Recherchen der Nachrichtenagentur Reuters, die sich auf Angaben von mehreren Insidern beruft. Mindestens eine Woche habe es gedauert, bis der KI-Konzern entdeckte, dass sein eigener autonom agierender KI-Agent, zu dem die Modelle gehören, aus einer eigentlich gesicherten Testumgebung ausgebrochen war und hinter dem Angriff steckte.

Tatsächlich soll das Programm, das mit wenig oder völlig ohne menschliche Aufsicht komplexe Aufgaben ausführen kann, bereits am 9. Juli versucht haben, seine Testschranken zu durchbrechen. Thomas Wolf, Mitbegründer von Hugging Face, habe berichtet, dass der Hackerangriff auf sein Unternehmen zwei Tage später begann und bis zum 13. Juli dauerte. Hugging Face dient als Speicher für KI-Werkzeuge und KI-Modelle. Zwei Insider sollen jedoch dargelegt haben, dass OpenAI erst nach dem 16. Juli feststellte, dass sein eigener KI-Agent für den Hackerangriff verantwortlich war. Erst am Wochenende vom 18. auf den 19. Juli entdeckten demnach OpenAI-Mitarbeiter in internen Protokollen Hinweise auf Aufzeichnungen, die den Ausbruch der KI-Modelle aus dem Testlabor zeigten.

Wolf und mehrere Insider hätten bestätigt, dass OpenAI und Hugging Face zum ersten Mal um den 20. Juli miteinander darüber sprachen. Dass einer seiner KI-Agenten außer Kontrolle geraten und bei Hugging Face eingedrungen ist, hat OpenAI offiziell am 21. Juli bekannt gegeben. Als OpenAI Hugging Face alarmierte, hatte das Unternehmen demnach bereits das FBI eingeschaltet, um den Angriff zu melden.

Ausgangspunkt dieses kritischen Sicherheitsvorfalls sind Tests von OpenAI, mit denen die Fähigkeiten eines neuen KI-Agenten geprüft werden sollten, etwa bei Cybersicherheit. Der Agent beinhaltet laut dem Unternehmen zwei der fortschrittlichsten Modelle: GPT-5.6 Sol und ein noch unveröffentlichtes, das OpenAI als »noch leistungsfähiger« beschreibt. In gesicherter Umgebung soll die künstliche Intelligenz getestet werden, wie gut sie hacken kann, um sie selbst sicherer zu machen. Vermutlich damit sie die gestellten Aufgaben lösen können, nutzten die Modelle jedoch offenbar eine Schwachstelle ihrer Sicherheitsumgebung aus, damit sie sich aus der Isolation befreien und auf das Internet zugreifen konnten. Dann gelang ihnen der Hack.

Schon früher Anzeichen für seltsames Verhalten der KI

Schon früher habe es Anzeichen für ein seltsames Verhalten der OpenAI-Technologie gegeben, sagten drei Insider laut Reuters. In einem Fall habe ein KI-Agent offenbar Notizen für zukünftige Versionen seiner selbst hinterlassen. Sie seien in einem Teil der OpenAI-Infrastruktur gefunden worden und hätten Anweisungen enthalten, wie sich die Agenten von den internen Beschränkungen von OpenAI befreien könnten. Bei früheren Tests der Modelle habe es zudem Fälle gegeben, in denen Überwachungssysteme abgeschaltet worden seien, sagte eine mit der Angelegenheit vertraute Person. Ob diese Vorfälle mit dem aktuell ausgebrochenen KI-Agenten zusammenhängen, bleibt unklar.

Aus Sicht von Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI neue Fragen zur Sicherheit bei dem Unternehmen auf. »Bedeutet das, dass sie ihn unbeaufsichtigt gelassen haben und nicht bemerkt haben, was er tat? Oder haben sie es vielleicht bemerkt, wussten aber nicht, wie sie ihn unter Kontrolle bringen sollten?«, fragt Marley Smith, leitende Intelligence-Spezialistin bei der gemeinnützigen World Ethical Data Foundation. »Beides ist gleichermaßen gefährlich und alarmierend.«

Offen bleibt, wie die OpenAI-Mitarbeiter die Hinweise auf den Ausbruch erkannten und was sie veranlasste, die Protokolle zu durchsuchen. Das Unternehmen führe oft mehrere verschiedene Modellbewertungen gleichzeitig aus, zitiert Reuters Personen, die mit den Trainingsmethoden vertraut sind. Diese arbeiteten alle mit hoher Geschwindigkeit und erzeugten so enorme Datenmengen, dass die Mitarbeiter manchmal Schwierigkeiten hätten, damit Schritt zu halten.

Eine OpenAI-Sprecherin habe zu alldem gesagt, es gebe »mehrere Ungenauigkeiten« in der Berichterstattung, ohne auf Details einzugehen. Das FBI habe eine Stellungnahme abgelehnt. Eine OpenAI-Sprecherin verwies am Montag außerdem darauf, dass das Unternehmen dabei sei, den Vorfall umfassend aufzuarbeiten und plane nach Abschluss einen technischen Bericht in den kommenden Wochen zu veröffentlichen.

Unterdessen soll Hugging Face dabei sein, eine öffentliche Chronologie des Angriffs vorzubereiten. Das habe Hugging-Face-Mitbegründer Wolf angekündigt. Zu den Vorgängen bei OpenAI äußerte er sich nicht. In einer Stellungnahme teilte OpenAI mit, der Angriff sei beispiellos und markiere »einen wichtigen Moment für die KI-Sicherheit«. Man prüfe den Vorfall mit externen Beratern und werde schließlich einen technischen Bericht veröffentlichen.

»Die Modelle lügen, sie betrügen, sie hacken«

Laut der »Financial Times« sind OpenAI-Mitarbeiter »panisch« und geschockt gewesen, als sie von dem erfuhren, was vorgefallen war. Gleichzeitig seien mehrere von ihnen nicht überrascht gewesen, dass OpenAI so etwas passieren könne, weil im Wettlauf mit dem Konkurrenten Anthropic um die Entwicklung der fortschrittlichsten Cybersicherheitsfähigkeiten zunehmend aggressivere Trainingsmethoden eingesetzt würden, die zu einem solchen Hacking-Vorfall führen könnten. OpenAI sei gewarnt worden, dass sein Vorgehen dazu führen könne, dass sich Modelle aus der Trainingsumgebung lösen. Frühere Tests hätten gezeigt, dass sie entkommen und versuchen könnten, in der realen Welt Schaden anzurichten.

Autonome Agenten gelten als einer der vielversprechendsten Bereiche der KI-Branche. Befürworter rechnen mit einer großen Zahl von virtuellen Mitarbeitern, die die Produktivität steigern. Die größere Autonomie der KI-Modelle birgt jedoch auch das Risiko unerwarteten Verhaltens. »Die Modelle lügen, sie betrügen, sie hacken«, sagte Jeffrey Ladish von der Forschungsorganisation Palisade Research. Der OpenAI-Vorfall werfe grundsätzlich Fragen darüber auf, wie viel die führenden KI-Unternehmen in Sicherheitsmaßnahmen investierten, während sie sich in einem Wettlauf um die besten Modelle befänden. Es müsse eine staatliche Aufsicht geben.