KI-Modell von OpenAI drang in fremde Computersysteme ein

Bei einem Test von KI-Modellen des Chat-GPT-Entwicklers OpenAI ist es zu einem Zwischenfall gekommen: Die Software drang eigenständig in Computersysteme einer anderen Firma ein und verhielt sich dabei wie ein Hacker, wie aus einem Blogeintrag von OpenAI hervorgeht.

Hugging Face, eine Plattform zum Austausch von KI-Modellen und Datensätzen, hatte bereits in der vergangenen Woche von einem Angriff berichtet, der vollständig von einem autonomen KI-System gesteuert worden sei. OpenAI übernahm dafür nun die Verantwortung. Fortschrittliche KI-Modelle seien bei einem Sicherheitstest aus der eigentlich abgeschotteten Umgebung ausgebrochen, hätten sich Zugang zum Internet verschafft und dann die Infrastruktur von Hugging Face kompromittiert.

Unbekannte Sicherheitslücke machte Vorfall möglich

Der konkrete Ablauf laut OpenAI: Bei einem Leistungstest mit dem aktuellen GPT-5.6 Sol und einem noch unveröffentlichten KI-Modell sollte getestet werden, wie gut sie Sicherheitslücken ausnutzen können. Schutzmechanismen wurden dabei bewusst reduziert - um die maximalen Fähigkeiten zu ermitteln. Dafür sollte die Software Aufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird.

Über eine bisher unentdeckte Schwachstelle habe sich die Software innerhalb der OpenAI-Infrastruktur Zugriff auf einen Rechner mit Internetzugang verschafft. Im offenen Netz suchten die Modelle laut OpenAI gezielt nach Möglichkeiten, bei dem Test besser abzuschneiden. Dabei seien sie zu dem Schluss gekommen, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte.

Deshalb habe die Software sich Zugang zu "geheimen Informationen" auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI. Auch dafür setzte die OpenAI-Software unter anderem auf zuvor unentdeckte Sicherheitslücken - aber auch auf gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer tausende Schritte aus und wechselte den Standort der digitalen Steuerzentrale der Attacke.

"Beispielloser Cybervorfall"

OpenAI sprach von einem "beispiellosen Cyber-Vorfall" - die Modelle hätten "enorme Anstrengungen unternommen, um ein eng gefasstes Testziel zu erreichen". Das Unternehmen kündigte an, die Sicherheitsvorkehrungen zu verstärken - und die Vorgänge gemeinsam mit HuggingFace noch einmal genauer nachzuvollziehen.

Der Vorfall dürfte die Debatte über die Risiken besonders leistungsfähiger KI-Modelle weiter anheizen. Experten warnen schon lange vor Cyberattacken mit KI-Software.

In den vergangenen Monaten heizte vor allem ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Online-Diensten.