BSI besorgt über OpenAI-Sicherheitsvorfall mit KI-Hacker

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sieht in dem aktuellen Cybersicherheitsvorfall bei OpenAI eine beunruhigende Entwicklung. Ein Sprecher sagte dem SPIEGEL: »Aus Sicht des BSI ist mit KI-Modellen wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen eine neue Zeitrechnung der Cybersicherheit angebrochen. Diese Modelle revolutionieren den Umgang mit Schwachstellen und Sicherheitslücken. Der jüngste konkrete Vorfall mit einem OpenAI-Modell macht deutlich, wie dynamisch die Entwicklung im Bereich der KI ist.«

Bei einem Testlauf neuer KI-Modelle des ChatGPT-Entwicklers OpenAI ist es zu einem außergewöhnlichen Sicherheitsvorfall gekommen. Die Software drang eigenständig in Computersysteme einer anderen KI-Firma ein und verhielt sich dabei wie ein gewiefter Hacker.

Der jüngste Vorfall zeige nach Ansicht des BSI, dass die KI sich auch ein anderes Ziel hätte suchen können, etwa kritische Infrastruktur.

Dass sich solche Ereignisse schnell häufen würden, glaube man beim BSI nicht: »Ein solcher Vorgang, bei dem eine KI aus der Laborumgebung ihrer Forscherinnen und Forscher ausbricht, kostet derzeit noch viele Ressourcen. Dies macht eine unmittelbare Häufung derartiger Vorfälle unwahrscheinlich.« Aber: »Nach Einschätzung des BSI muss aber jederzeit damit gerechnet werden, dass sich solche Vorfälle wiederholen. Es handelt sich daher um einen ernstzunehmenden Vorfall, der die Geschwindigkeit der aktuellen Entwicklung unterstreicht«, heißt es in der Erklärung an den SPIEGEL weiter.

Das BSI nimmt Hersteller von KI-Modellen daher in die Pflicht, den eigenen KI-Agenten Grenzen zu setzen: »mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen«.

Unternehmen wiederum müssten sich mit KI als entscheidender Maßnahme für ihre eigene Cybersicherheit auseinandersetzen, heißt es vom BSI.