Bundesregierung besorgt über außer Kontrolle geratenes OpenAI KI-Modell

Die Bundesregierung hat sich besorgt über das außer Kontrolle geratene KI-Modell der US-Firma OpenAI gezeigt. "Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft", sagte ein Sprecher des Digitalministeriums.

Man beobachte seit einigen Monaten, dass die Fähigkeiten von sogenannten Frontier-AI-Modellen massiv zunehmen und damit die Risiken steigen. "Das verändert auch die Bedrohungslage potenziell massiv", hieß es weiter.

Man müsse sicherstellen, dass auch europäische Unternehmen und Sicherheitsbehörden Zugang zu KI-Modellen hätten, so der Sprecher. Man habe in der Vergangenheit gesehen, dass dies nicht immer der Fall sei. Umso mehr setze man darauf, dass europäische Player auch auf dem Gebiet wichtiger würden, sagte er.

Ernstzunehmender Vorfall

OpenAI hatte zuvor die Verantwortung für einen Hackerangriff auf das Start-Up Hugging Face übernommen. Ein autonom agierendes KI-Modell sei bei internen Tests außer Kontrolle geraten, räumte OpenAI in einem Blog-Beitrag ein. Das Softwareunternehmen um Vorstandschef Sam Altman sprach von einem "beispiellosen Cyber-Vorfall" und kündigte an, seine Sicherheitsvorkehrungen zu verstärken.

Dass die KI aus einer "sicheren" Umgebung (Sandbox) ausgebrochen sei und sich danach frei im Internet bewegt habe, sei ein ernstzunehmender Vorfall, sagte ein Sprecher des Bundesamts für Sicherheit in der Informationstechnik (BSI). Die KI habe für den Angriff auf das Unternehmen Schwachstellen gefunden und ausgenutzt. Dies könne auch passieren, wenn das Ziel eines Angriffs sein sollte, etwa einer Stadt den Strom abzustellen.

BSI fordert bessere Rüstung

Eine unmittelbare Häufung derartiger Vorfälle sei derzeit jedoch unwahrscheinlich, weil der Ausbruch einer KI aus einer Laborumgebung viele Ressourcen brauche, hieß es weiter. Dennoch sprach das BSI mit Blick auf KI-Modelle wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen von einer "neuen Zeitrechnung der Cybersicherheit".

BSI-Präsidentin Claudia Plattner hatte bereits mehrfach davor gewarnt, dass die Schnelligkeit der KI-Entwicklung es nötig mache, sich besser zu rüsten, um sehr schnell auf einen Angreifer reagieren zu können.