Sicherheitsvorfall: KI von OpenAI kompromittierte Kunden weiterer Firma

Sicherheitsvorfall KI von OpenAI kompromittierte Kunden weiterer Firma

Experten warnen seit Langem, dass KI-Systeme eigenständig agieren und unkontrolliert Schaden anrichten können. Eine KI von OpenAI tat genau das. Wie nun bekannt wurde, sogar in einem zweiten Fall.

Wie ein versierter Hacker verschaffte sich die in einer vom Netz getrennten sogenannten Sandbox eingesperrte KI von OpenAI erst Zugang zum freien Internet und brach dann auf eigene Faust in die Computersysteme einer anderen KI-Firma ein. Dabei nutzte sie unentdeckt gebliebene Sicherheitslücken aus. Nun wird bekannt, dass es nicht der einzige Vorfall dieser Art war.

Dies berichtet die Nachrichtenagentur Reuters unter Berufung auf einen Manager des New Yorker KI-Infrastrukturanbieters Modal Labs sowie zwei weitere mit der Angelegenheit vertraute Personen.

Die Tür stand offen

Dem Technologiechef von Modal Labs, Akshat Bubna, zufolge hatte ein Kunde des Unternehmens einen ungesicherten Zugang zu seiner Testumgebung erstellt, sodass jedermann aus dem Internet darauf zugreifen konnte. Man könnte sagen, dass er die Tür offen stehen gelassen hatte.

Der KI-Agent von OpenAI, eine auf eigenständige Problemlösungen spezialisierte und eigenständig agierende KI, hat diese Gelegenheit genutzt, um sich Zugriff auf die Rechenkapazitäten jener Testumgebung zu verschaffen und dort eigenen Code auszuführen. Da es sich bei der Testumgebung ebenfalls um eine nach außen abgeschirmte Sandbox handelte, seien die Systeme von Modal Labs dabei nicht kompromittiert worden, betonte der Manager.

Die KI war ein Wiederholungstäter

Der KI-Agent hatte sich Anfang Juli Zugang zu Systemen der KI-Firma Hugging Face verschafft. Der Fall sorgte weltweit für Schlagzeilen und Kritik. Hugging Face hatte am Dienstag erklärt, der Agent sei in eine Sandbox eingedrungen, die »auf der Infrastruktur eines Drittanbieters« gehostet worden sei. Bei diesem Anbieter handelte es sich demnach ebenfalls um Modal Labs.

OpenAI hatte den Vorfall erst bemerkt, nachdem die Gefahr bereits gebannt und die US-Bundespolizei FBI eingeschaltet worden war. Eine Stellungnahme zu den neuen Erkenntnissen lag zunächst nicht vor.

KI-Mitarbeiter fordern selbst schärfere Regulierung

Unterdessen sprechen sich mehr als 1000 Mitarbeiter führender KI-Entwicklerfirmen dafür aus, Entwicklungen in ihrem Sektor zu bremsen. Sie warnen vor einem Kontrollverlust und appellieren an die US-Regierung, sich an internationalen Bemühungen für technische und Regulierungsmaßnahmen zur Steuerung des Entwicklungstempos zu beteiligen.

Unter den bislang 1171 Unterzeichnern sind führende Forscher und Manager etwa vom ChatGPT-Entwickler OpenAI, vom Konkurrenten Anthropic sowie vom Facebook-Konzern Meta und von Google. Sie verweisen darauf, dass Software mit künstlicher Intelligenz bald in der Lage sein könnte, sich selbst weiterzuentwickeln.

Schon jetzt werden große Teile von Programmiercodes in Techunternehmen mithilfe von KI-Software geschrieben, allerdings unter menschlicher Aufsicht. Der Moment, in dem die Entwicklung künstlicher Intelligenz automatisiert werden kann, gilt als ein Wendepunkt. Die Vorhersage, wie sehr dies den KI-Fortschritt beschleunigen werde, sei schwierig, heißt es in dem offenen Brief. Aber es gebe ein »reales Risiko«, dass das Tempo »unsere Fähigkeit übertreffen wird, die sich daraus ergebenden Systeme zu verstehen oder zu kontrollieren«.

Es benötige internationale Zusammenarbeit, weil jedes Land und jede Entwicklerfirma unter Konkurrenzdruck stünden, den KI-Fortschritt nicht abzubremsen, heißt es in dem Brief. Zudem fehlten aktuell noch die technischen Mittel und ein Regelwerk dafür.