Open AI: KI-Modell bricht aus digitalem Labor aus und attackiert andere Systeme

Die Meldung liest sich, als stamme sie aus einem düsteren Science-Fiction-Film: Ein autonomes KI-Modell des Techunternehmens Open AI ist aus einem digitalen Labor ausgebrochen, hat sich selbständig gemacht und Systeme einer anderen KI-Plattform attackiert. Schon die Wortwahl – Ausbruch! – lässt an die Urängste denken, die die Menschheit seit Pandoras Box mit außer Kontrolle geratenden Gefahren verbindet.

Die neuere Film- und Mythengeschichte ist voll von Ausbruchsszenarien, von dem außer Kontrolle geratenden Virus in „Outbreak“ über die fleischfressenden Mutanten, die in „Wayward Pines“ über die Elektrozäune klettern, bis hin zu den gentechnisch wiederbelebten Dinosauriern in „Jurassic Park“ und den Spekulationen darüber, ob die Covid-19-Pandemie Folge eines chinesischen Laborunfalls war. Jetzt hat offenbar ein digitaler Absperrzaun nicht gehalten: Wie der Chat-GPT-Entwickler Open AI mitteilt, haben sich bei einem internen Sicherheitstest neue autonome KI-Modelle „selbständig“ gemacht und seien wie Hacker in die Computersysteme der Plattform Hugging Face eingedrungen, die KI-Entwicklern für den Austausch von Daten dient.

Kann eine KI „ausbrechen“ wie ein Dinosaurier in „Jurassic Park“?

Die Modelle von Open AI hätten die „eigentlich abgeschottete Umgebung“ verlassen und sich eigenmächtig Zugang zum Internet verschafft. Das klingt nach einem klassischen Laborunfall – nur diesmal im digitalen Raum. Die Entwickler von Open AI hätten bei Tests mit dem aktuellen GPT-5.6 Sol und einem noch geheimen neuen KI-Modell herausfinden wollen, ob es Cybersicherheitslücken in anderen Systemen ausmachen könne; die neue Software sollte in diesem Zusammenhang einen üblichen sogenannten Exploitgym-Test lösen. Um das zu tun, habe die eigentlich vom Internet abgekoppelte Künstliche Intelligenz sich über eine unbekannte Schwachstelle auf eigene Faust Zugang zum Netz verschafft und dort nach Informationen gesucht, um bei dem Test möglichst gut abzuschneiden.

Damit sei das Modell „viel weiter als erwartet gegangen“ und habe sich, so Open AI, über gestohlene Daten Zugang zu „geheimen Informationen“ verschafft, mit denen sie beim Exploitgym-Test „schummeln“ könnte. Auch hier ist die Sprachwahl merkwürdig: Die eigene Künstliche Intelligenz wird beschrieben wie eine Mischung aus einem Problembären und einem klassischen Delinquenten, der zu moralisch fragwürdigen Mitteln greift, stiehlt und schummelt, um seinen Job zu erledigen.

Die Künstliche Intelligenz wird humanisiert

Kann man den Chat-GPT-Entwicklern, die hier wie bekümmerte Eltern über ein renitentes, auf die schiefe Bahn geratenes Kind sprechen, ihre Bestürzung über die Leistungsfähigkeit und Ruchlosigkeit ihrer eigenen digitalen Kreatur abnehmen? Ist eine derart mächtige Techfirma wirklich außerstande, einen Laborversuch vom Internet abzukoppeln, oder wollte man vielleicht auch einfach mal schauen – oder der Welt zeigen –, wie mächtig die neue Kreatur ist? Der „Unfall“, bei dem die neue KI Tausende Schritte vornahm und bei ihrem Angriff mehrfach den Standort der digitalen Steuerzentrale wechselte, geschieht zu einem besonderen Zeitpunkt: Open AI steht seit Monaten unter Druck durch einen anderen Anbieter von KI-Modellen, die Cybersicherheitslücken finden.

Der Open-AI-Rivale Anthropic hat mit der neuen Software „Mythos“ ein Werkzeug geschaffen, mit dem jahrelang unentdeckte Sicherheitslücken bei populären Onlinediensten gefunden werden konnten. Die amerikanische Regierung ließ den Zugang zu Mythos zeitweilig sperren, nur handverlesene Behörden und Unternehmen erhielten Zugang zum vollen Potential von Mythos. Alle anderen dürfen nur mit einer abgespeckten Variante namens Fable arbeiten. Die Botschaft: Diese Software ist so mächtig und gefährlich, dass sie nicht in die falschen Hände kommen darf. Will Open AI beweisen, dass auch sie einen so gefährlichen, bedrohlich effizienten Digitaldino bauen können? Deirdre Mulligan, Informatikprofessorin in Berkeley, äußert in der „New York Times“ Zweifel daran, dass Open AI wirklich ein sicheres Testumfeld schuf, und insinuiert, dass der Konzern vielleicht bewusst einen zu kleinen digitalen Maschendrahtzaun verwendet hat, um zu sehen und zu zeigen, was sein neuestes AI-Monster dahinter alles anrichten kann.

Der „Unfall“ ist auch eine Machtdemonstration

Der „Unfall“ ist vielleicht auch eine Machtdemonstration, die die Politik unter Druck setzt, den KI-Entwicklern freie Hand zu lassen – denn nur sie, wenn überhaupt jemand, können ja die KI-Monster wieder einfangen, die sie und andere Entwickler schon jetzt geschaffen haben. Nur sie können den Techkreaturen Regeln mit auf den Weg geben, nur sie können die KI-Godzillas zähmen und erziehen. Die hier vorgeführte Gefährlichkeit einer autonomen Künstlichen Intelligenz steigert den Marktwert und die Systemrelevanz ihrer Schöpfer. In der gleichen Logik ist die Forderung nach einem Moratorium zu lesen, die die mittlerweile mit einer Milliarde Dollar bewertete KI-Firma Anthropic kurz vor der Ankündigung ihres Börsengangs erhob: Die Entwickler des Chatbots Claude forderten im Juni eine globale Pause bei der KI-Entwicklung, um sicherzustellen, dass Künstliche Intelligenz „immer im Interesse der Menschen“ handele und sich nicht selbständig mache – nur um gleich anzufügen, dass es leider „in der Branche an Bereitschaft dazu“ fehle, ja im Gegenteil Hunderte Milliarden in Infrastrukturen wie Rechenzentren investiert würden.

Wenn es aber stimmt, dass die Entwicklung nicht mehr gestoppt werden kann, so die naheliegende Logik, dann muss man die guten KI-Firmen mit allen Mitteln unterstützen, um mächtige Modelle zu entwickeln, die die Modelle eventuell böswilliger anderer Entwickler in Schach halten können. Der Unfall von Open AI beweist die Macht und Zerstörungskraft von Modellen, die sich an keine Regeln halten, um ihr Ziel zu erreichen. Eine gute Nachricht für Menschen, die sich auf autonom fahrende Autos, Smart Homes, digitalisierte Krankenhäuser, computergesteuerte fliegende Drohnentaxis und andere automatisierte Segnungen des Digitalzeitalters freuen, ist dieser neuerliche Beweis der Hackbarkeit aller Systeme durch eine potentiell schwer kontrollierbare, marodierende Künstliche Intelligenz aber nicht. Die Welt wird durch sie angreifbarer, nicht zwangsläufig sicherer.