Auch Meta räumt unbefugtes Eindringen von KI in Fremdsysteme ein

Nach den KI-Firmen OpenAI und Anthropic muss auch der Facebook-Konzern Meta einräumen, dass sich seine KI-Software in Computersysteme eines anderen Unternehmens gehackt hat. Ähnlich wie bei Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Systems bei demselben Testpartner, wie Meta mitteilte.

Demnach führte die Firma Irregular Tests mit den KI-Systemen von Meta, Anthropic und OpenAI durch. Ein Sprecher von Irregular sagte der BBC, der Meta-Vorfall sei "genau das gleiche Bewertungs-Umwelt-Problem, das bereits letzte Woche von Anthropic offengelegt wurde." Demnach hatten die KI-Modelle durch die falsche Einstellung Zugang zum Internet - was eigentlich gar nicht vorgesehen war.

Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners. Meta machte zunächst keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung der Schwachstelle eindrang. Genauso kündigte Meta an, weitere Informationen zu dem Vorfall zu veröffentlichen, "sobald wir alle Fakten haben."

Bereits mehrere Vorfälle

In den vergangenen Wochen waren bereits mehrfach ähnliche Fälle bekannt geworden. So war die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, eingedrungen. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen.

Forscher von OpenAI berichteten unterdessen, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommuniziert hätten, um gemeinsam aus der eigentlich abgeschirmten Testumgebung auszubrechen. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten Eric Wallace und Michael Dalton in einer Präsentation auf der Hacker-Konferenz Black Hat dem Finanzdienst Bloomberg zufolge.

Zudem stellten britische Sicherheitsforscher Cyberattacken durch KI von Anthropic und OpenAI fest, denen sie in ihren Versuchen ungehinderten Zugang zum Internet gewährt hatten. Bei den Test des britischen AI Security Institute (ASIS) verschickten die KI-Programme sogar Phishing-Mails und erstellen gefälschte menschliche Profile.

Angst vor Cyberangriffen steigt

Die ungeplanten Attacken richteten keinen Schaden an, verstärkten aber allgemein die Angst vor Cyberangriffen mit Hilfe Künstlicher Intelligenz. Daniel Hulme, globaler Chief AI Officer der Werbeagentur WPP, sagte der BBC, dass solche KI-Modelle "nicht absichtlich etwas Hinterhältiges tun. Was sie tun, ist, sehr ausgefeilte Strategien oder Cyberangriffe zu entwickeln, um das ihnen gesetzte Ziel zu erreichen."

Laut Eric Wallace und Michael Dalton habe es zuletzt Probleme bei den Testläufen gegeben. Ein Problem sei etwa gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internet-Zugang nicht abrufbar gewesen.

In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hieß es. "Wenn man einer KI ein Ziel gibt, und nicht an alle Wege denkt, wie sie das Ziel erreichen könnte, wird sie einen Weg finden, an den man noch nicht gedacht hat", urteilte Hulme.