KI-Modell entkommt Testumgebung und kompromittiert IT-Netzwerk

Nein, eigentlich nicht. Mich hat es nicht überrascht. Der Vorfall zeigt genau das, was Sicherheitsforscher schon seit Längerem befürchtet haben. Selbst die Entwickler fortschrittlicher KI-Modelle haben keine vollständige Kontrolle über ihre eigene Technologie. Das hat man, glaube ich, sehr, sehr deutlich gesehen. Und damit sind eben auch die Erkenntnisse dieses Falles hochgefährlich für die globale Cybersicherheit, wie auch das Bundesamt für Sicherheit in der Informationstechnik betont hat.

Und obwohl die Modelle eben aus Sicherheitsgründen eigentlich ja in einer hochisolierten Umgebung arbeiten sollten, gelang eben hier der Ausbruch und die Kompromittierung eines fremden, eigentlich ja auch ganz gut abgesicherten IT-Netzwerks.

Und ich finde da immer den Vergleich ganz interessant mit einem Laborunfall. Ja, also auch in einem Hochsicherheitslabor ist es ja so, dass vielleicht Viren absichtlich gefährlicher gezüchtet werden, um beispielsweise zu Analysezwecken da zu sein. Aber es kann eben nicht ausgeschlossen werden, dass es dann eben auch mal zu einem Sicherheitsvorfall kommt in solch einem Labor.

Also, ich glaube, das muss man so ein bisschen differenziert sehen. Im konkreten Fall hat OpenAI definitiv die Kontrolle über diesen Ablauf verloren, denn niemand dort hatte den Angriff angeordnet. Niemand hätte eingreifen können, solange er eben unentdeckt geblieben ist. Der Ausbruch war dabei aber nicht im eigentlichen Sinne beabsichtigt, sondern eigentlich nur die Folge eines Ziels, das die KI auch konsequent zu Ende verfolgt.

Die KI hat einen Auftrag bekommen, und sie setzt sich innerhalb dieses Auftrags selbstständig das Zwischenziel, nämlich eben diese Musterlösung zu beschaffen und ging damit eben auch über ihre eigenen Arbeitsaufträge hinaus. Von einem vollständigen und dauerhaften Kontrollverlust über KI-Systeme im Allgemeinen sind wir sicherlich noch weit entfernt, denn diese Modelle waren ja hier nur in einem Test bewusst mit gelockerten Sicherheitsgrenzen am Arbeiten. Im normalen Betrieb wäre ein solcher Ausbruch wahrscheinlich deutlich unwahrscheinlicher gewesen.

Das ist das ganz große Problem. Das wird auch von Cyberkriminellen gezielt ausgenutzt. Es geht in erster Linie darum, dass die eigentliche Gefahr so ein bisschen in der Kombination aus Mensch und Maschine liegt. Also Menschen geben der KI ein Ziel vor, ohne jede mögliche Nebenwirkung vorherzusehen, wie es hier der Fall gewesen ist. Und die KI verfolgt dieses Ziel eben sehr konsequent und auch sehr, sehr schnell und viel schneller, als es ein Mensch könnte.

Grundsätzlich könnte es beispielsweise auch sein, dass Betreiber kritischer Infrastruktur von solchen Angriffen betroffen sind. Hier sind wir relativ glimpflich davongekommen, und KI-Systeme müssen in Zukunft deutlich sicherer bleiben. Und dafür braucht es vor allem eben auch robustere technische Grenzen zwischen Testumgebung und echtem Internet und eben auch eine deutlichere Überwachung. Aber das schützt natürlich nicht vor Cyberkriminellen, die KI Systeme gezielt missbrauchen wollen.

Cyberkriminelle nutzen definitiv schon künstliche Intelligenz. Das ist kein Zukunftsszenario mehr, und es existieren beispielsweise auch in freier Wildbahn KI-Modelle, wo eben diese ethischen, rechtlichen, technischen Grenzen abgeschaltet werden, um eben gezielt Unternehmen zu kompromittieren oder beispielsweise auch Bombenbauanleitungen zu liefern für terroristische Taten.

Also wir müssen unbedingt schauen, dass wir einerseits KI-Modelle deutlich stärker regulieren. Das heißt, in der Europäischen Union sind wir mit dem AI Act schon auf einem sehr guten Wege. Wir müssen aber auch sehen, dass ein KI-Modell nicht erst abstrakt reguliert wird, wenn es auf dem Markt ist, sondern wir müssen viel, viel enger auch schon in der Entstehung von technischen Entwicklungen von KI-Modellen mit diesen Hochleistungsunternehmen zusammenarbeiten.

Und das bedeutet, dass beispielsweise auch eigene AI-Safety-Institute von staatlicher Seite bereitgestellt werden müssen. In Deutschland wollen wir so was jetzt auf den Weg bringen. Dafür ist es noch nicht zu spät, aber es ist dringend notwendig. Wohingegen in Großbritannien beispielsweise solche Public-Private-Partnerships, also Zusammenarbeit von KI-Unternehmen und der öffentlichen Hand, schon bestehen.