KI-Modelle als Sicherheitsrisiko: EU reagiert mit verschärfter Kontrolle über ChatGPT

Dieser Sommer hat auch dem letzten Zweifler gezeigt, dass von Künstlicher Intelligenz nicht nur in Hollywood-Dystopien eine Gefahr ausgeht. Seit dem Hackerangriff von zwei Modellen des US-Unternehmens Open AI hat die Frage, wie KI überhaupt noch kontrolliert werden kann, neue Aktualität bekommen. Die beiden Modelle waren unbemerkt während interner Tests durch eine Sicherheitslücke ins Internet ausgebrochen und hatten die KI-Plattform Hugging Face angegriffen.

Das war kein Einzelfall. Es ist inzwischen bekannt, dass es weitere Cyberattacken von KI-Modellen anderer Unternehmen gab. Anfang August gab Open AI dann noch bekannt, die Entwicklung seines KI-Modells „Astra“ aus Sicherheitsgründen einzuschränken. Es könne nicht ausschließen, dass das Modell über „kritische Cyberfähigkeiten“ verfüge.

F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen

F.A.Z. bei Google bevorzugen

Das ist ein Paradigmenwechsel, der nach einer politischen Antwort schreit. Die Entwickler mögen alles daran setzen zu verhindern, dass ihre KI-Modelle ihre wachsenden Fähigkeiten nicht zum Nutzen, sondern Schaden anderer einsetzen. Darauf verlassen darf die Politik sich nicht.

Brüssel muss nun auch die Mittel des KI-Gesetzes nutzen

Die Europäische Kommission macht nun zumindest einen Schritt, um die Kontrolle über die Künstliche Intelligenz zurückzuerlangen. Sie unterwirft das Modell ChatGPT einer verschärften Kontrolle. Sie hat ChatGPT – zugegeben dank flexibler Auslegung der Rechtslage – als „sehr große Online-Suchmaschine“ unter dem Gesetz für digitale Dienste (DSA) eingestuft. Damit muss dessen Entwickler Open AI strenge Auflagen erfüllen.

Das Unternehmen muss analysieren, ob von ChatGPT eine Gefahr für den öffentlichen Dialog, Wahlen, den Schutz von Minderjährigen und die mentale Gesundheit ausgeht. Die Kommission kann zudem Daten und andere Informationen anfordern, um zu prüfen, ob von dem Modell Gefahren ausgehen. Die Entscheidung hat Präzedenzcharakter. Nach ChatGPT wird die Europäische Kommission sich auch andere große KI-Modelle vorknöpfen.

Damit allein wird die EU die Gefahr nicht bannen. Der DSA gilt nur für große KI-Modelle. Das sind nicht zwingend die gefährlichen. Der nächste Schritt ist, dass Brüssel die neuen Rechte des KI-Gesetzes mit Verve nutzt. Die erlauben schmerzhafte Sanktionen gegen Entwickler, die hochriskante KI-Modelle nicht ausreichend einhegen. In Kraft getreten sind die neuen Befugnisse für die Kommission ironischerweise Anfang August, nur Tage nach dem Hackerangriff.