EU-Politiker fordern Unabhängigkeit nach KI-Hackerangriff auf Hugging Face

Mehrere europäische Politiker sehen die EU wegen des KI-Hackerangriffs auf das Start-up Hugging Face in der Pflicht, schnellstmöglich technisch unabhängig von US-Konzernen zu werden. Zuletzt hatte die KI-Firma OpenAI die Verantwortung für den Hackerangriff auf Hugging Face übernommen. Ein autonom agierendes KI-Modell sei bei internen Tests außer Kontrolle geraten, räumte OpenAI am Dienstag ein. Das Unternehmen sprach von einem »beispiellosen Cybervorfall« und kündigte an, seine Sicherheitsvorkehrungen zu verstärken.

Die FDP-EU-Abgeordnete Svenja Hahn sagt: »Es darf nicht passieren, dass eine KI außerhalb des gesteckten Rahmens eigenständig agiert.« Der Vorfall zeige, wie wichtig es ist, dass aus Europa eigene wirkmächtige KI kommt, damit unsere Unternehmen und Infrastruktur effektiv geschützt sind vor den Angriffen der nächsten KI-Generation«.

Die Grünenpolitikerin Alexandra Geese sagt zum SPIEGEL: »Der eigenständige Einbruch von OpenAI-KI in ein anderes Unternehmen gefährdet unsere gesamte Wirtschaftsordnung und muss nach Artikel 55 der KI-Verordnung in Europa gemeldet werden – jetzt zeigt sich, wie selbstbewusst das AI Office der Europäischen Kommission seine Zuständigkeit durchsetzt.« Dieser Vorfall sei ein »weiterer Anreiz, technologische Souveränität endlich ernst zu nehmen«.

»Der Zwischenfall zeigt, dass Konzerne wie OpenAI im ungebremsten Kampf um die stärkste KI die Kontrolle über ihre eigenen Technologien verlieren«, sagt EU-Linksfraktionschef Martin Schirdewan. Profitgier löse hier kein Problem, sondern schaffe ein existenzielles Bedrohungsszenario für die Menschheit. »Die EU muss daraus die richtigen Konsequenzen ziehen: Sicherheitsregeln für KI, die uns vor der entfesselten Technologie schützen, und digitale europäische Unabhängigkeit, um sich nicht weiter in den Händen der großen US-amerikanischen Bigtech-Unternehmen zu befinden«, so Schirdewan.

Den Angaben von OpenAI zufolge sollten die neuesten KI-Agenten in einer kontrollierten und isolierten Umgebung auf ihre Fähigkeiten zum Erkennen und Umgehen von IT-Sicherheitslücken getestet werden. Den Programmen sei es jedoch gelungen, die Beschränkungen zu überwinden, Zugang zum Internet zu erlangen und die Systeme von Hugging Face zu attackieren. Über diese Plattform können Nutzer frei zugängliche KI-Modelle und -trainingsdaten herunterladen.

Völlig neue Qualität

Hugging Face hatte vergangene Woche mitgeteilt, Opfer eines Cyberangriffs geworden zu sein. Dieser sei von völlig neuer Qualität: »Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert.«

Als Reaktion auf das OpenAI-Eingeständnis schrieb Hugging-Face-Mitgründer Clement Delangue auf dem Kurznachrichtendienst X: »Angesichts der Raffinesse des Schadcodes hatten wir vermutet, dass der Cyberangriff aus einem ›Frontier Lab‹ stammte. Wie sich herausstellte, ⁠war das tatsächlich ⁠der Fall!« Führende KI-Entwickler heißen im Fachjargon »Frontier Labs«.

Er sei sich sicher, dass hinter dem Angriff keine böse Absicht stecke, betonte Delangue. Sein Unternehmen und OpenAI arbeiteten mit Hochdruck an der Aufarbeitung des Vorfalls. »Es ist wirklich unglaublich, dass all das autonom passiert ist!« Die US-Cybersicherheitsbehörden waren für eine Stellungnahme zunächst nicht zu erreichen.