22 Staats- und Regierungschefs fordern strengere KI-Kontrollen

Angesichts jüngster Sicherheitsvorfälle haben sich 22 Staats- und Regierungschefs für eine strengere Kontrolle von Künstlicher Intelligenz ausgesprochen. Die Gruppe um die Initiatoren Finnland und Norwegen forderte in einer gemeinsamen Erklärung verbindliche Sicherheitsregeln für Entwickler und den Aufbau einer weltweiten Kontrollbehörde.

Auch Bundeskanzler Friedrich Merz (CDU) und die Präsidentin der Europäischen Kommission, Ursula von der Leyen, gehörten zu den Unterzeichnern des Dokuments, das am Rande der UN-Generalversammlung in New York vorgestellt wurde. Neben europäischen Ländern haben sich unter anderem Australien, Kanada, Kenia, Singapur und Südafrika angeschlossen. Die USA und China, die in der KI-Branche bislang als führend gelten, gehören bislang nicht dazu.

Warnung vor zu schneller Entwicklung

In jüngster Zeit hatte es im Zusammenhang mit der Entwicklung der Technologie mehrmals Berichte von sicherheitsrelevanten Vorfällen gegeben. Darauf nahmen die Initiatoren in ihrer Erklärung auch Bezug. Man habe zuletzt beobachten müssen, wie hochleistungsfähige Systeme eingebaute Schutzvorkehrungen umgingen, Sicherheitslücken ausnutzten und unbefugten Zugriff auf reale Computernetze erlangten, hieß es.

Zuletzt hatten selbst führende KI-Unternehmen wie OpenAI und Anthropic davor gewarnt, dass die aktuellen Entwicklungen zu schnell gehen, und sich für eine Drosselung des Tempos ausgesprochen.

Die unterzeichnenden Staats- und Regierungschefs fordern deshalb in einem Drei-Punkte-Papier von den Herstellern nachvollziehbare Sicherheitsvorkehrungen und die Prüfung neuer Programme durch unabhängige Fachleute. Dazu sollten Regierungen einheitliche Vorgaben schaffen und schwerwiegende Vorfälle melden. Die Länder der Vereinten Nationen sollten außerdem den Aufbau einer internationalen Einrichtung prüfen, die für KI verbindliche Maßstäbe setzt und kontrolliert, hieß es.