German Digital Minister Calls for International AI Oversight

BERLIN – Nach den jüngsten Vorfällen mit autonom handelnden KI-Agenten fordert Bundesdigitalminister Karsten Wildberger eine internationale Aufsicht für besonders leistungsfähige KI-Systeme. „Die Risiken sind real“, sagte er im Interview mit POLITICO. „Es braucht dringend eine internationale Zusammenarbeit, wie wir Systeme, die zunehmend autonomer werden, in den entscheidenden Fragen sicher machen.“

Gefragt, ob die Internationale Atomenergiebehörde (IAEA) als Vorbild dienen könne, sagte Wildberger: „Etwas in dieser Art, in der Ausprägung.“ Die konkrete Struktur müsse zwar anders aussehen als bei der Atomaufsicht, weil sich KI-Systeme „im wöchentlichen Rhythmus, täglichen Rhythmus gegebenenfalls“ weiterentwickelten. Das Grundprinzip einer internationalen Aufsicht dieser Art sei aber ein „hervorragender Startpunkt“.

Auslöser der Debatte ist unter anderem der Angriff von OpenAIs KI-Agenten auf die Plattform Hugging Face im Juli. Die KI-Modelle verschafften sich dabei Zugang zum Internet, tauschten Informationen über ein gemeinsames Kommunikationsnetz aus und kompromittierten schließlich die Infrastruktur von Hugging Face.

Die zunehmende Leistungsfähigkeit von KI-Modellen bereitet Wildberger Sorge. „Es verstärkt die Dringlichkeit, hier in ganz besonderem Maße mehr Sicherheitsvorkehrungen zu treffen“, sagte er. Die Entwicklung sei „so rasant“, dass Unternehmen vor möglichen Angriffen „nie ganz sicher“ seien.

„Funktioniert nur mit Amerika und China“

Die Idee einer internationalen KI-Aufsicht nach dem Vorbild der Atomaufsicht wird seit mehreren Jahren diskutiert. Auch OpenAI-Chef Sam Altman hatte sich dafür bereits mehrfach ausgesprochen.

Nach Ansicht des Ministers können Staaten die Risiken fortschrittlicher KI nicht im Alleingang kontrollieren. „Das erfordert aber auch, dass der Dialog grundsätzlich zu diesem Thema global aufgenommen wird – und das funktioniert am Ende des Tages natürlich auch nur mit Amerika und China zusammen“, sagte Wildberger.

„Die gute Nachricht ist: Wir sind noch in der Kontrolle“

Wildberger plädiert zudem für klare Meldepflichten. Die Veröffentlichung sicherheitsrelevanter Vorfälle dürfe nicht allein von der Einschätzung der betroffenen Unternehmen abhängen. „Natürlich müssen solche Vorfälle verpflichtend gemeldet werden“, sagte der Minister.

Die Frage gewinnt derzeit an Bedeutung, weil unklar ist, ob Vorfälle wie der Angriff von OpenAI-Agenten auf Hugging Face bereits von den Meldepflichten des AI Acts erfasst werden. Experten und Politiker fordern seit Tagen mehr Klarheit darüber, welche Regeln für besonders leistungsfähige KI-Modelle bereits während interner Tests gelten.

Nach Ansicht des Ministers bleibt noch Zeit, um die Risiken leistungsfähiger KI-Modelle sowohl politisch als auch technologisch einzuhegen. „Die gute Nachricht ist: Wir sind noch in der Kontrolle“, sagte der Bundesdigitalminister. „Aber wir müssen aufpassen, dass uns das nicht entgleitet.“