KI-Chefs fordern verlangsamte Entwicklung wegen Sicherheitsrisiken

Die Chefs von drei führenden KI-Unternehmen haben angesichts der hohen Sicherheitsrisiken ein verlangsamtes Tempo bei der Entwicklung von künstlicher Intelligenz gefordert. Dario Amodei, Chef des Konzerns Anthropic, warnte vor der Übernahme des Internets durch sogenannte KI-Agenten und rief zu einer geringeren Geschwindigkeit bei der Entwicklung auf. »Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern«, schrieb Amodei in einem auf seiner Homepage veröffentlichten Essay. Der Fortschritt würde sich dann immer noch schnell anfühlen, und man müsse die Zeit, die man gewinne, sinnvoll nutzen.

Die Chefs der beiden KI-Konkurrenten OpenAI und SpaceX, Sam Altman und Elon Musk, stellten sich hinter Amodei. »Dario hat recht«, schrieb Musk auf X und teilte Amodeis Essay. »Ich stimme Dario zu, dass wir das Tempo an der Pionierfront drosseln müssen«, schrieb dann auch Altman auf X. Er hatte bereits vor Kurzem gesagt, dass Entwickler womöglich freiwillig einen Gang zurückschalten müssten, damit die Gesellschaft Schritt halten kann. »Die Verpflichtung, unabhängigen Gutachtern einen Zugang wie Mitarbeitern zu gewähren, ist eine großartige Idee, und wir werden das Gleiche tun. Wir werden bald mehr dazu mitteilen«, fügte Altman hinzu.

Amodei, warnt vor der Übernahme des Internets durch sogenannte KI-Agenten. Angesichts der rasanten Entwicklung von künstlicher Intelligenz könne ein solcher Agentenschwarm in sechs bis zwölf Monaten in der Lage sein, »das gesamte Internet zu übernehmen« und Schäden in Höhe von Hunderten Milliarden Dollar zu verursachen, schreibt Amodei.

Während klassische KI-Chatbots wie Claude oder ChatGPT auf Fragen oder Aufträge (»Prompts«) warten und dann antworten, handeln KI-Agenten selbstständig, um ein vorgegebenes Ziel zu erreichen.

KI-Agenten kapern Teile des Internets

Vergangene Woche hatten KI-Agenten von OpenAI eine deutsche Website gekapert und in ein schwarzes Brett für andere KI-Agenten verwandelt; die Verantwortlichen hielten den Vorfall zwei Monate lang unter Verschluss. Außerdem hatten OpenAI-Agenten im Juli die Plattform Hugging Face angegriffen.

In seinem Essay schlägt Amodei deswegen drei Schritte vor, wie KI-Konzerne die Entwicklung verlangsamen und neue Modelle besser prüfen können. KI berge »gravierende« Risiken, schreibt Amodei. »Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten«, fügte er hinzu. Zugleich sei eine »zu schnelle Entwicklung leichtsinnig«.

Am Donnerstag hatte Anthropic einen Bedrohungsbericht veröffentlicht, in dem detailliert beschrieben wird, wie verschiedene Akteure die Claude-KI-Modelle des Unternehmens für illegale Aktivitäten genutzt haben – von Überwachung und Betrug bis hin zu Cyberoperationen und der Entwicklung von Biowaffen. Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit, dass die »KI-Entwickler ernsthaft glauben, dass die KI uns alle bis zum Ende des Jahrzehnts töten könnte«.

Anthropic will externe Gutachter einsetzen

Amodei ruft nach eigenen Angaben nicht dazu auf, das Modelltraining oder den technischen Fortschritt zu stoppen. Unternehmen müssten sich jedoch ausreichend Zeit nehmen, um ihre Modelle gegen Risiken abzusichern. Sein eigenes Unternehmen werde externe Prüfer anstellen und ihnen Zugang zu internen Risikobewertungsprozessen geben, schreibt Amodei. KI-Unternehmen sollten freiwillig zusammenarbeiten, um Standards festzulegen, da immer mehr US-Gesetzgeber neue Vorschriften zur Regulierung von KI-Systemen fordern.

Vor einigen Wochen unterzeichneten mehr als 1.000 Mitarbeiter führender KI-Unternehmen, darunter Amodei, eine Petition, in der sie die Hilfe der US-Regierung forderten, um »die Entwicklung automatisierter KI bewusst zu drosseln«.