Ehemaliger DeepMind-Ingenieur warnt vor existenziellen Gefahren durch KI

Ein ehemaliger Mitarbeiter der Google-Tochter DeepMind hat vor den Gefahren von künstlicher Intelligenz gewarnt. »Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten, und es möglicherweise zu spät ist, dies zu verhindern«, erklärte der Ingenieur Bilal Chughtai, der DeepMind im Juli verlassen hatte, am Dienstag. Zuletzt hatten führende Techunternehmer dazu aufgerufen, wegen der Gefahren der neuen Technologie ihre Entwicklung zu verlangsamen.

Chughtai erwähnte in seiner Stellungnahme einen Zwischenfall im Juli, bei dem KI-Agenten von OpenAI spontan aus ihrer vorgegebenen Umwelt ausgebrochen waren, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren. Für ihn habe dieser Vorfall gezeigt, dass KI sich inzwischen der Kontrolle ihrer Entwickler entziehen »und gefährliche Handlungen ausführen kann, die zu einem endgültigen Verlust der Kontrolle oder zum Tod der Menschheit führen könnten«.

Der Ingenieur, der bei DeepMind in den Bereichen Sicherheit und Alignment, der Ausrichtung der Modelle an menschlichen Werten, gearbeitet hatte, warnte, es sehe derzeit nicht danach aus, »dass wir das Alignment rechtzeitig in den Griff bekommen. Die Fähigkeiten der fortschrittlichsten KI verbessern sich viel schneller als unser Verständnis von Alignment«, erklärte er.

Anfang vergangener Woche hatte der KI-Experte Jacob Coxon, der zuerst bei OpenAI und dann bei Anthropic gearbeitet und beide Unternehmen verlassen hatte, beiden öffentlich laxe Sicherheitsstandards vorgeworfen. Die beiden KI-Riesen spielten damit »mit unserem Leben«, warnte ihr Ex-Mitarbeiter.

Am Samstag rief dann der Chef von Anthropic, Dario Amodei, in einem Essay auf seiner Website dazu auf, das Tempo zu »verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern«. Die dadurch »gewonnene Zeit« solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen.

Amodei bekam Unterstützung vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, dem Techunternehmer Elon Musk, der hinter dem KI-Assistenten Grok steht, Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis.

US-Präsident Donald Trump wies die Sicherheitsbedenken hingegen zurück. Es gebe eine »kranke Verschwörung« gegen KI und die dafür nötigen Rechenzentren, schrieb Trump am Montag in seinem Onlinedienst Truth Social. KI-Skeptiker verunglimpfte Trump unter anderem als »Verschwörungstheoretiker« und »Verräter«. »Dass KI die Welt übernimmt, die Menschheit vernichtet und all diese anderen schlimmen Dinge tut, ist ein Schwindel«, schrieb er.