KI-Branche unter Druck: Debatte um Sicherheitsrisiken und Entschleunigung

Sam Altman, OpenAI-Chef:

»Ich glaube, es ist inakzeptabel, ein zehnprozentiges Risiko einzugehen, dass bis zum Ende des Jahrzehnts die Menschheit ausgelöscht wird – selbstverständlich.«

Ist das, was Open-AI-Chef Sam Altman hier über die Entwicklung Künstlicher Intelligenz sagt, wirklich noch SO selbstverständlich?

In dieser Woche kündigte ein KI-Forscher beim Unternehmen Anthropic, der zuvor auch für OpenAI gearbeitet hatte. Er warnte, beide Unternehmen würden »mit unserem Leben spielen«. Sie würden selbst glauben, dass KI die Menschheit bis zum Ende des Jahrzehnts auslöschen könnte.

In einem Interview mit dem Magazin »Fortune« sprach Open-AI-Chef Altman nun auch darüber.

Alyson Shontell, »Fortune«:

»Glauben Sie, diese Zahl von zehn Prozent ist zutreffend?«

Sam Altman, OpenAI:

»Nein, das tue ich immer noch nicht. Aber ob es zehn oder acht oder sechs sind – wir haben eine enorme Verantwortung und können Egos oder das Streben nach Gewinn oder sonst etwas uns nicht im Weg stehen lassen. Wir müssen so handeln, dass wir kein solches Risiko eingehen.«

Einen geplanten Börsengang von OpenAI hat Altman verschoben.

Sam Altman, OpenAI-Chef:

»Bei allem, was gerade mit Blick auf die Sicherheit passiert, wäre ein Börsenstart aktuell unklug.«

Aber: Der Schritt war schon seit Wochen erwartet worden – und nicht wegen Sicherheitsbedenken, sondern wegen schwacher Zahlen des Unternehmens.

Trotzdem will die Branche jetzt auf die Bremse treten. Anthropic-Chef Dario Amodei hat einen Blogeintrag veröffentlicht, in dem er fordert, die gesamte KI-Branche müsse das Entwicklungstempo ihrer leistungsfähigsten Modelle verlangsamen »damit die Risikoprävention hinterherkommt«. Er wolle unabhängige Prüfer in sein Unternehmen hereinlassen.

Die große Gefahr: eine KI, die sich selbst immer weiterentwickelt, ganz ohne menschlichen Einfluss, und so außer Kontrolle gerät.

Altman begrüßte den Brems-Vorstoß seines Konkurrenten, genauso wie Google. Selbst Elon Musk stimmte zu – der Mann, der Sicherheitsmaßnahmen durch staatliche Regulierung als Problem und nicht als Lösung sieht.

Elon Musk, xAI-Gründer:

»Es braucht eine Umgebung, die relativ frei von Reguliertung ist. In der EU finden wir das Level an Regulierung zum Beispiel extrem hoch. Da sind Dinge von Natur aus erst mal illegal.«

In den USA, Heimat der führenden KI-Unternehmen sieht das anders aus – dank Donald Trump, der darauf setzt, die Branche zu deregulieren.

Wie ernst die KI-Welt es letztlich meint mit der eigenen Entschleunigung im Sinne der Sicherheit – das dürften erst die nächsten Wochen und Monate zeigen.