KI-Branche warnt Uno-Sicherheitsrat vor Gefahren künstlicher Intelligenz

Führende Vertreter der Technologiebranche haben den Uno-Sicherheitsrat vor den wachsenden Gefahren durch künstliche Intelligenz (KI) gewarnt. »Wenn sie schlecht verwaltet wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte«, sagte der Chef des Entwicklers Anthropic, Dario Amodei, am Mittwoch vor dem 15-köpfigen Gremium.

Neben Amodei sprachen OpenAI-Chef Sam Altman und der Mitbegründer von Hugging Face, Clement Delangue. Altman forderte eine internationale Zusammenarbeit. Die wichtigsten Entscheidungen dürften nicht allein von Laboren in San Francisco getroffen werden, sondern müssten durch demokratische Prozesse gestaltet werden.

US-Präsident Donald Trump hatte am Dienstag vor der Uno-Generalversammlung jegliche Versuche abgelehnt, ein globales Kontrollsystem für KI zu errichten. Die USA würden das Wachstum einer Technologie nicht bremsen, die größer als die industrielle Revolution werde, sagte Trump. »Wir werden sie fördern, nicht zügeln.« Das US-Justizministerium werde die Entwicklung jedoch genau beobachten.

Jensen Huang leitet Nvidia, das wertvollste Unternehmen der Welt. Von KI-Horrorszenarien hält er nichts – so ist er zum wichtigen Verbündeten von Donald Trump geworden. Was hinter der Bromance steckt, lesen Sie hier.

Amodei und Altman hatten erst vor Kurzem dazu aufgerufen, das Tempo zu »verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern«. Die dadurch »gewonnene Zeit« solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen.

Trotz dessen haben Anthropic und OpenAI am Dienstag leistungsfähige, aber günstigere KI-Modelle veröffentlicht. Anthropic stellte Opus 5.5 vor, das Modell soll »bei den meisten Aufgaben« so leistungsfähig wie das Flaggschiffmodell Fable sein, aber »20 Prozent günstiger«. OpenAI veröffentlichte GPT-6 Sol und Luna, laut Unternehmen »schnellere und erschwinglichere« Varianten des leistungsstärksten Modells GPT-6 Astra.

Grund für den Aufruf waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen attackierten. Dabei stellten sie ihre Fähigkeit zu koordiniertem Handeln unter Beweis – aber auch zur Täuschung und zum Verwischen von Spuren, was Befürchtungen vor womöglich unkontrollierbaren KI-Modellen schürte.

Gleichzeitig herrscht in der KI-Branche jedoch ein harter Konkurrenzkampf – auch mit kostengünstigen Modellen aus China. Die US-Unternehmen stehen außerdem unter wachsendem Druck, ihre gigantischen Investitionen in KI-Infrastruktur in Gewinne umzumünzen.

Trump und der chinesische Präsident Xi Jinping treffen sich am Donnerstag in Washington. Sie wollen dabei über ein Meldesystem für KI-Vorfälle sprechen, die die nationale Sicherheit berühren. Uno-Generalsekretär António Guterres drängt seit Langem auf eine globale Regulierung der künstlichen Intelligenz. Er warnt davor, dass die rasanten Fortschritte Risiken bergen, die nicht ignoriert werden dürften.