Trump überlässt KI-Aufsicht den Entwicklern trotz Warnungen vor existenziellen Risiken

US-Präsident Donald Trump will trotz Warnungen vor existenziellen Risiken Künstlicher Intelligenz die Aufsicht über die Technologie ihren Entwicklern selbst überlassen. Die Unternehmen würden sich selber kontrollieren, sagte Trump nach einem Treffen mit Chefs von KI-Unternehmen in Washington. Er sieht ausreichenden Schutz durch wirtschaftliche Interessen der US-Firmen. «Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht», sagte der Präsident. «Sie werden das nicht zulassen.» Die Unternehmen würden «sich gegenseitig kontrollieren».

Zuletzt hatten eigenständige Hacking-Attacken durch KI-Modelle die Sorgen um Gefahren Künstlicher Intelligenz hochkochen lassen. Einige Branchenvertreter selbst warnten, man könne nicht ganz ausschließen, dass KI in der Zukunft die Menschheit auslösche.

«Sehr reale Risiken»

Der Chef der KI-Firma Anthropic, Dario Amodei, hatte sich dafür ausgesprochen, die Entwicklung der leistungsfähigsten KI-Modelle abzubremsen, um sicherzugehen, dass man nicht die Kontrolle über die Technologie verliert. Trump hatte bereits zuvor eine verstärkte staatliche Regulierung der Technologie abgelehnt. Es sei wichtig, dass die USA den Vorsprung zu China nicht einbüßten, betont er.

Amodei sagte nach dem Treffen mit Trump, KI habe großes Potenzial - «aber auch sehr reale Risiken». Maßnahmen, um diesen Risiken entgegenzuwirken, seien «noch in der Diskussion».

Freiwillige Selbstverpflichtung

Jetzt wurde bei dem Treffen in einer Selbstverpflichtung eine Reihe von Grundsätzen vereinbart, zu denen «robuste interne Kontrollen» gehören, wie aus dem von Trump veröffentlichten Dokument hervorgeht. Dies solle unter anderem Biowaffen- und Chemiewaffen-Risiken ausräumen - und auch dafür sorgen, dass es keine Hacking-Attacken gebe.

Darüber hinaus erklärten sich die Unternehmen bereit, externe Beobachter zuzulassen. Das entspricht einer Idee, die Amodei vor einigen Wochen vorstellte, und die unter anderem von seinem Konkurrenten Sam Altman beim ChatGPT-Entwickler OpenAI sowie Tech-Milliardär Elon Musk unterstützt wurde. Die Verwaltungsräte der KI-Firmen - die in etwa den deutschen Aufsichtsräten entsprechen - sollen zudem gesonderte unabhängige Gremien einrichten, die interne und externe Berichte prüfen.

«Mit der Zeit könnte es Sinn ergeben, diese Schritte in Gesetzen oder Regeln festzuhalten», hieß es in dem Dokument auch. Das Papier wurde unter anderem von Amodei, Musk, Facebook-Gründer Mark Zuckerberg, Google-Chef Sundar Pichai sowie dem Chef des KI-Chip-Spezialisten Nvidia, Jensen Huang, unterzeichnet.

OpenAI setzt auf KI-Agenten

Für OpenAI unterzeichnete das Papier Altmans rechte Hand, der Top-Manager Greg Brockman. Der Firmenchef konnte nicht zu dem recht kurzfristig angesetzten Treffen nach Washington kommen, weil er auf der jährlichen Entwicklerkonferenz von OpenAI in San Francisco auftrat. Er stellte dort unter dem Namen «Dots» (Punkte) sogenannte KI-Agenten vor, die eigenständig Aufgaben im Auftrag der Nutzer erfüllen können. Ein Dot könne am Computer praktisch alles machen, «was man sich einfallen lassen kann». Nach dem Start in den USA sollen Dots «bald» auch in Europa verfügbar sein, hieß es.

Zunächst bekommt man nur einen Dot pro Nutzer - aber mit der Zeit solle eine Vielzahl solcher Agenten für die Nutzer im Einsatz sein. Kommuniziert mit der Software wird über einen Chat. Für einzelne Wissensbereiche in Unternehmen - etwa Buchhaltung, Marketing oder Rechtsfragen - soll es spezialisierte Dots geben. Zunächst sind Dot-Assistenten nur hinter Abo-Schranken nutzbar, was ihre Verbreitung zunächst vor allem auf den Berufsalltag beschränken dürfte. «Aber sie sollten davon ausgehen, dass wir eines Tages etwas im Massenmarkt für Milliarden Menschen machen.»

Meta will mit KI für Verbraucher punkten

Meta hatte erst vor wenigen Wochen einen ähnlich funktionierenden KI-Assistenten mit dem Namen Muse zunächst in den USA gestartet, der auf Verbraucher ausgerichtet ist. Die Muse-App erklomm danach die Spitzenposition im US-App-Store von Apple, und Meta wurde an der Wall Street nach Milliarden-Investitionen in KI-Infrastruktur wieder als ein aussichtsreicher Anwärter im Wettbewerb um eine führende Rolle bei Künstlicher Intelligenz gesehen. ChatGPT hatte den Hype um Künstliche Intelligenz erst ausgelöst, bei dem neuesten KI-Assistenten für Verbraucher kam Meta dem Vorreiter aber zuvor. Altman sagte indes, Dots sei «allem, was heute auf dem Markt verfügbar ist, weit voraus».

Im Prinzip könnten auch Verbraucher Dots schon jetzt für Alltagsdinge benutzen, sagte OpenAI-Manager Alexander Embiricos der Deutschen Presse-Agentur. Aber damit würden sie nicht die wirklichen Vorteile der Software nutzen, schränkte er ein. Dots sei eher für ambitionierte Aufgaben optimiert, um mehr zu machen, als man sich selbst zugetraut hat.