Trump kündigt freiwillige KI-Kontrollvereinbarung mit Tech-Führern an

Mehrere führende KI-Konzerne haben laut US-Präsident Donald Trump eine freiwillige Vereinbarung zur Kontrolle ihrer Technologie unterzeichnet. Diese sehe interne und externe Überprüfungen vor, sagte Trump nach einem Treffen mit Vertretern der KI-Branche. »Sie verstehen, dass sie sich selbst regulieren müssen«, sagte der US-Präsident.

Trump nannte keine Details zur Vereinbarung. Auf die Frage von Journalisten zur Verbindlichkeit sagte Trump, die Abmachung sei »moralisch« bindend. Zudem sehe er ausreichenden Schutz durch wirtschaftliche Interessen der Firmen. »Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht«, sagte der Präsident.

Zu dem Treffen waren unter anderem Tech-Milliardär Elon Musk, Nvidia-Chef Jensen Huang, Mark Zuckerberg von Meta, Dario Amodei von Anthropic, Jeff Bezos von Amazon und OpenAI-Präsident Greg Brockman eingeladen. Trump nannte seine Gäste die »brillantesten Leute« der Welt.

Nach dem Termin teilte Zuckerberg mit, eine Reihe von Grundsätzen sei vereinbart worden, zu denen »robuste interne Kontrollen« gehörten. Dazu solle es externe Beobachter geben. Amodei sagte nach dem Treffen mit Trump, KI habe großes Potenzial, aber auch reale Risiken. Maßnahmen, um diesen Risiken entgegenzuwirken, seien »noch in der Diskussion«.

Debatte über staatliche Regulierung

In den vergangenen Monaten hatten Zwischenfälle, bei denen sich KI-Agenten selbstständig gemacht hatten, eine weltweite Debatte um die Sicherheit von künstlicher Intelligenz ausgelöst. Unter anderem Anthropic und OpenAI plädierten für eine Drosselung bei der Entwicklung der Technologie und trugen ihre Warnungen kürzlich vor dem UN-Sicherheitsrat vor.

Trump lehnt eine staatliche Regulierung der Unternehmen jedoch ab. Seine Haltung begründete Trump erneut mit dem technologischen Vorsprung der USA vor China. »Wir führen, und das wollen wir beibehalten«, sagte er.