US-Behörde FTC leitet Untersuchung zu KI-Risiken bei OpenAI und Anthropic ein

Die Sicherheitsvorfälle rund um KI-Tools rufen die US-Verbraucherschutzbehörde auf den Plan. Die Federal Trade Commission (FTC) habe eine umfassende Untersuchung zu den KI-Risiken bei Unternehmen wie Anthropic und OpenAI eingeleitet, schrieb am Mittwoch die »Washington Post«, auch weitere US-Medien berichteten.

Die FTC hat weitreichende Befugnisse zur Untersuchung unlauterer oder irreführender Praktiken, die Verbraucherinnen und Verbraucher in den USA betreffen. Einzelheiten zum Umfang der Untersuchung waren zunächst noch unklar – und die Einleitung einer Untersuchung bedeutet nicht automatisch, dass den Unternehmen ein Fehlverhalten vorgeworfen wird. Auf Nachfrage der Nachrichtenagentur AFP äußerten sich die Behörde und die Unternehmen bislang nicht zu den Berichten.

Der Nachrichtenagentur Reuters sagte ein Insider, die FTC plane, Vertreter führender KI-Entwickler zur Aussage zu verpflichten. Auch die Forschungsorganisation METR soll der Quelle zufolge Auskünfte geben.

Im Fall von OpenAI hatte die FTC bereits 2023 Ermittlungen eingeleitet, um zu prüfen, ob dessen KI-Chatbot ChatGPT Verbrauchern womöglich Schaden zugefügt haben könnte – etwa weil das System falsche Informationen generierte oder Daten missbräuchlich verarbeitete. Diese Untersuchung war allerdings ohne Folgen geblieben.

Zuletzt hat sich die KI-Debatte verstärkt auf eine mögliche Bedrohung durch die Systeme selbst verlagert: So hatten Anthropic und OpenAI jeweils mehrere Fälle gemeldet, in denen KI-Systeme aus ihrer Testumgebung ausgebrochen waren und eine Reihe von Cybersicherheitsvorfällen ausgelöst hatten. Die Chefs von Anthropic und OpenAI, Dario Amodei und Sam Altman, riefen deshalb zu einer kollektiven Verlangsamung der KI-Entwicklung auf.

Die Regierung von US-Präsident Donald Trump setzt derzeit vor allem darauf, dass sich die KI-Branche selbst reguliert, mehr dazu lesen Sie hier. Allerdings spielt das Thema KI auch vor den wichtigen Zwischenwahlen zum Kongress Anfang November eine große Rolle: Viele Wählerinnen und Wähler stehen dem technologischen Fortschritt, aber auch konkreten Projekten wie dem Bau riesiger Rechenzentren skeptisch gegenüber.

Der US-Technologieriese Google stellte am Mittwoch unterdessen sein fortschrittliches KI-Modell Gemini 4 vor. Der Zugang darauf soll allerdings zunächst auf einen kleinen Kreis von Cybersicherheitsexperten beschränkt bleiben.

US-Präsident Trump setzt beim Thema KI auf Symbolik und starke Bilder. Am Dienstag gab es daher ein regelrechtes Schaulaufen der Techelite. Hier finden Sie dazu eine Analyse: Diese KI-Bosse waren Trump beim »Super Intelligence Luncheon« besonders nah