US-Regierung verbietet Zugang zu Anthropic KI-Modellen weltweit

Der amerikanische KI-Entwickler Anthropic kappt nach einer Anordnung der US-Regierung den Zugang zu seinen fortschrittlichsten Modellen für Künstliche Intelligenz vorerst für alle Nutzer weltweit.

Das Handelsministerium in Washington habe aus Gründen der nationalen Sicherheit untersagt, ausländischen Staatsbürgern Zugriff auf die neuen Modelle „Fable 5“ und „Mythos 5“ zu gewähren, teilte das Unternehmen mit. Um diese Vorgabe zu erfüllen, bleibe nichts anderes übrig, als die Systeme komplett vom Netz zu nehmen.

Die US-Regierung habe ihre Sicherheitsbedenken nicht näher ausgeführt, erklärte Anthropic. Offenbar sei sie jedoch besorgt wegen sogenannter Jailbreaks, also Methoden, mit denen Nutzer die eingebauten Sicherheitsvorkehrungen der KI umgehen können. Die US-Behörden befürchteten anscheinend, dass die KI-Modelle zur Aufdeckung von Schwachstellen in Software missbraucht werden könnten. Allerdings habe die Regierung nur mündliche Hinweise auf eine eng begrenzte Umgehungsmöglichkeit gegeben.

„Wir sind nicht der Ansicht, dass die Entdeckung eines potenziellen, eng begrenzten Jailbreaks ein Grund sein sollte, ein kommerzielles Modell zurückzurufen, das bei Hunderten Millionen Menschen im Einsatz ist“, erklärte das Unternehmen. Würde dieser Maßstab branchenweit angelegt, käme die Einführung neuer Modelle faktisch zum Erliegen. Es handle sich offenbar um ein Missverständnis. Das Unternehmen kündigte an, den Zugang so bald wie möglich wieder herzustellen.

Noch am Mittwoch hatte Anthropic selbst eine stärkere Aufsicht der USA über KI gefordert, einschließlich der Möglichkeit, Modelle mit inakzeptablen Risiken zu sperren. Die Maßnahmen der Regierung vom Freitag entsprächen jedoch nicht den Grundsätzen einer fairen und faktenbasierten Regulierung, erklärte das Unternehmen nun. Die Anordnung erreichte Anthropic zudem in einer für das Unternehmen sensiblen Phase: Im Mai hatte der Konzern vertraulich die Unterlagen für einen Börsengang eingereicht.

Die IT-Chefin des Verteidigungsministeriums, Kirsten Davies, verteidigte das Vorgehen der Regierung: „Manche Dinge sind einfach wichtiger als Umsatzzyklen, Clickbait und Unternehmensbewertungen vor einem Börsengang. America First. Immer“, schrieb sie auf der Plattform X.

Anthropics Verhältnis zur Regierung von US-Präsident Donald Trump ist angespannt. Das Unternehmen hatte sich geweigert, dem US-Militär die Nutzung seiner Modelle für inländische Überwachung und vollständig autonome Waffensysteme zu gestatten. Daraufhin setzte die Regierung Anthropic auf eine schwarze Liste für Lieferketten.