US-Regierung und KI-Firma Anthropic einigen sich nach Blockade

Die Regierung hatte verfügt, dass nur US-Amerikaner Zugriff auf die KI-Modelle haben durften – was auch für Mitarbeiter der Firma galt. Anthropic blockierte daraufhin beide Modelle komplett, um die Forderung erfüllen zu können.

Die künstliche Intelligenz hinter Anthropics KI-Modell Mythos ist besonders gut darin, teilweise auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um Sicherheitslücken zu beheben. Eine Sorge war von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.

Sorge, dass Sicherheitsvorkehrungen nicht reichen

Die Regierung befürchtete, dass die Programme von militärischen Geheimdiensten Chinas, Russlands oder ⁠anderer Staaten missbraucht ⁠werden könnten. Zuvor war es Forschern gelungen, Sicherheitsvorkehrungen zu umgehen. Dadurch deckte die KI nicht nur Schwachstellen in IT-Systemen auf, sondern erstellte auch gleich den passenden Schadcode, um diese auszunutzen. Anthropic bestritt, dass es eine Gefahr gebe. Regierung und Unternehmen führten in den vergangenen Wochen zähe Gespräche.

Handelsminister Howard Lutnick verwies in einem von US-Medien veröffentlichten Brief zur Aufhebung der Sperre darauf, dass die Firma sich unter anderem bereit erklärt habe, proaktiv nach Sicherheitsrisiken in den Modellen zu suchen und sie zu beheben.

Anthropic hat nach eigenen Angaben ‌die Schutzmechanismen inzwischen verstärkt, um sogenannte Jailbreaks zu verhindern. Das Start-up warnte jedoch, ​es sei »wahrscheinlich unmöglich«, ein KI-Modell ‌vollständig gegen Missbrauch zu schützen. Es bestehe die Gefahr, dass ein universeller Jailbreak entwickelt werde, der »ein ganzes Spektrum schädlicher Verhaltensweisen« freischaltet. Man arbeite jedoch mit Unternehmen wie Microsoft oder Google zusammen, um Missbrauchsversuche zu erkennen und zu blockieren.

Fable 5 als abgespeckte Version

Das Mitte Juni veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie – bei ihm werden aber die Cybersicherheits- und Biotechnologie-Fähigkeiten blockiert. Mythos 5 unterdessen ist die nicht öffentliche, volle Version, die nur Behörden und ausgewählten Unternehmen zur Verfügung stehen soll, damit sie damit Sicherheitslücken in ihren Systemen schließen können.

Die Sperre hatte auch Sorgen in Europa ausgelöst. Nach dem Vorgehen gegen Anthropic gewährte der ChatGPT-Entwickler OpenAI Zugang zu seinem neuesten KI-Modell nur für mit der US-Regierung abgestimmte Partner.

Neues Standardmodell Sonnet 5

Anthropic hat zudem gerade Sonnet 5 vorgestellt , das einen Fokus auf agentische Aufgaben haben soll. Laut KI-Unternehmen soll es »Pläne erstellen, Tools wie Browser und Terminals nutzen und autonom auf einem Niveau arbeiten, für das noch vor wenigen Monaten größere und teurere Modelle erforderlich waren.« Für Nutzerinnen und Nutzer soll es ab sofort als Standardmodell für die Free- und Pro-Tarife zur Verfügung stehen.

Die Beziehung zwischen Anthropic und der US-Regierung gilt als angespannt. Die Firma riskierte einen Konflikt mit Trumps Regierung, weil sie darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen. So verweigert Anthropic dem US-Verteidigungsministerium die uneingeschränkte Nutzung ihrer KI-Modelle .

Das Pentagon erklärte Anthropic daraufhin zu einem Lieferkettenrisiko, während der Konkurrenz neue Staatsaufträge in Aussicht gestellt wurden. Eine solche Einstufung kann dazu führen, dass Software des Unternehmens in Regierungsbehörden nur schwer eingesetzt werden kann. Die Firma klagt dagegen.

Lesen Sie hier mehr über den Exportbann für Anthropic und den Streit mit der US-Regierung.