Spiegel Netzwelt3 sa önceTecnología1 dk okumaGermany

Anthropic muss KI-Modelle für Nicht-US-Bürger sperren

En resumen

Anthropic muss die KI-Modelle "Mythos 5" und "Fable 5" für alle Nicht-US-Bürger sperren, auch für solche, die sich in den USA aufhalten.
Die US-Regierung befürchtet, dass die Modelle durch "Jailbreaks" umgangen werden könnten.
Ein Streit zwischen Anthropic und dem US-Verteidigungsministerium über die Nutzung der KI-Modelle in Bereichen wie Massenüberwachung und autonomen Waffensystemen dauert an.

Resumen generado por IA

Por qué importa

Anthropic muss aufgrund von Anordnungen der US-Regierung KI-Modelle für Nicht-US-Bürger sperren. Die Regierung befürchtet Umgehungsmöglichkeiten durch "Jailbreaks".

Tamaño de fuente

Nach Angaben des Unternehmens muss Anthropic den Zugriff auf die Modelle »Mythos 5« und »Fable 5« für alle ausländischen Staatsangehörigen sperren. Das gilt demnach auch für Personen ohne US-Staatsbürgerschaft, die sich innerhalb der Vereinigten Staaten aufhalten.

»Diese Anordnung hat zur Folge, dass wir Fable 5 und Mythos 5 für alle unsere Kunden unverzüglich deaktivieren müssen, um die Einhaltung der Vorschriften zu gewährleisten«, teilte Anthropic mit . »Der Zugriff auf alle anderen Anthropic-Modelle bleibt davon unberührt.«

Nach Darstellung des Unternehmens geht die US-Regierung jedoch davon aus, dass sich diese Beschränkungen mit einem sogenannten »Jailbreak« aushebeln lassen. Bei einer Demonstration habe das Modell eine kleine Anzahl »bereits bekannter, geringfügiger Schwachstellen« gefunden. Auch andere öffentlich verfügbare KI-Modelle seien dazu in der Lage, so das Unternehmen.

Anthropic und die US-Regierung streiten seit Monaten darum, in welchen Bereichen die KI-Modelle des Unternehmens eingesetzt werden dürfen – etwa in der Massenüberwachung von Amerikanern oder in autonomen Waffensystem. Während Anthropic solche Anwendungen ablehnt, pocht das amerikanische Verteidigungsministerium auf die Rechte für »jede rechtmäßige Nutzung«.