Anthropic muss leistungsstarke KI-Modelle abschalten

Der seit Monaten dauernde Streit zwischen dem auf Künstliche Intelligenz spezialisierten Unternehmen Anthropic und der US-Regierung könnte aufs Neue eskalieren. Anthropic teilte am Freitag mit, die Regierung habe weitreichende Exportkontrollen für Mythos 5 und Fable 5 verhängt, zwei seiner leistungsstärksten KI-Modelle. Demnach dürften diese Modelle nicht mehr von Ausländern verwendet werden, egal, ob sie sich außerhalb oder innerhalb der USA befinden. Sogar ausländische Anthropic-Mitarbeiter wären betroffen.

Das Unternehmen sieht sich daher gezwungen, den Zugang zu diesen Modellen für alle Kunden zu blockieren. Mythos 5 und Fable 5 werden also vorerst komplett abgeschaltet.

Anthropic hat nach eigenen Angaben am späten Freitagnachmittag von der Regierung eine Anordnung mit den Exportrestriktionen erhalten. Der Schritt sei mit Bedenken um die nationale Sicherheit begründet worden, allerdings ohne „spezifische Details“ zu nennen. Nach Erkenntnissen von Anthropic habe die Regierung von einer Methode erfahren, Sicherheitsmechanismen von Fable 5 mit einem sogenannten „Jailbreak“ zu umgehen. Anthropics Einschätzung zufolge handele es sich dabei aber um eine vergleichsweise geringfügige Schwachstelle, die auch Modelle anderer Unternehmen wie Open AI hätten.

„Wir glauben, das ist ein Missverständnis“

Offenbar hält Anthropic die von der Regierung verhängten Restriktionen für überzogen. Das Unternehmen sagt in seiner Mitteilung, nach seiner Auffassung sollte ein solcher geringfügiger potentieller „Jailbreak“ kein Grund dafür sein, ein Modell zu sperren, das von mehreren hundert Millionen Menschen genutzt werde. Wenn der gleiche Standard für die ganze Industrie gelte, würde das die Entwicklung neuer Modelle in KI-Unternehmen praktisch zum Stillstand bringen. Es sei zwar das gute Recht der Regierung, unsichere Technologien zu blockieren. Aber das müsse auf „transparente, faire und klare“ Weise geschehen und auf „technischen Fakten“ beruhen. Das sei hier aber nicht der Fall. „Wir glauben, das ist ein Missverständnis, und wir arbeiten daran, den Zugang so schnell wie möglich wiederherzustellen.“

Anthropic hat Mythos im April vorgestellt. Das Modell verfügt offenbar über ausgeprägte Fähigkeiten, Sicherheitslücken in Software zu finden und auszunutzen. Dies macht es nicht nur für Softwareanbieter wertvoll, sondern auch für Hacker. Anthropic hat es deshalb zunächst nur einem kleinen Kreis von Nutzern zugänglich gemacht, darunter Technologiekonzernen wie Google und Microsoft. Mythos wurde schnell zum Politikum und hat Sicherheitssorgen in der amerikanischen Regierung geweckt.

In der vergangenen Woche brachte Anthropic Fable 5 heraus, eine Variante von Mythos, die für die Allgemeinheit zugänglich ist, aber eingebaute Schutzmechanismen hat. Fable 5 ist so konzipiert, dass Anfragen zu bestimmten sensiblen Themen abgeblockt und an ein weniger leistungsfähiges Modell weitergeleitet werden. Konkret sind das Anfragen rund um Cybersicherheit und Biologie. Damit soll unter anderem verhindert werden, dass das Modell für Hacking oder die Entwicklung von Biowaffen missbraucht wird.

Das Unternehmen sagte jetzt in seiner Mitteilung, es habe in den Wochen vor der Veröffentlichung von Fable 5 mit der US-Regierung zusammengearbeitet, um die Sicherheitsmechanismen zu testen. Diese Mechanismen seien am Ende so „stark“ gewesen, dass viele Nutzer sie als zu streng empfunden und sich darüber beklagt hätten.

Das Verhältnis zwischen Anthropic und der US-Regierung ist seit Monaten angespannt. Das Unternehmen liefert sich einen Streit mit dem Verteidigungsministerium, der sich um die Frage dreht, wofür die Regierung KI-Modelle nutzen darf. Anthropic hat gegenüber dem Pentagon auf Einschränkungen bestanden. Demnach dürften seine KI-Modelle nicht zur Massenüberwachung von Amerikanern oder zur Entwicklung vollständig autonomer Waffensysteme genutzt werden. Das Ministerium bestand aber auf eine Freigabe für „alle rechtmäßigen Zwecke“ und erklärte Anthropic Ende Februar zum Risiko für die nationale Sicherheit. Anthropic hat die Regierung daraufhin verklagt. Dieser Rechtsstreit dauert noch an.