Anthropic's 'Mythos Preview' AI: PR Stunt or Security Catastrophe?

Anfang April stellte die KI-Schmiede Anthropic ein neues Sprachmodell vor, will es aber nicht veröffentlichen. „Mythos Preview“ sei zu gefährlich, um allgemein zugänglich zu werden. Sorgen macht Anthropic sich um die als „Cyber“ bezeichneten Fähigkeiten des Modells bei der Suche nach Sicherheitslücken – und insbesondere auch bei deren Ausnutzung. Mythos soll Tausende schwerwiegende Sicherheitslücken gefunden und in vielen Fällen auch autonom funktionstüchtige Exploits produziert haben, für die Lücken „in jedem großen Betriebssystem und Webbrowser“ und viel anderer kritischer Software.

Nicht zum ersten Mal warnt ein KI-Hersteller vor seinem Produkt und auch diesmal gibt es viel Diskussion über die Motivation für Anthropics Vorgehen. Die Vermutungen reichen von einem reinen PR-Gag, der vielleicht sogar dazu dienen soll, eher maue Performance zu verschleiern, über die Idee, dass Anthropic im allgemeinen Hardware- und Speichermangel schlicht nicht die Kapazitäten hat, das ressourcenhungrige neue Modell allgemein verfügbar zu machen, bis zu Spekulationen, wie sich die Aktion auf Anthropics Streit mit der US-Regierung auswirkten könnte. Dort gilt der Hersteller als Lieferkettenrisiko, seit er auf bestimmte ethische Leitlinien in Verträgen mit dem Pentagon beharrte.

Jedenfalls war die PR-Wirkung des Vorgehens durchschlagend: Innerhalb kürzester Zeit war die Security-Community in Aufruhr, die US-Regierung sucht wieder das Gespräch mit Anthropic und schärfte systemrelevanten Banken ein, sich mit dem Risiko zu befassen, und OpenAI kündigte ein eigenes, auf „Cyber“ zu geschnittenes KI-Modell an, das man ebenfalls nicht allgemein verfügbar machen werde.