Anthropic: Gruppe nutzt Claude Mythos für Hackerangriffe – Bundesbank warnt

Dies sei genau an dem Tag geschehen, an dem Anthropic eine begrenzte Testphase des Modells angekündigt habe. Seitdem nutze die Gruppe das Modell regelmäßig, jedoch nicht für Zwecke der Cybersicherheit. Anthropic teilte mit, man untersuche einen Bericht zu einem unbefugten Zugriff auf die Vorabversion Claude Mythos Preview über die Umgebung eines Drittanbieters. Anthropic hatte Claude Mythos am 7. April vorgestellt – mehr dazu hier. Die Vorabversion wird im Rahmen des sogenannten Project Glasswing ausschließlich ausgewählten Organisationen aus dem Bereich der defensiven Cybersicherheit zur Verfügung gestellt. Claude Mythos gilt als das bislang leistungsfähigste Modell des Unternehmens für Programmieraufgaben und autonomes Handeln.

KI soll komplexe Hackerangriffe starten können

Die Weiterentwicklung des Sprachmodells »Claude« zeichnet sich durch verbesserte Fähigkeiten beim Aufspüren und Ausnutzen von Schwachstellen in Computerprogrammen aus. Anthropic verzichtete daher vorerst auf die Veröffentlichung von Claude Mythos – mehr dazu hier. Nach Angaben von Anthropic hat das Modell Tausende schwerwiegende Sicherheitslücken in weitverbreiteter Software identifiziert – etwa in gängigen Betriebssystemen und Webbrowsern. Einige der entdeckten Sicherheitslücken waren trotz zahlreicher Prüfungen durch Menschen jahrelang unerkannt geblieben. Die KI soll sogar Laien in die Lage versetzen, komplexe Hackerangriffe zu starten, was Sicherheitsexperten alarmiert. Bundesbank-Präsident Joachim Nagel warnte vor den Risiken der Software. »Wir müssen den Missbrauch dieser Technologie verhindern.« Die Bankenbranche gilt mit ihrer teilweise veralteten IT-Infrastruktur als besonders anfällig für Angriffe durch KI.

Anthropic will Insidern zufolge europäischen Banken demnächst Zugang zu seiner KI Claude Mythos gewähren. Damit sollen sie Gelegenheit bekommen, ihre Computersysteme auf mögliche Schwachstellen zu testen und eventuelle Sicherheitslücken zu schließen. Einige US-Banken konnten die KI im Rahmen des Project Glasswing bereits einsetzen, um ihre IT-Systeme auf Herz und Nieren zu prüfen.