Anthropic meldet Missbrauch von KI-Modell Claude durch russische und chinesische Akteure

Künstliche Intelligenz wird laut dem Entwickler Anthropic zunehmend zur Steuerung ganzer Cyberangriffe eingesetzt. Das Unternehmen berichtet von einer mutmaßlich russischen Spionagekampagne und chinesischen KI-Firmen, die sein Modell für eigene Zwecke missbraucht haben sollen.

Das KI-Unternehmen Anthropic hat nach eigenen Angaben in den vergangenen acht Monaten mehrere Fälle von missbräuchlicher Nutzung seines KI-Modells Claude unterbunden. Dazu zählten eine mutmaßlich von Russland gesteuerte Cyberspionage-Kampagne sowie Versuche chinesischer KI-Firmen, die Fähigkeiten von Claude zu kopieren. Cyberkriminelle und staatliche Hacker nutzten KI zunehmend nicht nur zur Unterstützung, sondern zur Steuerung und Ausführung ganzer Cyberangriffe, hieß es in dem Bericht des Unternehmens.

Dem Bericht zufolge hat Anthropic Angriffe von sieben chinesischen Laboren gestoppt, darunter von den Technologieriesen Alibaba, Moonshot, DeepSeek und Xiaomi. Mitarbeiter, die Alibaba zugeordnet werden, sollen den größten Angriff dieser Art ausgeführt haben, um die Fähigkeiten von Claude für die Verbesserung der hauseigenen Qwen-Modelle zu nutzen. Dabei werden kleinere KI-Modelle mit den Ergebnissen größerer, teurerer Modelle trainiert, um die Entwicklungskosten zu senken.

Zwischen Mai und Juli 2026 habe Anthropic mehr als 151 Millionen solcher Interaktionen von über 3500 als betrügerisch eingestuften Konten festgestellt. Die Entwickler der Chatbots Kimi (Moonshot) und DeepSeek sollen dagegen Live-Gespräche von Kunden, die teils sensible Informationen enthielten, in Claude eingespeist und dessen Antworten als Trainingsdaten verwendet haben.

Eine Hackergruppe, deren Vorgehen mit der russischen Gruppe "Midnight Blizzard" übereinstimmt, soll mithilfe der KI Angriffe auf Ziele in der ukrainischen Regierung, dem Militär und dem diplomatischen Sektor verübt haben. Die US-Regierung hat "Midnight Blizzard" bereits früher mit dem russischen Auslandsgeheimdienst SVR in Verbindung gebracht. Die Gruppe soll ein System entwickelt haben, das automatisch erkennt, wenn seine Schadsoftware von Sicherheitssystemen entdeckt wird, und den Code so lange umschreibt, bis er wieder unentdeckt bleibt. Zudem identifizierte Anthropic weitere Akteure, die Claude zur Entwicklung von Software für konventionelle Waffen wie Schusswaffen, Raketen und bewaffnete Drohnen missbrauchen.

Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, sagte in einem Interview, dass die Modelle im vergangenen Jahr leistungsfähiger geworden seien, was neue Risiken mit sich bringe. "Vor einem Jahr wären die Modelle für eine Aufgabe wie die Optimierung einer Drohne oder der Software einer Rakete einfach nicht so gut gewesen wie heute", erklärte er. Anthropic habe auch Aktivitäten aufgedeckt, die dem Cybercrime-Kollektiv ShinyHunters zugerechnet werden.