Anthropic: Gruppe nutzt Claude Mythos für Hackerangriffe – Bundesbank warnt
Bundesbank-Präsident Nagel: Missbrauch der KI-Technologie verhindern. Modell identifizierte Tausende unentdeckte Sicherheitslücken.
En resumen
- Eine unbekannte Gruppe nutzt Anthropics KI-Modell Claude Mythos offenbar für Hackerangriffe.
- Das Modell wurde ursprünglich nur ausgewählten Organisationen für defensive Cybersicherheit im Rahmen von Project Glasswing zur Verfügung gestellt.
- Bundesbank-Präsident Joachim Nagel warnte vor den Risiken der Technologie.
Resumen generado por IA
Por qué importa
Anthropic entwickelt mit Claude Mythos ein KI-Modell für Programmieraufgaben und autonomes Handeln. Das Modell kann Sicherheitslücken in Software identifizieren und ausnutzen. Wegen dieser Fähigkeiten verzichtete Anthropic zunächst auf eine öffentliche Veröffentlichung.
Dies sei genau an dem Tag geschehen, an dem Anthropic eine begrenzte Testphase des Modells angekündigt habe. Seitdem nutze die Gruppe das Modell regelmäßig, jedoch nicht für Zwecke der Cybersicherheit. Anthropic teilte mit, man untersuche einen Bericht zu einem unbefugten Zugriff auf die Vorabversion Claude Mythos Preview über die Umgebung eines Drittanbieters. Anthropic hatte Claude Mythos am 7. April vorgestellt – mehr dazu hier. Die Vorabversion wird im Rahmen des sogenannten Project Glasswing ausschließlich ausgewählten Organisationen aus dem Bereich der defensiven Cybersicherheit zur Verfügung gestellt. Claude Mythos gilt als das bislang leistungsfähigste Modell des Unternehmens für Programmieraufgaben und autonomes Handeln.
KI soll komplexe Hackerangriffe starten können
Die Weiterentwicklung des Sprachmodells »Claude« zeichnet sich durch verbesserte Fähigkeiten beim Aufspüren und Ausnutzen von Schwachstellen in Computerprogrammen aus. Anthropic verzichtete daher vorerst auf die Veröffentlichung von Claude Mythos – mehr dazu hier. Nach Angaben von Anthropic hat das Modell Tausende schwerwiegende Sicherheitslücken in weitverbreiteter Software identifiziert – etwa in gängigen Betriebssystemen und Webbrowsern. Einige der entdeckten Sicherheitslücken waren trotz zahlreicher Prüfungen durch Menschen jahrelang unerkannt geblieben. Die KI soll sogar Laien in die Lage versetzen, komplexe Hackerangriffe zu starten, was Sicherheitsexperten alarmiert. Bundesbank-Präsident Joachim Nagel warnte vor den Risiken der Software. »Wir müssen den Missbrauch dieser Technologie verhindern.« Die Bankenbranche gilt mit ihrer teilweise veralteten IT-Infrastruktur als besonders anfällig für Angriffe durch KI.
Anthropic will Insidern zufolge europäischen Banken demnächst Zugang zu seiner KI Claude Mythos gewähren. Damit sollen sie Gelegenheit bekommen, ihre Computersysteme auf mögliche Schwachstellen zu testen und eventuelle Sicherheitslücken zu schließen. Einige US-Banken konnten die KI im Rahmen des Project Glasswing bereits einsetzen, um ihre IT-Systeme auf Herz und Nieren zu prüfen.
Qué observar
Perspectiva de IA — posibilidades, no hechos
Weitere Details zum unbefugten Zugriff auf Claude Mythos werden bekannt gegeben
Probable · En semanas
Europäische Banken beginnen mit Tests ihrer IT-Systeme mittels Claude Mythos
Probable · En meses
Preguntas abiertas
- Welche spezifische Gruppe nutzt das Modell für Angriffe?
- Wie konnte der unbefugte Zugriff erfolgen?
- Welche europäischen Banken erhalten Zugang?
