KI-Entwicklung: Bedrohung für Online-Nutzer?
En resumen
- Ein KI-Tool namens Claude Mythos Preview von Anthropic kann Schwachstellen in Software finden und als Cyberwaffe dienen.
- Die US-Regierung könnte es zur Spionage nutzen.
- Frühere Regeln zur KI-Sicherheit wurden abgeschafft.
Resumen generado por IA
Por qué importa
Die Unterzeichnung eines Dekrets zur Regulierung von KI wurde verschoben, angeblich wegen Widerstands aus der Techbranche, die eine Benachteiligung gegenüber chinesischen Rivalen befürchtet. Die Debatte über KI-Risiken wurde durch das Tool Claude Mythos von Anthropic neu entfacht, das Schwachstellen in Software findet.
Die Unterzeichnung des Dekrets war zuvor kurzfristig verschoben worden, Medienberichten zufolge wegen Widerstands aus der Techbranche.
Demnach sah der ursprüngliche Erlass einen Exklusiv-Zeitraum von 90 Tagen für die Regierung vor.
In der Branche gab es die Sorge, dass dies US-Firmen im Wettbewerb unter anderem mit chinesischen Rivalen benachteiligen könnte.
Die Debatte über Risiken und Stärken von künstlicher Intelligenz war zuletzt mit der Software Claude Mythos Preview der Entwicklerfirma Anthropic neu aufgeflammt.
Das KI-Modell fand teilweise über Jahrzehnte unentdeckt gebliebene Schwachstellen in verschiedenen Software-Anwendungen.
In den falschen Händen wäre das automatisierte Hackingwerkzeug damit eine gefährliche Cyberwaffe.
Zugleich könnte es der US-Regierung einen Vorteil geben, eigene Programme zu härten und potenzielle Schwachstellen für Spionage im Ausland auszunutzen.
Anthropic hat keine Pläne, Mythos Preview öffentlich zu machen, stellt das Programm aber Techunternehmen und Regierungsbehörden zur Verfügung.
IT-Sicherheitsexperten gehen davon aus, dass künstliche Intelligenz schon bald in großem Stil von Online-Kriminellen für Cyberangriffe eingesetzt werden könnte.
Unter Trumps Vorgänger Joe Biden gab es striktere Regeln, nach denen KI-Firmen die Sicherheit ihrer Software begutachten mussten.
Trump schaffte sie ab, mit der Begründung, sie bremsten die amerikanische KI-Industrie.
Das automatisierte Hackingwerkzeug Claude Mythos ist angeblich so mächtig, dass es nicht veröffentlicht wird.
Wird die KI-Entwicklung nun zur Bedrohung der Sicherheit aller Onlineuser?
Mehr dazu lesen Sie hier.
Qué observar
Perspectiva de IA — posibilidades, no hechos
KI wird in großem Stil von Online-Kriminellen für Cyberangriffe eingesetzt werden.
Muy probable · Corto plazo
Die US-Regierung wird das Claude Mythos-Tool zur Ausnutzung von Schwachstellen im Ausland nutzen.
Posible · Medio plazo
Preguntas abiertas
- Wird die US-Regierung das Claude Mythos-Tool nutzen?
- Welche weiteren Sicherheitsregeln für KI werden in den USA eingeführt?
- Wie wird sich die KI-Entwicklung auf den globalen Wettbewerb auswirken?
- Welche konkreten Gefahren gehen von automatisierten Hackingwerkzeugen aus?
