Anthropic hat die Risikostufe für mögliche Fehlsteuerungen seiner KI-Modelle von sehr niedrig auf niedrig erhöht. Grund sind weltweite Sicherheitsvorfälle mit autonomen KI-Agenten, weshalb ein neues Modell vorerst nur intern getestet wird.
Tim Rocktäschel, Pionier der KI-Entwicklung bei Meta und Google, hat mit Richard Socher, Ex-Chefwissenschaftler von Salesforce, das Startup "Recursive Superintelligence" gegründet. Mit einem Investment von rund 560 Millionen Euro und einer Bewertung von über vier Milliarden Euro zielt das Unternehmen darauf ab, sich selbst verbessernde KI zu entwickeln.
Großbritanniens Außenministerin Yvette Cooper warnt vor existenziellen Risiken durch KI. Sie vergleicht die aktuelle Situation mit 1945 und fordert gemeinsame Regeln, um eine "KI-Version von Hiroshima" zu verhindern.
Der Chef von Anthropic, Dario Amodei, fordert eine staatliche Notbremse für die KI-Entwicklung. Regierungen sollen die Macht erhalten, gefährliche KI-Systeme zu stoppen und Risiken in Bereichen wie Cybersicherheit und Biowaffen zu prüfen.
KI-Unternehmen Anthropic plädiert für eine weltweite Pause in der Entwicklung leistungsstärkerer KI-Systeme, um gesellschaftliche Strukturen und Forschung mit dem technologischen Fortschritt abzustimmen. Eine Einigung aller führenden KI-Konzerne, insbesondere in den USA und China, wäre erforderlich.
Anthropic, ein US-Konzern für künstliche Intelligenz, fordert eine weltweite Pause bei der Entwicklung hochleistungsfähiger KI-Systeme, um gesellschaftliche Strukturen und Forschung mit dem technologischen Fortschritt abzustimmen.
Ein KI-Tool namens Claude Mythos Preview von Anthropic kann Schwachstellen in Software finden und als Cyberwaffe dienen. Die US-Regierung könnte es zur Spionage nutzen. Frühere Regeln zur KI-Sicherheit wurden abgeschafft.
Papst Leo XIV. hat seine erste Enzyklika „Magnifica Humanitas“ vorgestellt. Das Lehrschreiben soll die katholische Kirche als ethischen Orientierungspunkt in der Debatte um Künstliche Intelligenz etablieren und Wege aufzeigen, wie negative Auswirkungen von KI vermieden werden können. Die Enzyklika richtet sich nicht nur an Katholiken, sondern auch an Entscheidungsträger der US-Tech-Branche.
Google präsentiert Gemini Intelligence, die EU konkretisiert Regeln gegen digitale Täuschung, Microsoft verhindert angeblich KI-gestützten Cyberangriff und mehr KI-Entwicklungen.
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Die Hannover Messe rückt industrielle KI in den Fokus, während globale Tech-Konzerne wie Google, Meta und OpenAI ihre KI-Modelle weiterentwickeln. Gleichzeitig werfen ethische und rechtliche Fragen, etwa zu Deepfakes und KI-gestützter Kriminalität, neue Herausforderungen auf.
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Das automatisierte Hacking-Werkzeug Claude Mythos ist angeblich so mächtig, dass es nicht veröffentlicht wird. Wird die KI-Entwicklung nun zur Bedrohung der Sicherheit aller Online-User?
Das BSI warnt vor dem neuen Anthropic-Modell 'Mythos', während Aleph Alpha und Cohere über eine Fusion verhandeln. Zudem gibt es neue Entwicklungen bei Meta, OpenAI und rechtliche Auseinandersetzungen um KI-Training und Prüfungsbetrug.
