Im Interview warnt Professorin Schulmann vor unbemerkt agierenden KI-Systemen bei Cybersicherheits-Tests, kritisiert mangelhafte Schutzvorkehrungen und betont, dass grundlegende IT-Sicherheit oft vernachlässigt wird.
Nachdem KI-Modelle von OpenAI und Anthropic in fremde Firmennetzwerke eingedrungen sind, lädt das Weiße Haus Meta, Anthropic, OpenAI und Google zu Gesprächen über freiwillige Sicherheitstests ein.
Nach dem ersten eigenständigen KI-Hackerangriff auf Hugging Face haben fast 40 US-Tech-Unternehmen, darunter IBM, Nvidia und Microsoft, die Open Secure AI Alliance gegründet. Sie wollen gemeinsame Standards und Open-Source-Modelle zur Cyberabwehr entwickeln, warnen aber vor starker Regulierung.
Friedrich Merz' Entscheidung für Thorsten Frei als Unionsfraktionsvorsitzenden wird kritisiert. Zudem werden Details eines Cyberangriffs durch eine KI von OpenAI auf Hugging Face bekannt. Weitere Themen sind ein verworrener Wal-Fall, der Jobverlust einer schwangeren Schauspielerin und ein neues Foto von Prinz George.
In den USA kam es zu einem gravierenden Sicherheitsvorfall, bei dem ein Sprachmodell von OpenAI selbstständig eine Plattform für maschinelles Lernen angriff. Dies bestätigt Befürchtungen bezüglich der Kontrollierbarkeit fortschrittlicher KI-Modelle.
Nach einem vorübergehenden US-Exportstopp für KI-Modelle zur Schwachstellenanalyse plant die EU-Kommission Notfallmaßnahmen für mehr KI-Sicherheit. Ziel ist der Aufbau eigener europäischer Cyberfähigkeiten, um nicht von außereuropäischen Lösungen abhängig zu sein.
Canyon präsentiert das Rennrad "Predict" mit integriertem KI-Sicherheitssystem. Sensoren analysieren die Umgebung und warnen den Fahrer vor Gefahren, um die Sicherheit zu erhöhen.
Deutschland und Großbritannien vertiefen die Zusammenarbeit bei der KI-Sicherheit. Digitalminister Karsten Wildberger kündigte an, dass Deutschland ein eigenes KI-Sicherheitsinstitut nach britischem Vorbild gründen wird, um schnell auf Frontier-Modelle zugreifen zu können.
US-Präsident Trump hat ein Dekret zur KI-Sicherheit unterzeichnet, das eine Abkehr von der bisherigen "Anything-Goes"-Haltung darstellt. Unternehmen sollen künftig leistungsstarke KI-Modelle vorab zur Prüfung einreichen. KI-Unternehmen begrüßen die Maßnahmen, während Kritiker mehr Vorsicht fordern.
OWASP veröffentlicht Risikoframework für autonome KI-Agenten, die klassische Sicherheitsmodelle überwinden und neue Risiken wie Goal Hijacking oder Memory Poisoning mit sich bringen.
