US-Tech-Unternehmen gründen KI-Sicherheitsallianz nach Hackerangriff

Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff einer Künstlichen Intelligenz haben fast 40 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an.

Sie setzen zur Lösung des Problems ebenfalls auf KI. Gleichzeitig warnten sie die Politik vor einer stärkeren Regulierung. Als Hersteller von KI-Chips hat Nvidia ein Interesse daran, dass solche KI-Modelle nicht staatlich reguliert werden - die Sicherheitsallianz soll Missbrauch erschweren.

Rechtlich bindende Verpflichtungen gehen die Mitglieder der neuen Open Secure AI Alliance allerdings nicht ein.

Gemeinsame Standards durch Sicherheitsbaukasten

Konkret wollen die Unternehmen sogenannte Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln.

Die neue Initiative wird von der Chipschmiede Nvidia angeführt. Laut Nvidia ist geplant, einen allgemein verfügbaren Sicherheitsbaukasten für KI-Agenten zu entwickeln. Dabei geht es unter anderem um gemeinsame Standards für die Absicherung von KI-Agenten, sogenannten Sandbox-Testumgebungen und um definierte Protokollstrukturen, um Handlungen von KI-Agenten genau nachvollziehen zu können.

Die Allianz baut teilweise auf bereits bestehenden Initiativen einzelner Unternehmen auf und führt diese zusammen. Nvidia selbst bringt ein Sicherheits-Framework rund um KI-Agenten ein, IBM digitale Signaturen als Sicherheitselement und Microsoft ein spezialisiertes System, das Sicherheitslücken aufdecken und verifizieren kann.

KI-Modelle hatten sich verselbstständigt

Bei dem aufsehenerregenden Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet.

Das heizte Befürchtungen an, besonders fortgeschrittene KI-Modelle seien unkontrollierbar. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt. Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat.

OpenAI hatte den Vorgang "beispiellos" genannt. Sorge bereitete außerdem, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle - aufgrund von Einschränkungen - dazu nicht in der Lage waren. Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen.