Deutschland gründet KI-Sicherheitsinstitut AISI in Berlin

Künstliche Intelligenz dringt in immer mehr Branchen und Lebensbereiche vor. Die Bundesregierung hat jetzt ein Institut, das sich mit Fragen der KI-Sicherheit beschäftigt, aus der Taufe gehoben.

Wie zuverlässig funktioniert ein KI-System und wie kann es am besten vor Angriffen und Missbrauch geschützt werden? Mit solchen Fragen soll sich das neue KI-Sicherheitsinstitut beschäftigen. (Symbolbild) Foto: Salvatore Di Nolfi/Keystone/dpa

Berlin. Ohne Fototermin und großen Bahnhof hat Deutschlands neues Institut für die Sicherheit von Künstlicher Intelligenz (KI) in Berlin die Arbeit aufgenommen. Mit dem Aufbau des KI-Sicherheitsinstituts werde ein Beschluss des Nationalen Sicherheitsrats vom Juni umgesetzt, heißt es in einer gemeinsamen Mitteilung von Bundesinnenministerium und Digitalministerium.

Zwei Facetten von Sicherheit

Aufgabe des Instituts, das den Namen AISI Deutschland tragen wird (AI steht für Artificial Intelligence, SI für Security and Safety Institute), wird es laut Mitteilung sein, Chancen und Risiken, die sich durch KI-Modelle für Deutschland ergeben, zu beurteilen sowie die Widerstandsfähigkeit im Bereich KI nachhaltig zu stärken. In der Anfangsphase sollen die Bundesnetzagentur und das Bundesamt für Sicherheit in der Informationstechnik (BSI) den Kern der neuen Einrichtung bilden.

Das BSI soll sich um Fragen von Cybersicherheit (Security) kümmern, also darum, wie ein KI-System und seine Daten vor Angriffen und Missbrauch geschützt werden können. Die Bundesnetzagentur soll die Verantwortung für den Safety-Aspekt tragen. Hier geht es um unbeabsichtigte Fehler, etwa wenn ein autonomes Fahrzeug ein Hindernis zu spät erkennt oder eine Medizin-KI einen Tumor auf dem Röntgenbild übersieht.

KI-Modelle auf Abwegen

In konkreten Einzelfällen ist die Abgrenzung zwischen den verschiedenen Sicherheitsaspekten allerdings nicht immer eindeutig möglich. Die US-Unternehmen Anthropic und OpenAI hatten zuletzt einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen eingedrungen waren. Dies hat die schon seit Jahren bestehende Sorge vor Cyberattacken mit Hilfe Künstlicher Intelligenz verstärkt.

Deutschland brauche ein leistungsfähiges KI-Sicherheitsinstitut, um mit der technologischen Entwicklungsgeschwindigkeit Schritt zu halten, erklärt Bundesdigitalminister Karsten Wildberger (CDU). „Das AISI Deutschland bietet die Grundlage, um international Anschluss an die Künstliche Intelligenz zu gewinnen“, sagt Innenminister Alexander Dobrindt (CSU).

Es geht auch um weniger digitale Abhängigkeit

„Digitalisierung ist Dreh- und Angelpunkt einer sich massiv verändernden Welt mit Aus- und Wechselwirkungen auf Regeln des Miteinanders, Politik, Macht und staatliche Interessen“, sagt BSI-Präsidentin Claudia Plattner. Im Zentrum dieser Entwicklung stehe KI - „sie verändert auch die Sicherheitslage entscheidend“. Diese Phase könne Instabilität auslösen, sei aber auch Ausgangspunkt für mehr Widerstandsfähigkeit und Innovation. Deutschland müsse diese strategische Herausforderung meistern, Chancen und Risiken, die sich durch fortschrittliche KI-Modelle für Deutschland ergeben, evaluieren, die Sicherheit im Bereich künstlicher Intelligenz nachhaltig stärken und digitale Souveränität gewährleisten. Auf diesem Weg sei die Gründung des AISI Deutschland ein Meilenstein.

Das neue Institut soll laut Mitteilung auch die Bundesregierung beraten und mit „europäischen und transatlantischen Partnern“ kooperieren. Zudem gehe es darum, mit internationalen Partnern auf einheitliche Standards für den effektiven und sicheren Umgang mit fortschrittlichen KI-Modellen hinzuwirken.

Veröffentlicht nach den redaktionellen Standards des Handelsblatts. Mehr Informationen finden Sie in unseren Richtlinien.