Deutschland plant neues KI-Institut mit Fokus auf Sicherheit und Safety

Das neue Institut für Künstliche Intelligenz, das noch keinen Namen hat, ist in der Anfangsphase als virtuelle Institution geplant, wobei Strukturen und Kompetenzen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) genutzt werden sollen. In einem zweiten Schritt soll dann ein Standort gefunden werden. Wann das sein wird, steht aber noch nicht genau fest. Ein BSI-Sprecher sagt, mit Blick auf die rasante technologische Entwicklung bei KI sei es den federführenden Ministerien - das sind das Bundesinnenministerium und das Digitalministerium - wichtig, hier zügig voranzukommen. In den Blick nehmen soll das Institut KI-Security, also den Schutz vor Angriffen und die Cybersicherheit, aber auch KI-Safety - hier geht es um sichere KI-Produkte, die keine gefährlichen Aktionen auslösen und zum Beispiel keinen Horrorfilm vorschlagen, wenn der Nutzer nach einem Kinderfilm fragt. Zahlreiche Staaten verfügen bereits über solche Institute, in Deutschland nahm bisher das Bundesamt für Sicherheit in der Informationstechnologie Aufgaben in diesem Bereich wahr. Ein internationales Treffen zur Standardisierung von KI-Standards fand etwa im Dezember in der südkoreanischen Hauptstadt Seoul statt, bei dem das BSI vertreten war. Bundesdigitalminister Karsten Wildberger (CDU) kündigte am Rande eines EU-Treffens in Luxemburg an, das KI-Institut solle mit „Top-Expertise von Experten auf Weltniveau“ ausgestattet sein. Sie sollen neue Modelle wie etwa Claude Mythos demnach schnell testen, bewerten und die Bundesregierung sowie die Verwaltung dazu beraten. Ein Vorbild sei das britische KI-Sicherheitsinstitut. Zuletzt sorgte die vom US-Unternehmen Anthropic entwickelte Software Mythos für Aufsehen, da sie in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken fand. Die Bundesregierung erhielt zunächst keinen Zugang zu dem neuen Tool. Das BSI sei in Kontakt mit Anthropic, hieß es vom BSI auf Nachfrage. Wie der BSI-Sprecher weiter mitteilte, soll die Bundesnetzagentur die zentrale Aufsichtsbehörde für die Durchsetzung der europäischen KI-Verordnung (AI Act) in Deutschland werden. Die Verordnung trat im August 2024 in Kraft, wobei ein Teil der Regelungen ab dem 2. August 2026 verbindlich wird. Kern der Verordnung ist eine Einteilung von KI-Modellen mit allgemeinem Verwendungszweck - dazu zählen etwa Chat-GPT von Open AI oder Gemini von Google - in Risikoklassen, sowie Transparenz- und Kennzeichnungspflichten. Der Sicherheitsrat unter Leitung von Bundeskanzler Friedrich Merz (CDU) befasste sich ferner mit der sicherheitspolitischen Lage im Nahen und Mittleren Osten. Beschlossen wurde zudem, Gesetze zur Versorgung der Bevölkerung und der Streitkräfte mit lebenswichtigen Gütern und kritischer Infrastruktur zu überprüfen und sie an die aktuellen Herausforderungen anzupassen. Die schwarz-rote Bundesregierung hatte den Nationalen Sicherheitsrat im vergangenen Jahr gegründet, um auf Krisen und Bedrohungen aller Art schnell und effektiv reagieren zu können. Neben Mitgliedern der Bundesregierung und Sicherheitsbehörden können auch Vertreter der Länder eingeladen werden.