Berlin. Die Grünen-Fraktion im Bundestag fordert die Bundesregierung auf, die Sicherheitsrisiken leistungsfähiger Künstlicher Intelligenz (KI) stärker zu begrenzen. Das geht aus einem Antrag hervor, der dem Handelsblatt exklusiv vorliegt.
„KI-Systeme werden nicht nur immer leistungsfähiger, sie übernehmen zunehmend komplexe Aufgaben eigenständig“, heißt es darin. Mit den Fortschritten bei autonomen Systemen wachse auch der Umfang möglicher Risiken. Die Bundesregierung solle deshalb prüfen, wie sich autonome KI-Systeme im Notfall sicher abschalten lassen.
Die Grünen-Politiker wollen auch die Anbieter von KI-Systemen künftig stärker in die Pflicht nehmen. Sicherheitsvorfälle sollen verbindlich aufgearbeitet werden und zudem klare Haftungsregeln greifen. „Die Sicherheit von KI‑Systemen darf nicht länger allein den Unternehmen überlassen werden, die sie entwickeln“, sagte Digitalpolitikerin Rebecca Lenhard, Mitverfasserin des Antrags, dem Handelsblatt. Dabei sollen auch die Führungsetagen der Unternehmen nicht verschont werden. „Wer Schäden verursacht, muss dafür haften. Das gilt auch für die Führungsetagen der großen KI-Konzerne.“
Die Grünen-Fraktion wirft den großen KI-Unternehmen vor, die öffentliche Debatte über KI-Sicherheit zu prägen. Deren Führungskräfte gäben den Ton an, heißt es im Antrag. Die Debatte kreise dadurch vor allem um die Leistungsfähigkeit der Systeme, während Lücken bei Sicherheitsvorkehrungen und die Verantwortung der Unternehmen selbst aus dem Blick gerieten.
„Schon heute zeigen schwerwiegende Vorfälle, dass die führenden KI-Konzerne ihre Systeme nicht ausreichend absichern“, sagte Grünen-Digitalpolitikerin Lenhard. Bislang entschieden die Konzerne trotzdem weitgehend selbst, welche Risiken sie eingehen. „Angesichts der möglichen Folgen für die gesamte Gesellschaft ist das nicht länger hinnehmbar.“
Damit Risiken frühzeitig erkannt und begrenzt werden können, fordert die Grünen-Fraktion verbindliche Sicherheitsstandards und unabhängige Prüfungen. Für politische Entscheidungen sollen künftig unabhängige wissenschaftliche Erkenntnisse ebenso zählen wie konkrete Vorfälle, heißt es in dem Papier.
Der Antrag kommt eine Woche, nachdem wegen einer kritischen Sicherheitslücke in der Webprogrammiersprache PHP zahlreiche Websites vorsorglich vom Netz genommen wurden. „Die aktuellen PHP-Sicherheitslücken zeigen, wie verwundbar unsere digitale Infrastruktur ist“, sagte Lenhard. Mithilfe von KI könnten Angreifer solche Schwachstellen immer schneller aufspüren und ausnutzen, während die Zeit für Gegenmaßnahmen schrumpfe, warnt die Digitalpolitikerin.
„Wir dürfen nicht erst handeln, wenn aus einer Sicherheitslücke eine Sicherheitskrise geworden ist.“ Auch müsse die Bevölkerung besser über KI-verschärfte Cyberrisiken und Schutzmöglichkeiten informiert werden.
Der Vorsitzende des Parlamentarischen Kontrollgremiums, Marc Henrichmann (CDU), sprach kurz nach Bekanntwerden der Sicherheitslücke von einem „Wendepunkt“. Künstliche Intelligenz mache aus Schwachstellen, die bisher als kaum ausnutzbar galten, binnen kurzer Zeit „echte Einfallstore“.
Auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) hatte Alarm geschlagen und eine offizielle Cybersicherheitswarnung herausgegeben. Hacker könnten massive Angriffskampagnen starten und in der Folge die Kontrolle über Webseiten übernehmen oder sensible Kundendaten abgreifen, hieß es.
Der Antrag der Grünen-Bundestagsfraktion fordert deshalb, das BSI „kurzfristig und bedarfsgerecht“ auszubauen: personell, finanziell und technisch. Nur so könne die Behörde den neuen Sicherheitsrisiken begegnen, „die durch leistungsfähigere und zunehmend autonome KI-Systeme entstehen“, heißt es im Antrag. Die schwarz-rote Koalition plant bereits, das BSI im Haushaltsentwurf für 2027 deutlich zu stärken.
Der Grünen-Politiker Konstantin von Notz begrüßt, dass auch die Bundesregierung die Bedeutung des Themas erkannt hat und es zu einem Schwerpunkt des Digitalgipfels am 2. und 3. November macht. „Die harschen Vorfälle der letzten Wochen und Tage haben noch einmal die Dringlichkeit konkreter politischer Handlungen drastisch aufgezeigt“, sagte von Notz dem Handelsblatt. Jetzt liege es an der Bundesregierung, zu zeigen, dass auf „hehre Ankündigungen“ auch Taten folgen.
Ausbauen wollen die Grünen-Politiker zudem das deutsche KI-Sicherheitsinstitut AISI, das als nationale Evaluierungsinstitution die Fähigkeiten und Risiken leistungsfähiger KI-Modelle bewertet und Behörden sowie Unternehmen berät. Sie plädieren zusätzlich für eine enge Verbindung zum europäischen AI Office. Digitalminister Karsten Wildberger (CDU) hat einen Ausbau des Instituts bereits angekündigt, konkrete Zeitpläne oder feste Finanzmittel hat die Bundesregierung dafür bislang nicht genannt.
Der Antrag fordert außerdem, dass sich die Bundesregierung international, vor allem bei den Vereinten Nationen, für gemeinsame KI-Sicherheitsstandards und eine unabhängige internationale Aufsicht einsetzt.
