EU-Parlament stimmt Verbot von KI-Deepfakes zu

Das Europaparlament hat einem Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können, zugestimmt. Nun fehlt noch die formelle Zustimmung der EU-Staaten, die jedoch als Formsache gilt. Das Verbot soll dann planmäßig vom 2. Dezember an gelten.

Bei Deepfakes werden mit Hilfe Künstlicher Intelligenz täuschend echt wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt.

EU reagiert auf Vorfälle mit Chatbot Grok

Das Verbot zielt demnach auf Systeme ab, die Bilder, Videos und Töne mit kinderpornografischem Inhalt erstellen können oder intime Darstellungen eines identifizierbaren Menschen ohne dessen Einwilligung zeigen.

Die KI-Anwendungen müssen nach Ablauf der Frist Anfang Dezember mit Sicherheitsvorkehrungen ausgestattet sein, die sie davon abhalten, solche Inhalte zu erzeugen.

Damit reagiert die EU unter anderem auf Vorfälle vom Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok Millionen sexualisierter KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Als Ergänzung zur Regulierung der Anbieter auf EU-Ebene hatte Bundesjustizministerin Stefanie Hubig bereits einen Gesetzentwurf vorgestellt, der die Strafen für Nutzer in Deutschland bestimmen soll, die Deepfakes erstellen. Die SPD-Politikerin schlug vor, das Erstellen und Verbreiten von pornografischen Deepfakes künftig mit bis zu zwei Jahren Haft zu bestrafen.

Reform enthält auch Lockerungen der KI-Regulierung

Die in Straßburg beschlossene Reform ändert ein KI-Gesetz, das die EU 2024 verabschiedet hatte. Sie sieht an anderer Stelle Lockerungen vor: Parlament und Mitgliedstaaten einigten sich beispielsweise darauf, Regeln für den Einsatz von KI in "Hochrisiko"-Bereichen wie Sicherheitsbehörden und Gesundheitssystemen zu verschieben.

Auflagen für KI-Apps in der Strafverfolgung oder bei der biometrischen Erkennung sollen zudem erst Ende 2027 greifen und nicht schon Mitte oder Ende dieses Jahres. Fristen für die Umsetzung werden verlängert, um der Wirtschaft entgegenzukommen, denn viele Unternehmen hatten sich über mögliche Nachteile im internationalen Wettbewerb beklagt.

"Wir schätzen, dass das Gesetzespaket Einsparungen bei der Bürokratie von mindestens einer Milliarde Euro für unsere Unternehmen, für Verwaltungen und Bürgerinnen und Bürger bringen könnte", sagt der Vizepräsident der EU-Kommission, Valdis Dombrovskis.

Mit Informationen von Andreas Meyer-Feist, ARD Brüssel