EU-Parlament will missbräuchliche Deepfakes verbieten
En resumen
- Das EU-Parlament in Straßburg hat mit großer Mehrheit für ein Verbot von KI-Anwendungen zur Erstellung sexualisierter Deepfakes gestimmt.
- Das Verbot soll ab Dezember 2026 gelten und zielt auf die Erstellung realistischer Bilder von Intimbereichen ab, ausgenommen sind Karikaturen und nicht einvernehmliche Bikini-Bilder.
Resumen generado por IA
Por qué importa
KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen nach dem Willen der EU-Parlamentarier in Straßburg künftig verboten sein. Eine große Mehrheit von 423 Abgeordneten stimmte in Straßburg für eine entsprechende Änderung des europäischen KI-Gesetzes.
KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen nach dem Willen der EU-Parlamentarier in Straßburg künftig verboten sein.
Eine große Mehrheit von 423 Abgeordneten stimmte in Straßburg für eine entsprechende Änderung des europäischen KI-Gesetzes. 57 lehnten sie ab, 174 Parlamentarier enthielten sich.
Nun fehlt noch die formelle Zustimmung der EU-Staaten. Das Verbot würde dann ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Bei Deepfakes werden mithilfe künstlicher Intelligenz täuschend echt wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt. Die an den Verhandlungen beteiligten Abgeordneten hatten betont, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken.
Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Das Verbot zielt demnach auf KI-Anwendungen ab, die etwa die Erstellung von realistischen Bildern oder Videos vom Intimbereich erlauben – insbesondere von Genitalien, dem Anus, Po oder entblößten weiblichen Brüsten sowie von sexuell eindeutigen Handlungen.
Satirische Karikaturen sollen also ausgenommen bleiben. Auch nicht einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.
Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen und auch die Anwendung von künstlicher Intelligenz in der Wirtschaft mit Regelvereinfachungen erleichtern. An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren.
Preguntas abiertas
- Wie genau werden die Definitionen von "sexualisierten Inhalten" ausgelegt?
- Welche Sanktionen drohen Anbietern bei Nichteinhaltung?
