Neue Vorgaben der EU: Wasserzeichen für KI-Inhalte – was sich jetzt ändert

Mit KI erstellte Bilder sehen inzwischen oft so real aus, dass viele kaum noch unterscheiden könne, was echt ist und was nicht. Seit Sonntag müssen viele KI-generierte Inhalte gekennzeichnet werden. Zudem müssen Nutzer darüber informiert werden, dass sie mit einer KI interagieren, also etwa mit einem Chatbot schreiben und nicht mit einem Menschen.

Welche Inhalte sind betroffen und was bedeuten die neuen Regeln für private Profile? Die wichtigsten Fragen und Antworten im Überblick:

Wer muss sich an die neuen Regeln halten?

Die Vorgaben gelten für Bilder, Videos und Texte, die einem professionellen Zweck dienen, zum Beispiel Werbung sowohl im Internet als auch auf Plakaten. Auch Influencer, die mit ihrem Content Geld verdienen, müssen sich an die Regeln halten. Wer KI-Bilder auf seinem privaten Profil veröffentlicht, muss hingegen nichts kennzeichnen.

Für die Kennzeichnung sind die KI-Anbieter selbst verantwortlich, also etwa der Konzern OpenAI hinter ChatGPT, Google mit seinem Chatbot Gemini oder die Instagram- und Facebook-Mutter Meta.

Um welche Inhalte geht es?

Die Regeln zielen besonders auf sogenannte Deepfakes ab: Täuschend echt wirkende Inhalte, die zu manipulativen Zwecken eingesetzt werden können. In Deepfake-Videos sollten die Kennzeichnungen laut einem EU-Leitfaden direkt zu Beginn erscheinen, dort bleiben oder zumindest in regelmäßigen Abständen wieder eingeblendet werden.

Empfohlen werden auch interaktive Elemente, etwa bei manipulierten Bildern. Hier könnte – zusätzlich zu einer dauerhaften Markierung – auch eine Einblendung auftauchen, wenn man etwa mit der Maus über ein von KI verfälschtes Gesicht fährt.

Was gilt für Podcasts und Texte?

Bei Audiodateien, etwa KI-generierten Podcasts, soll es gleich zu Beginn einen entsprechenden Hinweis in gesprochener Sprache geben. Für Texte sehen die Vorschläge KI-Etiketten beispielsweise über dem Text oder nahe der Überschrift vor. Grundsätzlich sollen bei der Erstellung von KI-Inhalten auch maschinenlesbare Fingerabdrücke in der Datei hinterlassen werden, damit andere Systeme sie zuverlässig als künstlich generiert erkennen können.

Welche neuen KI-Regeln gibt es noch?

Zudem prüft das europäische KI-Amt in Brüssel nun, ob große Modelle ausreichend kontrolliert werden und keine Cyberangriffe auf eigene Faust ausführen. Dafür müssen sie entsprechende Sicherheitsvorkehrungen treffen und etwaige Zwischenfälle sofort der EU melden.

Das ist kein theoretisches Szenario mehr, wie zwei prominente Fälle aus der jüngsten Vergangenheit zeigen: Sowohl der ChatGPT-Entwickler OpenAI als auch der Claude-Entwickler Anthropic mussten einräumen, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte.

Wie hoch sind die Strafen bei Verstößen?

Bei Verstößen gegen das KI-Gesetz kann eine empfindliche Strafe fällig werden: Bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Konzerns sind etwa bei verbotenen KI-Praktiken möglich, je nachdem welcher Betrag höher ist.

Bei der Missachtung von Transparenzpflichten oder mangelnden Sicherheitsvorkehrungen sind dagegen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes möglich – wieder abhängig davon, welcher Betrag höher ist. Für bestehende KI-Systeme gibt es allerdings eine Übergangsfrist bis zum 2. Dezember. Für Modelle, die neu auf den Markt kommen, gelten die Vorgaben bereits jetzt.