US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von xAI
Quick Look
- Ein US-Berufungsgericht hat das erste Verbot von KI-generierten Nacktbildern in Minnesota vorläufig ausgesetzt, nachdem xAI von Elon Musk eine Klage wegen Verletzung der Meinungsfreiheit eingereicht hatte.
- Das Gericht folgte dem Antrag von xAI und setzte das Gesetz vorerst aus.
AI-generated summary
Why It Matters
Minnesota hatte das erste landesweite Verbot von KI-generierten Nacktbildern erlassen, um die Verbreitung von missbräuchlichen Deepfakes zu bekämpfen, insbesondere solche, die von KI-Produkten wie Grok erzeugt werden. xAI klagte gegen das Gesetz und argumentierte, es verletze die Meinungsfreiheit gemäß der US-Verfassung.
KI-Deepfakes :
US-Gericht stoppt KI-Nacktbild-Verbot nach Klage von xAI
03.10.2026, 07:50Lesezeit: 2 Min.
xAI-Chef Elon MuskReuters
Ein US-Berufungsgericht setzt das erste Verbot von KI-Nacktbildern in den USA vorerst aus. Auslöser war eine Klage von Elon Musks KI-FIrma xAI. Das Unternehmen beruft sich auf die Meinungsfreiheit.
Elon Musks KI-Unternehmen xAI hat am Freitag vor einem US-Berufungsgericht eine einstweilige Verfügung gegen ein Gesetz im Bundesstaat Minnesota erwirkt, das die Erstellung von KI-generierten gefälschten Nacktbildern verbietet. Das Berufungsgericht in St. Louis setzte das Gesetz mit seiner Entscheidung vorerst aus und gab damit einem Antrag von xAI statt.
Musks KI-Unternehmen argumentierte, das Gesetz sei verfassungswidrig, da es die durch die US-Verfassung geschützte Meinungsfreiheit einschränke. Das als landesweit erstes seiner Art geltende Gesetz verbietet Betreibern von Webseiten und Softwareentwicklern, Nutzern die Erstellung realistischer Bilder zu ermöglichen, die intime Körperteile einer identifizierbaren Person zeigen, welche auf einem Originalfoto nicht zu sehen sind.
F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen
F.A.Z. bei Google bevorzugen
xAI spricht von „strengen Schutzvorkehrungen“
Ein untergeordnetes Gericht hatte den Antrag des Technologieunternehmens im vergangenen Monat noch zurückgewiesen. Der US-Bundesstaat Minnesota hatte das Gericht aufgefordert, das Gesetz nicht auszusetzen. Es solle die Verbreitung von Material über sexuellen Kindesmissbrauch bekämpfen, das von KI-Produkten wie Musks Grok Imagine in „erschütterndem Ausmaß“ generiert werde.
xAI erklärte hingegen, das Produkt enthalte „strenge Schutzvorkehrungen“ gegen die Erstellung solcher Bilder von echten Personen. Das Unternehmen hat damit begonnen, Nutzer zu verklagen, die seine technologischen Schutzvorkehrungen umgehen.
Mehrere Länder untersuchen zurzeit Maßnahmen gegen xAIs Grok. Die Europäische Kommission kündigte im Januar eine Untersuchung an. Es bestünden Bedenken, dass Grok illegale Inhalte, darunter manipulierte Bilder, verbreiten könne. Die irische Datenschutzkommission leitete im Februar eine formelle Untersuchung gegen Grok ein. Die französische Polizei durchsuchte wenige Tage später im Rahmen einer separaten Ermittlung die Büros von X. Auch Großbritannien und Kanada wollen gegen mit Hilfe von Grok generierte sexuelle Bilder und Deepfakes vorgehen.
What to Watch
AI outlook — possibilities, not facts
Das US-Berufungsgericht wird das Minnesota-Gesetz gegen KI-Nacktbilder letztendlich als verfassungswidrig aufheben.
Possible · Within months
xAI wird rechtliche Schritte gegen Nutzer unternehmen, die die Schutzvorkehrungen von Grok umgehen, um Deepfakes echter Personen zu erstellen.
Likely · Within weeks
Open Questions
- Wie wird das Berufungsgericht endgültig über die Verfassungsmäßigkeit des Minnesota-Gesetzes entscheiden?
- Welche konkreten Schutzvorkehrungen hat xAI in Grok implementiert, um die Erstellung von Deepfakes echter Personen zu verhindern?
- Welche rechtlichen Schritte werden die Europäische Kommission und andere Behörden gegen xAI und Grok unternehmen?
