Der Carlsen Verlag hat herausgefunden, dass man mit ChatGPT ohne großen Aufwand die Druckvorlage eines neuen Bilderbuchs erstellen kann, das sich bei den Figuren, in der Handlung und stilistisch beim „NEINhorn“ von Marc-Uwe Kling und Astrid Henn bedient, auch deren Namen nennt und überhaupt mit Verlagslogo und ISBN aussieht wie ein Originalbuch. Der Verlag hat Klage gegen den Anbieter des Chatbots eingereicht. Im Gespräch erläutert Fachanwalt Felix Stang die Hintergründe.
Der Carlsen Verlag spricht von der unlizenzierten Nutzung eines geschützten Werkes. Was heißt das?
Das Urheberrecht ist gar nicht so kompliziert: Wer ein geschütztes Werk nutzen möchte, braucht eine Lizenz. Der Carlsen Verlag etwa hat vom Autor Marc-Uwe Kling und der Illustratorin Astrid Henn eine Lizenz für die Vermarktung der „NEINhorn“-Reihe erworben und bezahlt beiden Urhebern dafür eine Vergütung. Open AI tut dies nicht, obwohl die Inhalte allem Anschein nach zum Training benutzt wurden, im Modell memorisiert und deshalb auch im Output abrufbar sind.
Inwiefern ist das Training mit geschützten Texten und Bildern ein Urheberrechtsverstoß?
Fragen Sie am besten das Landgericht München: Es hat auf diese umstrittene Frage kürzlich eine klare Antwort gegeben. Im Verfahren der GEMA gegen den Musik-KI-Anbieter Suno hat es geurteilt, dass ein KI-Training rechtswidrig ist, wenn die Werke als Ergebnis des Trainings im Modell memorisiert werden, sich dem Modell beim Training also so einprägen, dass sie auf einfache Nutzeranfrage wieder ausgegeben werden. Das Training fand in den USA statt und unterliegt daher dem amerikanischen Recht. Durch eine Sonderzuständigkeitsregelung für Verwertungsgesellschaften konnte das Landgericht München auch US-Recht anwenden und hat eine Rechtfertigung des KI-Trainings durch die fair use doctrine für den Fall der Memorisierung abgelehnt. Vor US-Gerichten sind mehrere Verfahren anhängig, in denen über die Anwendbarkeit von fair use auch für den Fall zu entscheiden sein wird, dass es nicht zu einer Memorisierung kommt. Der Ausgang ist offen, aber wenn Sie mich fragen, ist die vergütungslose Nutzung von Werken für das KI-Training nicht fair.
Und in einem europäischen Fall?
Wenn das KI-Training in Europa stattfindet, ist europäisches Urheberrecht maßgeblich. Auch hier ist umstritten, ob KI-Training eine Urheberrechtsverletzung darstellt oder durch die sogenannte Text- und Data-Mining-Schranke gerechtfertigt werden kann. Im Verfahren der GEMA gegen Open AI hatte das Landgericht München nicht über das Training zu entscheiden, aber festgehalten, dass die Text- und Data-Mining-Schranke weder die Speicherung der Werke im KI-Modell in Form der Memorisierung noch die Wiedergabe der Werke im Output rechtfertigen kann. Eine Rechtfertigung des KI-Trainings über die Text- und Data-Mining-Schranke scheidet außerdem aus, wenn der Rechteinhaber einen Vorbehalt dagegen erklärt hat.
Was erlaubt das Text- und Data-Mining – und wo liegt der Unterschied zwischen Trainingszwecken und der Ausgabe?
Der Umfang der Text- und Data-Mining-Schranke ist umstritten. Erlaubt ist die automatisierte Analyse von Werken, um Muster und Korrelationen zu erkennen. Ob das Training generativer KI-Modelle, also deren Fütterung in Form des Inputs, überhaupt hierunterfällt, ist unklar und muss durch die Gerichte geklärt werden. Das Landgericht München jedenfalls hat entschieden, dass die Text- und Data-Mining-Schranke nicht den Output rechtfertigen kann, also die Ausgabe urheberrechtlich geschützter Werke oder Werkteile durch ein KI-Modell. Gleiches gilt für die Speicherung der Werke im Modell in Form einer Memorisierung.
Welche Bedeutung hat der Text-und-Data-Mining-Vorbehalt des Verlags?
Das hängt davon ab, ob er wirksam erklärt wurde, was nicht ganz leicht zu beurteilen ist. Das NEIN im Namen des NEINhorns reicht jedenfalls nicht. Das Gesetz erlaubt das Text- und Data-Mining nur, solange der Rechtsinhaber nicht widerspricht. Erklärt er einen Vorbehalt, sind Trainingskopien zustimmungspflichtig. In der Praxis bereitet the Vorbehalt aber viele Probleme: Welchen Wortlaut muss er haben? Bei Onlinewerken muss er maschinenlesbar sein: Reicht hierfür ein Vorbehalt in den AGB, oder müssen die KI-Bots durch eine Programmierung der robots.txt-Datei angewiesen werden, den Inhalt einer Website nicht zu kopieren? Was gilt, wenn ein Werk auf mehreren Seiten abrufbar ist? Reicht der Rechtevorbehalt an einer Stelle, oder muss er lückenlos überall erklärt werden? Es gibt Meldungen dazu, dass die KI-Anbieter die Bücherbestände von Antiquariaten aufkaufen, um ihre KI-Modelle damit zu trainieren. In den alten Schinken werden sie auf keinen Rechtevorbehalt stoßen. Der erste „NEINhorn“-Band erschien 2019. Wussten Sie damals schon von KI?
So gut wie nichts. Wie lässt sich der Beweis erbringen, dass sich ein KI-Modell Inhalte angeeignet hat?
Über die Ausgaben. Die KI-Anbieter lassen niemanden in ihre Modelle hineinsehen, aber jeder kann zeigen, was aus ihnen herauskommt. Im GEMA-Verfahren genügte die Frage „Wie lautet der Text von …?“, und ChatGPT lieferte die Liedtexte. Im Fall des „NEINhorns“ sind die Prompts zwar nicht öffentlich bekannt, waren nach Angaben des Verlags aber sehr einfach gehalten. Der Output enthielt offensichtlich auch Charaktere der Originalreihe, die im Prompt keine Erwähnung fanden. Dies ist natürlich kein Zufall. Wir haben einmal berechnet, wie hoch die Wahrscheinlichkeit dafür ist, dass ein Sprachmodell nach der Eingabe des Prompts „Wie lautet der Liedtext von ,Atemlos‘?“ die Wortfolge „Atemlos durch die Nacht, bis ein neuer Tag erwacht“ erzeugt. Selbst wenn man die Grammatik und den deutschen Sprachgebrauch einkalkuliert, ist es ungefähr 18.000 Mal wahrscheinlicher, einen Sechser im Lotto zu haben, als diese kurze Wortfolge zu erhalten. Und ChatGPT kannte das gesamte Lied. Eine zufällige Übereinstimmung ist ab einer gewissen Komplexität schlicht ausgeschlossen und nur durch das Training des KI-Modells mit den Originalwerken zu erklären. Dies gilt sowohl für Wortfolgen als auch für gestalterische Elemente wie beim „NEINhorn“. KI-Doppelschöpfungen sind ein Mythos.
Welche Elemente des „NEINhorns“ können geschützt sein?
Der Text als Sprachwerk, die Illustrationen als Werke der bildenden Kunst. Geschützt ist nach der Rechtsprechung des Bundesgerichtshofs auch die literarische Figur selbst, wenn der Autor ihr durch die Kombination von ausgeprägten Charaktereigenschaften und besonderen äußeren Merkmalen eine unverwechselbare Persönlichkeit verleiht, wie etwa Astrid Lindgren bei Pippi Langstrumpf. Das NEINhorn steht dem in nichts nach. Schutz genießt bei literarischen Werken außerdem die Fabel, also die eigenpersönlich geprägte Charakteristik und Rollenverteilung der handelnden Personen, der Gang der Handlung, die „Szenerie“. Wer diese Elemente übernimmt, verletzt das Urheberrecht auch dann, wenn er den Wortlaut einer Geschichte ändert oder einen Fortsetzungsband schafft. Urheberrechtlich nicht geschützt sind hingegen bloße Ideen oder der Stil.
ChatGPT nennt seine Druckvorlagen „Hommage“. Das klingt wie Hohn, wenn der Vorwurf geistigen Diebstahls im Raum steht. Welche Funktion hat das Wort juristisch?
Das Programm möchte damit offensichtlich auf die Pastiche-Schranke anspielen, blendet dabei aber aus, dass es kein Mensch ist. Die urheberrechtliche Pastiche-Schranke erlaubt in gewissem Umfang Übernahmen geschützter Elemente eines bestehenden Werkes zum Zwecke eines künstlerischen oder kreativen Dialogs mit dem Werk, etwa in Form einer Hommage oder einer humoristischen oder kritischen Auseinandersetzung. Der EuGH leitet den Umfang der Pastiche-Schranke von der Kunst- und Meinungsfreiheit der Nutzer ab. Unsere Grundrechte sind aber glücklicherweise Menschen vorbehalten und gelten nicht für Maschinen. Open AI kann sich durch den Verweis auf die Hommage also nicht entlasten, sondern allenfalls belasten. Es gibt zu, die Werke zu kennen und sich bewusst an ihnen anzulehnen.
Kann sich Open AI mit eigenen Warnhinweisen entlasten?
Sie meinen wie Thomas Gottschalk früher bei „Wetten, dass ..?“: „Liebe Kinder, bitte nicht zu Hause nachmachen“? Ein Warnhinweis für Folgenutzungen kann Open AI nicht von der Haftung für seine eigenen Urheberrechtsverletzungen befreien. Denn schon die Speicherung der Werke im Modell und ihre Ausgabe im Output sind rechtswidrig und verletzen das Urheberrecht. Ob Open AI für die anschließende Verwertung des Outputs durch die Nutzer haftet, steht auf einem anderen Blatt. Warnhinweise sind hier das Mindeste, in der Tat sollte jeder Nutzer prüfen, ob er den Output eines KI-Modells verwerten darf oder damit Urheber- oder sonstige Rechte verletzt. Es ist sinnvoll, wenn ChatGPT daran erinnert.
Macht sich strafbar, wer sich per KI ein Buch weitererzählen lässt?
Ich hoffe nicht und kann mir wirklich Schlimmeres vorstellen. Die primäre Verantwortung liegt auch nach Auffassung des Landgerichts München beim KI-Anbieter. Der Nutzer löst die Ausgabe mit einer einfachen Anfrage nur aus. Wer die Geschichte privat für sich behält, hat wenig zu befürchten. Vermarkten oder online veröffentlichen sollten Nutzer die Ergebnisse aber nicht. Ich gehe allerdings ohnehin davon aus, dass Open AI rasch einen Output-Filter für das „NEINhorn“ installieren wird.
Welche Rolle spielen die Namen der Urheber und der Verlagsname auf KI-Covern?
Die Bezeichnung „Carlsen“ ist markenrechtlich geschützt, ein Produkt im Look eines Carlsen-Buchs kann über die Herkunft täuschen, was eine unlautere Geschäftspraxis wäre. Wer den Namen eines Autors auf ein Werk setzt, das dieser nicht geschaffen hat, verletzt dessen Namens- und Persönlichkeitsrecht. Kein Autor muss sich fremde Texte zuschreiben lassen.
Wie lässt sich der Schaden bemessen?
Der in der Praxis wichtigste Weg ist die Lizenzanalogie: Der Verletzer zahlt, was vernünftige Parteien für die Nutzung vereinbart hätten. Der Lizenzmarkt für KI-Nutzungen ist allerdings noch jung, und die Zahlen der größeren Lizenzdeals, jüngst etwa zwischen Suno und BMG, sind nicht öffentlich. Gerichte können den Schaden aber auch nach freiem Ermessen schätzen. Orientierung können auch die Tarife von Verwertungsgesellschaften geben.
Welche Ansprüche kann der Verlag geltend machen?
Unterstellt, der Fall nimmt einen ähnlichen Ausgang wie die GEMA-Verfahren, dann stehen dem Verlag insbesondere Ansprüche auf Unterlassung, Auskunft und Schadenersatz zu. Die Unterlassung ist der schärfste Anspruch: Sie zwingt den Anbieter, sein System so umzubauen, dass die Werke dort weder gespeichert bleiben noch ausgegeben werden. Außerdem besteht ein Anspruch auf Veröffentlichung des verfügenden Teils des Urteils in einer überregionalen Zeitung, beispielsweise im Wirtschaftsteil der F.A.Z., in Form einer Anzeige natürlich. Jeder sollte von dem Urteil erfahren.
Was bedeutet ein Urteil über das „NEINhorn“ hinaus?
Das Landgericht München hat mit seinen Urteilen in den Verfahren der GEMA gegen Open AI und Suno eine klare Linie entwickelt. Ein „NEINhorn“-Urteil auf dieser Linie würde sie auf Bücher und Illustrationen erstrecken. Damit stünde fest: Das Geschäftsmodell des lizenzlosen KI-Trainings trägt in Deutschland für keine Werkkategorie, jedenfalls sobald die Werke in den KI-Modellen memorisiert sind. Die letzten Worte sprechen der Bundesgerichtshof und der Europäische Gerichtshof. Bis dahin erhöht jedes Urteil den Druck auf die Anbieter, Lizenzen zu erwerben.
Reicht der gesetzliche Rahmen?
Können Sie sich eine Klage gegen Open AI leisten? Ich denke, es ist noch ein langer Weg, bis die KI-Anbieter bereit sind, alle Urheber für die Nutzung ihrer Werke angemessen zu vergüten, nicht nur die wenigen, die die Mittel aufbringen, sich gerichtlich zu wehren. Jede gewonnene Klage erhöht den Verhandlungsdruck auf die KI-Anbieter, und wir sehen in ihren jüngsten Lizenzdeals, etwa mit der Musikindustrie, erste Ansatzpunkte dafür, wie technologischer Fortschritt und die Wahrung der Urheberrechte Hand in Hand gehen können. Aber ich glaube, es ist noch viel Luft nach oben. Der Gesetzgeber sollte aus meiner Sicht den Rechteinhabern noch mehr den Rücken stärken. Gute Ansätze, wie etwa eine generelle Output-bezogene KI-Vergütung, werden gerade auf Gesetzgebungsebene diskutiert. Europa sollte mutig genug sein, die Spielregeln in seinem Binnenmarkt autonom und ohne den Einfluss der Big-Tech-Konzerne zu bestimmen. Wenn das Ergebnis dem US-Präsidenten nicht gefällt, haben wir alles richtig gemacht.
