OLG Hamm: Betreiber haften für Falschaussagen von Chatbots
Gerichtsurteile bestätigen Haftungspflicht für KI-Halluzinationen bei Chatbots auf Websites und sozialen Netzwerken
En resumen
- Das Oberlandesgericht Hamm entschied, dass Betreiber von Chatbots für Falschangaben ihrer KI haften.
- Eine Schönheitsklinik wurde verurteilt, nachdem ihr Bot falsche Facharzttitel erfand.
- Auch das Landgericht Hamburg urteilte 2025 ähnlich im Fall von X-Chatbot Grok.
Resumen generado por IA
Automatisierte Chatbots, die Homepage-Besucherinnen und -Besuchern bei Fragen weiterhelfen, werden auf immer mehr Websites eingesetzt. Aber was passiert, wenn diese Chatroboter Unsinn erzählen? Das Oberlandesgericht Hamm hat nun entschieden: Wer einen Chatbot betreibt, muss für Falschangaben seiner KI haften.
Im konkreten Fall hat das Gericht eine Schönheitsklinik verurteilt. Deren Chatbot hatte für Kundenanfragen auf der Website der Klinik eine Reihe von Facharztbezeichnungen halluziniert: So behauptete der Roboter, die beiden hinter der Klinik-GmbH stehenden Mediziner seien »Fachärzte für plastische und ästhetische Chirurgie«, »Fachärzte für ästhetische Medizin« und »Fachärzte für ästhetische Behandlungen«.
Klage von Verbraucherschützern
Verbraucherschützer mahnten die Klinik deshalb zunächst ab und forderten sie in diesem Zusammenhang unter anderem zur Unterzeichnung einer strafbewährten Unterlassungserklärung auf. Zwar wurde der Chatbot in der Folgezeit deaktiviert, die entsprechende Unterlassungserklärung aber nicht unterzeichnet.
Selbst wenn die Klinik den Chatbot ausschließlich mit korrekten Datensätzen habe programmieren lassen, trage sie für die unstreitigen Falschangaben betreffend der nicht existenten Facharzttitel ihrer Geschäftsführer die Verantwortung, so die Richter.
Auch Grok darf nicht einfach irgendetwas behaupten
Dass Betreiber eines Chatbots für unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und öffentlich abrufbar sind, hatte Ende 2025 auch schon das Landgericht Hamburg in einem Urteil entschieden.
In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa fälschlicherweise, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.
Der Betreiber müsse sich den Output »zu eigen machen«, da er das System so konfiguriert hat, dass die Ergebnisse ungeprüft direkt veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten.
