Nach einem Urteil des Landgerichts Köln muss die besonders bei Jugendlichen beliebte App den Umgang mit den Daten seiner Nutzerinnen und Nutzer ändern. Das Gericht gab bereits Mitte September einer Klage des Verbraucherzentrale Bundesverbands (VZBV) gegen die Snap Group Limited weitgehend statt. Streitpunkt war insbesondere der Einsatz eines KI-Chatbots zur Gewinnung werberelevanter Daten. Die Richter monierten ebenfalls die Voreinstellungen der App für Alkohol- und Glücksspielwerbung. Das Unternehmen hat angekündigt, gegen die Entscheidung Rechtsmittel einzulegen.
Integriert in die Messenger- und Fotoapp Snapchat ist ein KI-Chatbot namens »MyAI«, mit dem Nutzerinnen und Nutzer chatten können. Nach Informationen der VZBV öffnet sich vor dem erstmaligen Nutzen des Chatbots ein Hinweis: »My AI kann von dir angegebene Informationen verwenden, um die Produkte von Snap Inc. zu verbessern und dein Nutzererlebnis zu personalisieren, unter anderem Anzeigen.« Hiergegen klagte der Verbraucherschutz-Dachverband.
Nach Ansicht der Verbraucherschützer würden Minderjährige von dem KI-Bot im Chat dazu animiert werden, ihre Daten zu teilen. Ramona Pop, Vorständin des Verbraucherzentrale Bundesverband, erklärt dazu: »Der Chatbot gibt sich bei Snapchat als Freund:in aus und ermuntert dazu, ihn mit persönlichen Daten zu füttern. Es entsteht ein Vertrauensverhältnis, das dazu verführt, sensible Informationen von sich preiszugeben. Die Daten werden dann genutzt, um gezielt Werbung auszuspielen.«
Die Snap-Tochter hatte vor Gericht argumentiert, es handele sich um eine »aufgedrängte Erhebung« von Daten, wenn Nutzer dennoch personenbezogene Daten mit der KI teilen würden. Das hat das Gericht mit Hinweis auf Artikel 9 der Datenschutzgrundverordnung (DSGVO) zurückgewiesen. Laut dem dem SPIEGEL vorliegenden Urteil wird der Snapchat-Betreiberin fortan untersagt, »ohne Rechtsgrundlage personenbezogene Daten, die mittels des in der App enthaltenen generativen KI-Chatbots ›My Al‹ erhoben werden, zu Werbezwecken zu verarbeiten.« Selbst wenn ein Nutzer persönliche Daten von sich aus mitteile, dürften die Daten dem Gericht zufolge nicht verwendet werden, um zielgerichtet Werbung auszuspielen. Die Entscheidung ist noch nicht rechtskräftig.
Eine Snap-Sprecherin teilte auf SPIEGEL-Anfrage mit: »Seit Einreichung der Klage im Jahr 2024 haben wir Änderungen an My AI vorgenommen, darunter die Entfernung von Werbung.«
Um die Snapchat-App nutzen zu können, müssen Personen mindestens 13 Jahre alt sein. Die Verbraucherschützer mahnen, dass Minderjährige ab 13 Jahren »sich der Gefahren der Weitergabe sensibler Daten noch nicht in gleichem Maße bewusst seien wie Erwachsene.« Dass Daten minderjähriger Nutzerinnen und Nutzer rechtswidrig verarbeitet wurde, haben die Verbraucherschützer nach eigenen Angaben durch Musteranfragen bestätigt.
Verstoß gegen Jugendschutz
Bei den Einstellungen zu Werbung in der App können Nutzerinnen und Nutzer unter dem Reiter »Interessen und Lifestyle« zudem zwischen verschiedenen Themen, die sie interessieren wählen, dabei sind einige Themen bereits angeklickt, ohne, dass Nutzerin oder Nutzer aktiv wurden. Nur wenn man auf dieser Seite ganz nach unten scrollt, sieht man, dass die drei Themen: »Politik«, »Alkohol« und »Glücksspiel« alle bereits vorausgewählt sind.
Hier sah die VZBV bei Minderjährige einen Verstoß gegen den Jugendschutz, den das Landgericht in seinem Urteil bestätigte. Für minderjährige Nutzerinnen und Nutzer darf das Unternehmen die Kategorien »Alkohol« und »Glücksspiel« nicht vorauswählen, da das gegen das gesetzliche Verbot verstößt, Alkohol- und Glücksspielwerbung an Kinder und Jugendliche auszuspielen.
»Wir haben zu keinem Zeitpunkt zugelassen, dass Werbung für Alkohol oder Glücksspieldienste an Minderjährige ausgespielt wird. Dies hätte zu jedem Zeitpunkt gegen die Werberichtlinien von Snap verstoßen«, erklärte eine Unternehmenssprecherin auf SPIEGEL-Anfrage. Im Abschnitt der Anzeigepräferenzen findet sich unter anderem der Satz: »Du kannst diese Einstellungen deaktivieren, um weniger Anzeigen zu diesen Themen zu sehen. Unabhängig von diesen Einstellungen unterliegen die Anzeigen, die du siehst, den Werberichtlinien von Snap, die unter anderem Altersbeschränkungen für Anzeigen umfassen, die Alkohol und Glücksspiel zeigen.«
Das Gericht erklärte zudem die derzeitigen Datenschutzeinstellungen der App für unzureichend, weil Snapchat weitgehende Zustimmung zu der Datenverarbeitung zu Werbezwecken voreingestellt aktiviert habe und Daten auch an Werbepartner weitergeben will. Das Gericht bestand jedoch darauf, dass die Nutzerinnen und Nutzer aktiv eine Einwilligung geben müssten, damit die Datenverarbeitung rechtens sei.
