TikTok gefährdet seine Nutzer – EU-Kommission verlangt Änderungen an »schädlichem« Algorithmus

Die Behörde wies das Unternehmen am Freitag zu Änderungen an der »schädlichen« Funktionsweise seiner App an, um die psychische Gesundheit der Nutzerinnen und Nutzer zu schützen. Sollte das Unternehmen ByteDance seinen TikTok-Algorithmus nicht entsprechend anpassen, droht im laut EU-Kommission eine hohe Strafe von bis zu sechs Prozent seines weltweiten Jahresumsatzes.

Im Fokus des Verfahrens steht die sogenannte »For You-Page« (FYP) (übersetzt »Für Dich«-Seite), die besonders schnell Inhalte anzeigen soll, die Nutzerinnen und Nutzer der App interessieren. Die EU-Kommission verlangt hier Änderungen, da sie sogenannte Rabbit-Hole-Effekte befürchtet.

Damit ist gemeint, dass man sich so tief in einem Thema verliert, dass man nicht mehr herausfindet – ähnlich wie sich die Hauptfigur im Roman »Alice im Wunderland« in einem Kaninchenbau verliert. Algorithmen können theoretisch solche Verhaltensmuster erkennen und ausnutzen, damit Nutzerinnen und Nutzer mehr Zeit auf einer Plattform verbringen.

Laut Kommission werte der TikTok-Algorithmus das Ansehen und Liken von Videoclips als Interesse und spiele danach mehr ähnliche – und teilweise sogar extreme – Inhalte aus. »Diese Funktionsweise kann schädlich sein, wenn es bei derart endlos wiederholten Inhalten zum Beispiel um Traurigkeit, Einsamkeit oder das Körperbild geht«, befand die Behörde.

Wer in ein solches »Rabbit Hole« falle, könne auf Dauer unter verstärkter Traurigkeit, Angststörungen, Unzufriedenheit mit dem eigenen Körper und einem geringeren Selbstwertgefühl leiden, teilte die Kommission weiter mit. Auf diese Weise könne TikTok Essstörungen und psychische Krankheiten verschlimmern.

Bisherige Gegenmaßnahmen nicht wirksam

Brüssel has TikTok schon mehrfach zu Änderungen aufgerufen, zuletzt im Juli und im Februar dieses Jahres. Das Unternehmen habe zwar schon reagiert, die Änderungen reichten aber nicht aus, befand die Kommission. Nutzende können Videos inzwischen zum Beispiel über die Option »nicht interessiert« von ihrer Startseite verbannen. Nach Einschätzung aus Brüssel ändert das aber wenig am Algorithmus.

Die Kommission wies TikTok deshalb an, die Funktionsweise der »Für Dich«-Seite auf TikTok grundlegend zu ändern. Der Algorithmus dürfe nicht mehr darauf basieren, wie lange Nutzerinnen und Nutzer ein Video ansehen. Stattdessen sollen sie mehr Kontrolle über die »Für Dich«-Seite bekommen und stärker selbst festlegen können, was sie auf TikTok sehen.

Umfassendere Untersuchung gegen TikTok

Die Vorwürfe stützen sich auf den Digital Services Act (DSA), der große Onlineplattformen verpflichtet, mehr gegen schädliche und illegale Inhalte auf ihren Plattformen zu unternehmen. Soziale Netzwerke stehen unter wachsendem Druck, ihre Algorithmen anzupassen. Weltweit wächst die Sorge, dass ihre Plattformen zu einer Krise der psychischen Gesundheit von Kindern beitragen. Einige Regierungen haben deshalb Verbote für Minderjährige verhängt oder erwägen sie.

Die aktuellen Vorwürfe sind Teil einer breiter angelegten EU-Untersuchung gegen TikTok.

Die EU-Regulierer hatten TikTok im Februar bereits beschuldigt, süchtig machendes Design einzusetzen, sich unzureichend um den Schutz von Minderjähriger zu bemühen und es Forschenden zu erschweren, Zugang zu öffentlichen Daten zu beantragen. TikTok bezeichnete diese vorläufigen Feststellungen damals als »kategorisch falsch« und kündigte an, sie anzufechten.

Die Kommission untersucht außerdem separat den Rabbit-Hole-Effekt, der durch die Empfehlungssysteme der Meta-Plattformen Facebook und Instagram entsteht.