KI-Systeme beeinflussen politische Meinungsbildung durch selektive Quellenwahl

Dass selbst Sam Altmann, der CEO von Open AI, den Kontakt seines Sohnes mit Künstlicher Intelligenz (KI) so lange wie möglich hinauszögern will, hat mehr als einen faden Beigeschmack. Eine Studie von Vivien Benert und Stina Timmermann vom gemeinnützigen Thinktank Agora Digitale Transformation verleitet einen dazu, die Nutzung von KI auch für Erwachsene zu überdenken, denn sie offenbart: KI-Systeme nehmen durch selektierte Quellenauswahl massiv Einfluss auf die politische Meinungsbildung. Bei Claude etwa findet sich russische Propaganda, ChatGPT hat eine Vorliebe für Springer-Medien.

Die Autorinnen haben untersucht, welche Quellen zitiert werden, wenn man Nachrichten über KI-Systeme abruft. Dafür wurden 625 Anfragen zu Themen der Innen- und Außenpolitik, Wirtschaft, Klima und Migration an die KI-Systeme ChatGPT, Claude, Gemini, Google AI Overview und Perplexity gestellt und 4570 Links als Quellen ermittelt, die sich auf 544 Domains verteilen.

F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen

F.A.Z. bei Google bevorzugen

Immer wieder dieselben Quellen

In der Auswertung ist bei allen KI-Systemen eine starke Abweichung zwischen den Links und Domains – also den Adressen einer Website im Internet – auffällig. Diese Abweichung zeigt an, dass immer wieder auf dieselben Quellen zurückgegriffen wird. An der Spitze dieser „Power-Law-Verteilung“ steht die Domain welt.de mit 380 Zitationen. Damit liegt sie weit vor den nachfolgenden Domains von Deutschlandfunk und „Tagesschau“ mit knapp 300 Zitationen. Fast die Hälfte aller Domains wird nur ein einziges Mal erwähnt.

Interessanterweise zitiert Google AI Overview mit durchschnittlich zehn Quellen pro Anfrage fast doppelt so viel Material wie das zum selben Haus gehörende KI-System Gemini. Perplexity, Claude und ChatGPT liegen dazwischen im Mittelfeld. Bei den Quellen selbst handelt es sich überwiegend um journalistische Adressen. Bei der Auswahl gibt es jedoch erhebliche Unterschiede. ChatGPT zitiert mit Abstand am häufigsten nur eine einzige Domain. Es handelt sich um welt.de. Nach 264 Zitaten von dieser Domain folgt mit weitem Abstand mit 55 Zitaten deutschlandfunk.de auf Platz zwei. Grund für die immense Bevorzugung von welt.de bei ChatGPT ist eine seit dem Jahr 2023 existierende Kooperation zwischen Open AI und der Axel Springer SE.

Claude nimmt das Prawda-Netzwerk und rechtsgerichtete Seiten auf

Auch das generative KI-System Claude kommt bei der Quellenauswahl nicht gut weg. Die Studie kann nachweisen, dass Claude bei den weniger zitierten Quellen auch auf Domains des Prawda-Netzwerks zurückgreift, das russische Propaganda verbreitet. Auffällig ist auch, dass einige Domains aus dem rechten Spektrum zitiert werden.

Allerdings scheinen nicht nur einzelne Domains, wie bei ChatGPT mit welt.de, bevorzugt zu werden. Bei den KI-Systemen deutet sich eine generelle politische Ausrichtung an. Während ChatGPT vor allem durch die Kooperation mit Springer politisch als überwiegend „konservativ/rechts“ eingeordnet wird, zählt Claude für die Autorinnen in das Spektrum „links/liberal/wirtschaftsliberal“, Google AI Overview habe einen Hang zum Spektrum „öffentlich-rechtlich/neutral“.

Die Autorinnen bemängeln mit Nachdruck die „Gatekeeper“-Funktion der KI-Systeme und die fehlende Transparenz bei der Anzeige von Quellen. In diesem Sinne fordern sie „umfassendere Transparenzpflichten“ und „Systeme für eine faire Vergütung bei Zugriff auf Inhalte Dritter“, weil nur der Anbieter selbst Geld mit den Inhalten verdient, nicht aber die Quellen, aus denen die KI-Texte erst generiert wurden. Bis die Politik diese Forderungen aufgreift, dürfte noch einige Zeit vergehen. Bis dahin scheint zu gelten: Sag mir, welche KI du nutzt, und ich sag dir, welches „Welt“-Bild dir vermittelt wird.