OpenAI sperrt russische Konten wegen Desinformationskampagne

Düsseldorf. OpenAI hat mehrere ChatGPT-Konten aus Russland gesperrt. Die Konten wurden offenbar für eine verdeckte Kampagne zur Verbreitung von Desinformation genutzt. Das teilte das US-Unternehmen am Dienstag in einem Blogbeitrag mit. Der „Spiegel“ berichtete zudem, dass ein in Israel gegründeter Thinktank hinter der Operation stehe. Dieser soll dem Bericht zufolge Verbindungen zum russischen Staatsapparat haben.

Die Betreiber der gesperrten Konten nutzten den Berichten zufolge ChatGPT auf Russisch, um Kommentare für soziale Netzwerke zu erstellen, und wiesen das System an, jede sprachliche Spur ihrer russischen Herkunft zu verdecken. Veröffentlicht wurden die Beiträge auf X, Facebook, LinkedIn, Telegram und der Blogplattform Substack. Da OpenAI den Zugang zu seinen Modellen aus Russland blockiert, nutzten die Betreiber VPN-Dienste, um ihren Standort zu verschleiern.

Entdeckt hat die Operation Ben Nimmo, der bei OpenAI eine Abteilung leitet, die nach Kampagnen sucht, die Künstliche Intelligenz (KI) für Desinformation missbrauchen. „Diese Operation verbindet fortschrittliche Taktiken mit einer schlampigen Umsetzung“, sagte Nimmo. „Die Nutzung von ChatGPT machte uns auf die Akteure aufmerksam und ermöglichte es uns, eine umfassendere Operation aufzudecken.“