OpenAI ujawniło rosyjską kampanię dezinformacyjną wykorzystującą sztuczną inteligencję

Jak poinformowało OpenAI, osoby stojące za kampanią wydawały chatbotowi polecenia w języku rosyjskim. Na tej podstawie generowano komentarze przeznaczone do publikacji w mediach społecznościowych.

Większość materiałów przygotowywano po angielsku. Sztuczna inteligencja miała m.in. poprawiać błędy językowe, które mogłyby wskazywać na rosyjskojęzyczne pochodzenie autorów. Wpisy przede wszystkim promowały działalność rzekomego instytutu oraz narracje korzystne dla Rosji.

Według firmy była to nowa, wcześniej nieopisana operacja wpływu, a zarazem najbardziej złożona spośród dotąd udaremnionych przez OpenAI.

Fikcyjni eksperci i skopiowane publikacje

Strona internetowa IBI została zarejestrowana w lutym 2025 roku. Organizacja przedstawiała się jako ośrodek skupiający ekspertów, wśród których wymieniano m.in. politologa Francisa Fukuyamę i filozofa Noama Chomsky’ego.

Analiza 36 artykułów przypisanych specjalistom wykazała jednak, że 34 teksty zostały skopiowane z innych źródeł internetowych. Część publikacji powstała kilka lat wcześniej, a niektóre przypisano niewłaściwym autorom. Zdaniem OpenAI teksty na stronie nie zostały wygenerowane przez modele firmy — były kopiowane, niekiedy opatrywane fałszywymi źródłami, a następnie tłumaczone maszynowo.

Centralnym elementem kampanii był promowany przez IBI tzw. indeks suwerenności. Miał on służyć przedstawianiu Rosji w pozytywnym świetle oraz dyskredytowaniu państw Zachodu. Raporty instytutu dotyczyły różnych krajów, szczególnie tych krytykujących rosyjską inwazję na Ukrainę.

Poza treściami związanymi z IBI autorzy kampanii przygotowywali także niemieckojęzyczne posty na kanale Telegram „Lahme Ente”. Miał on około 20 tys. obserwujących.

Publikowane tam wpisy regularnie krytykowały Ukrainę, Unię Europejską i niemiecki rząd, a jednocześnie opowiadały się za poprawą relacji z Rosją.

Ograniczony zasięg operacji

OpenAI oceniło, że bezpośredni wpływ kampanii był ograniczony. Posty w serwisach społecznościowych miały niewiele wyświetleń, a oficjalne konta IBI nie zgromadziły dużej liczby obserwujących. Większym zasięgiem cieszyły się powiązane z operacją kanały na Telegramie — zwykle obserwowało je od 10 do 20 tys. użytkowników.

„Pokazało to, w jaki sposób podmioty wywierające wpływ mogą wykorzystywać sztuczną inteligencję jako narzędzie wspomagające w ramach szerszych działań” — przekazało OpenAI.

Przypadek IBI wpisuje się w szerszy problem wykorzystywania sztucznej inteligencji do rozpowszechniania dezinformacji. Z raportu platformy NewsGuard wynika, że rosyjska sieć „Pravda” publikuje propagandowe treści, które mogą być następnie powielane przez zachodnie chatboty. W badaniu NewsGuard modele AI powtarzały fałszywe narracje pochodzące z tej sieci w 33 proc. przypadków.