Brandenburg intelligence agency warns of AI-generated disinformation

Der Verfassungsschutz in Brandenburg warnt vor einem neuen Trend in Sachen Desinformation. Dabei versuchten aus- und inländische Akteure, Debatten vor allem auf regionaler Ebene zu beeinflussen. Dabei passten sie große Themen – etwa Migration – regional an, wählten emotionalisierende Aspekte und imitierten seriöse Quellen.

Das können etwa relativ kleine Accounts in sozialen Netzwerken sein, da diese unabhängig wirken. Wenn Themen regional gekoppelt würden, steige „aufgrund der Anschlussfähigkeit die Chance ihrer Weiterverbreitung“, heißt es im Brandenburger Verfassungsschutzbericht für 2025. Er wird am Freitag veröffentlicht; das Kapitel zur Desinformation wurde vorab ausgekoppelt.

F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen

F.A.Z. bei Google bevorzugen

Russen und deutsche Extremisten

Neben russischen Akteuren nutzen auch deutsche Extremisten diese Methoden. Dabei wird immer öfter KI eingesetzt. Sie kann als „Gefühlsverstärker“ wirken, zum Beispiel wenn sie Bilder nationaler Symbole, entmenschlichende Darstellungen oder visuelle Geschichten über „Bedrohung“ und „Niedergang“ erzeugt. Den Verfassungsschützern zufolge sind sie auf maximale Verbreitung getrimmt und wirken wie Keile in regionalen Konflikten, etwa beim Streit um Flüchtlingsheime oder den Strukturwandel in der Lausitz. Brandenburg ist ländlich geprägt, deswegen verfängt dort das Angebot regionaler Informationen besonders gut.

Als Beispiel für einen Desinformations-Account nennen die Verfassungsschützer das „Brandenburger Mädel“, ein Profil in sozialen Netzwerken. Der Avatar mit dem Namen Larissa Wagner stellt sich als Frau aus dem brandenburgischen Senftenberg vor. Jung, schlank, langes braunes Haar, hübsches Gesicht – KI-erzeugt. Der Avatar postet Alltagsthemen, verlinkt Musik, gibt sich heimatverbunden und verbreitet politische Inhalte, unter anderem Wahlwerbung im Umfeld der AfD. „Der Bezug zu Senftenberg dient als emotionaler Türöffner. Er instrumentalisiert die Sehnsucht nach Vertrautheit, damit politische Themen im Fahrwasser einer scheinbar privaten Erzählweise organisch mitschwimmen können“, heißt es im Bericht.

Dabei wird Regionalität mit Professionalität verbunden. „Larissa Wagner“ ist an das rechtsextremistische „Compact“-Magazin angebunden, sie trat dort offenbar als vermeintliche Praktikantin auf. Die KI-generierte Identität werde gezielt als Brücke genutzt, um rechtsextremistische Inhalte als harmlose Alltagsbeobachtungen zu tarnen, so die Verfassungsschützer. Vor allem junge Zielgruppen könnten so erreicht werden.