Kognitive Kriegsführung: Wie Russland Deepfakes zur Destabilisierung einsetzt

Soldat:

»Mama, Mama, um Gottes willen! Ich hätte niemals hierherkommen sollen.«

Soldat:

»Leute, Kupjansk ist vollständig umzingelt.«

Sie sehen echt aus, doch diese Videos sind allesamt fake – produziert mithilfe von KI.

Francesco Cavalli, Sensity AI

»Grundsätzlich entwickeln sich Deepfakes zu einem festen Bestandteil der hybriden Kriegsführung – und in diesem Fall der kognitiven Kriegsführung. Der entscheidende Punkt ist, dass KI es dem Feind ermöglicht, Deepfakes im industriellen Ausmaß zu produzieren.«

Russland greift die Ukraine nicht nur mit Raketen und Drohnen an. Dazu kommt die sogenannte »kognitive Kriegsführung«, damit beeinflussen sie, wie der Krieg in der Öffentlichkeit wahrgenommen wird.

Francesco Cavalli und sein Team haben mehr als 1000 solcher Videos ausgewertet – um die Methodik der russischen KI-Maschinerie zu entlarven. Sie haben sieben Grundmuster herausgearbeitet, die immer wieder reproduziert werden. Die ersten vier Kategorien richten sich an die ukrainischen Truppen an der Front. Das Ziel: Das Vertrauen in die eigene Führung zu schwächen.

Soldat:

»Drohnen, Drohnen, es ist nicht auszuhalten.«

Gern werden dabei konkrete Brigadenamen und Koordinaten genannt, um Authentizität vorzugaukeln:

Soldat:

»Leute, wir sind von der 60. Brigade an der Front in Lyman. Wir haben null Rückendeckung. Wir sind auf uns allein gestellt.«

Soldat:

»Es gibt null Kommunikation mit den Kommandeuren. Wir wurden einfach im Stich gelassen.«

Francesco Cavalli, Sensity AI

»Wenn man so jemanden sieht, der sagt: ›die Niederlage steht kurz bevor, wir ziehen uns zurück‹ – wird das die Moral schwächen. Aber das Hauptziel ist vor allem, Verwirrung zu stiften. Denn Verwirrung erleichtert die Propagandaarbeit ungemein.«

Soldat:

»So sind also unsere Kommandeure. Verdammte Scheiße.«

Soldat:

»Wir haben gar keinen Kontakt mehr zu unserer Stellung.«

Cavallis Team konnte dabei Sätze identifizieren, die immer wieder auftauchen.

Francesco Cavalli, Sensity AI

»Sätze wie zum Beispiel: ›Alle Hoffnung ist verloren‹, "keine Munition mehr" oder ›wir haben den Kontakt verloren‹. Diese pessimistischen Satzfragmente wurden im gesamten Videocluster identifiziert.«

Auf dem Cyber-Schlachtfeld zählt jeder Klick – und Details werden entsprechend der Algorithmen angepasst:

Francesco Cavalli, Sensity AI

»Wenn zum Beispiel ein Soldat nicht für genügend Interaktion sorgt, dann nehmen wir eben einen Zivilisten. Oder wenn der Schauplatz dieses Videos nicht genug Kommentare und Reaktionen hervorruft – dann ändern wir eben den Schauplatz.«

Die KI-Videos werden tausendfach in verschiedenen Varianten reproduziert. Noch vor drei Jahren war es relativ einfach, ein KI-generiertes Bild zu erkennen, heute nicht mehr. Das Team von Cavalli überprüft die Videos mithilfe sogenannter tiefer neuronaler Netze, die darauf ausgelegt sind, KI-Signale zu erkennen. Hier geht also KI gegen KI vor.

Francesco Cavalli, Sensity AI

»Diese neuronalen Netze können auf Pixelebene Signale erkennen, die auf KI-Manipulation hindeuten. Das ist die erste Ebene. Die zweite Ebene betrifft den Audiobereich. Wir versuchen mithilfe spezieller Algorithmen festzustellen, ob die Stimme geklont ist oder synthetisch, also vollständig KI-generiert ist und ob die Geräusche KI-generiert sind. Die dritte Ebene ist die Datenverlaufsanalyse. Wir laden Videos herunter und versuchen, sie bis zur Quelle zurückzuverfolgen.«

Und auf diesem Weg verbreiten sich die Videos in der Regel:

Francesco Cavalli, Sensity AI

»Wir haben TikTok als sogenannte ›Seeding‹-Plattform‹ identifiziert. Die ›Saat‹ wird also systematisch auf TikTok platziert.«

Wenn die Videos dort in den ersten 14 Tagen erfolgreich sind, werden sie über Telegram-Accounts geteilt, ein Messengerdienst, der in Russland und der Ukraine besonders beliebt ist. Anschließend beginnen russische Propagandisten und Kriegsblogger, die Videos zu kommentieren. Das verstärkt den Eindruck ihrer Echtheit. Zuletzt werden die Videos auf anderen Social-Media-Plattformen geteilt.

Russland ist seit dem Kalten Krieg Meister der Desinformation, sie wird sogar an den einigen Hochschulen gelehrt. Einige Deepfake-Kampagnen haben speziell die ukrainische Zivilbevölkerung im Visier: Familien von Soldaten und die kriegsmüde Bevölkerung sollen angesprochen werden, oft von Frauen. Dieser komplett KI-generierte Mann berichtet wiederum von institutioneller Korruption. Das Ziel der Kampagne ist, die Gesellschaft zu spalten. Hinzu kommt noch eine letzte Kategorie: Spott über die Mobilmachung – eine besonders beliebte Form der Social-Media-Häme.

Wichtig ist: Viele Deepfake-Kampagnen zielen nicht nur auf die Ukraine oder die ukrainische Diaspora ab. Sie sollen die westliche Öffentlichkeit beeinflussen, und zwar speziell die Menschen, die ohnehin eine Unterstützung der Ukraine infrage stellen.

Francesco Cavalli, Sensity AI

»Diese Menschen interagieren viel: Das führt zu mehr Likes, Kommentaren und Shares auf allen Social-Media-Plattformen. Dies hilft der russischen Propaganda im Wesentlichen dabei, die öffentliche Meinung zum Krieg in der Ukraine neu zu gestalten.«

Das erste Opfer des Krieges ist die Wahrheit – diese alte Erkenntnis bekommt an der digitalen Front eine neue Dimension.