Falsche und manipulierte Informationen sind das weltweite Risiko Nr. 1 und übertreffen die Klimakrise
Gartner senior: „Deep Fakes werden automatisch verbreitet … Der menschlichen Reaktion sind Grenzen gesetzt“
(Seoul = Yonhap News) Reporter Hayoung Kwon = Letztes Jahr ereignete sich in der Hongkonger Niederlassung des britischen Ingenieurunternehmens Arup ein groß angelegter Finanzbetrugsvorfall, bei dem Deepfake-Technologie missbraucht wurde.
Ein Mitarbeiter wurde durch ein Videokonferenzvideo getäuscht, das den Eindruck erweckte, der Finanzvorstand (CFO) und hochrangige Führungskräfte seien anwesend, und überwies rund 25 Millionen US-Dollar auf das Konto des Betrügers.
Aufgrund der Entwicklung der generativen künstlichen Intelligenz (KI) geht man davon aus, dass die Bedrohung durch Falschinformationen inzwischen über einfache Fake News hinausgegangen ist. Die Analyse zeigt, dass es sich als strukturelles Risiko ausbreitet, das nicht nur die Entscheidungsfindung und den Ruf von Unternehmen, sondern auch das Vertrauenssystem der Gesellschaft insgesamt erschüttert.
Dave Aaron, leitender Analyst bei Gartner und Co-Autor von Gartners neuestem Bericht „A World Without Truth“, sagte kürzlich in einem schriftlichen Interview mit Yonhap News: „Mit der Entwicklung der generativen KI kann jeder leicht hochentwickelte Deepfakes erstellen“, und „das Ausmaß des daraus resultierenden Schadens wächst ebenfalls exponentiell.“
◇ Falsche Informationen stehen an erster Stelle der globalen Risiken des WEF... Auch die wirtschaftlichen Verluste nehmen zu
Laut dem Global Risk Report 2025 des Weltwirtschaftsforums (WEF) identifizierten rund 1.500 Experten aus Wirtschaft, Regierung und Wissenschaft auf der ganzen Welt „falsche und manipulierte Informationen“ als die größte Bedrohung in den nächsten zwei Jahren. Dies hat einen höheren Stellenwert als extreme Wetterereignisse, soziale Polarisierung, Cyber-Instabilität und bewaffnete Konflikte zwischen Ländern.
Der leitende Analyst Aaron erklärte, der Grund sei, „da falsche Informationen eine Art ‚Meta-Problem‘ sind.“ Das bedeutet, dass falsche Informationen die Fähigkeit zur Lösung aller anderen Probleme verringern.
Er fügte hinzu: „So wie es zum Beispiel schwierig wird, überhaupt einen gesellschaftlichen Konsens über die Richtung einer Lösung zu erreichen, wenn den Fakten im Zusammenhang mit dem Klimawandel selbst kein Vertrauen entgegengebracht wird, können falsche Informationen in verschiedenen Konfliktsituationen auf der ganzen Welt Beweise und Verantwortung verzerren.“
Auch der Schaden, der durch Falschinformationen für die Wirtschaft entsteht, nimmt zu.
Dem Bericht zufolge beliefen sich die durch digitale Fehlinformationen verursachten wirtschaftlichen Verluste im Jahr 2019 schätzungsweise auf 78 Milliarden US-Dollar, einschließlich sinkender Aktienkurse, Reputationsschäden und gesundheitsbezogener Fehlinformationen.
Dementsprechend werden die Kosten für Unternehmen, die auf falsche Informationen reagieren, bis 2028 voraussichtlich 30 Milliarden US-Dollar übersteigen. Dies macht etwa 10 % des gesamten Marketing- und Cybersicherheitsbudgets aus.
◇ Höheres Risiko bei Kombination von Agenten-KI… „Automatischer Betrieb für 1 Million Menschen möglich“
Es besteht insbesondere die Sorge, dass KI-basierte Falschinformationen eine Wirkung haben werden, die kaum mit der einfachen Verbreitung von Fake News in der Vergangenheit zu vergleichen ist.
Laut Gartner wird der Deepfake-KI-Markt voraussichtlich von 564 Millionen US-Dollar im Jahr 2024 auf 5,1 Milliarden US-Dollar im Jahr 2030 wachsen, was einer durchschnittlichen jährlichen Wachstumsrate von mehr als 40 % entspricht.
Der leitende Analyst Aaron nannte die Weiterentwicklung der generativen KI-basierten Deepfake-Technologie, die ultraschnelle Verbreitung über soziale Netzwerkdienste (SNS), datenbasierte personalisierte Angriffe und Fortschritte in der Verhaltenswissenschaft als Schlüsselfaktoren für den Wandel.
Insbesondere die in letzter Zeit für Aufsehen gesorgte „Agentische KI“ wird als Faktor hervorgehoben, der die Gefahr von Falschinformationen zusätzlich verstärkt. Die Idee ist, dass ein KI-Agent, der die Ziele des Benutzers selbstständig umsetzt, die Produktion und Verbreitung falscher Informationen automatisieren kann.
Er sagte: „Wenn beispielsweise eine sechsmonatige Kampagne in Auftrag gegeben wird, um den Verdacht zu verbreiten, dass eine bestimmte Bank an Drogengeldwäsche beteiligt ist, ist es einer Agenten-KI möglich, gefälschte Video- und Audiobeweise zu erstellen und diese automatisch an 1 Million Menschen zu verteilen.“ Er fügte hinzu: „Da sich KI-basierte Manipulationskampagnen viel schneller ausbreiten als Menschen, wird es auch schwieriger, darauf zu reagieren.“
Auch „Model Poisoning“-Angriffe, die das KI-Modell selbst kontaminieren, stellen eine neue Bedrohung dar. Dies ist eine Methode, die das Modell selbst verzerrt, indem sie falsche und voreingenommene Informationen in KI-Lerndaten einfügt.
Dies steht im Einklang mit der jüngsten Situation, in der das leistungsstarke KI-Modell „Mythos“ von Antropic automatisch Tausende von Sicherheitslücken erkannt hat, was zu einem erhöhten Bewusstsein für KI-Cyberbedrohungen führt.
Der leitende Analyst Aaron sagte: „Es ist wichtiger geworden, die Quelle und Authentizität der für das KI-Lernen verwendeten Daten sicherzustellen“ und warnte: „Es besteht ein ausreichender Zusammenhang zwischen Desinformationsangriffen und Cyberangriffen, die zu physischen Angriffen führen können.“
◇ „Die wirksamste Antwort ist Vorbildung“… Erhöhen Sie die Wachsamkeit während der Wahlsaison
Das Problem besteht darin, dass viele Unternehmen noch nicht über ein geeignetes System verfügen, um auf Falschinformationen zu reagieren.
Tatsächlich hatten 79 % der Unternehmen in den letzten drei Jahren Probleme im Zusammenhang mit falschen Informationen, aber nur 38 % der Unternehmen gaben an, dass sie ein klares Reaktionssystem eingerichtet hätten.
Gartner schlägt das „TrustOps“-System als Reaktionsstrategie vor.
Die Schlüsselachsen sind „Debunking“, das kontinuierlich falsche Informationen verfolgt und widerlegt, „Prebunking“, das Führungskräfte und Mitarbeiter im Voraus über Angriffsarten aufklärt, und „Grounding“, das die Quelle und Zuverlässigkeit der für die Entscheidungsfindung verwendeten Daten überprüft.
Chefanalyst Aaron wählte das kostenlose Schlafen als effektivste Reaktionsmethode. Die Erklärung ist, dass wir uns ausreichend über Manipulationsmethoden und konkrete Fälle informieren müssen, bevor wir falschen Informationen ausgesetzt werden, um unsere Immunität zu stärken.
Angesichts der wachsenden Besorgnis über Wahlverbrechen mithilfe von Deepfakes in Korea im Vorfeld der bevorstehenden Kommunalwahlen am 3. Juni hat die Regierung einen regierungsweiten Rat für die Reaktion auf Falschinformationen gebildet und eine harte Reaktionspolitik angekündigt, beispielsweise die Suche nach denjenigen, die ursprünglich Falschinformationen produziert und verbreitet haben.
Der leitende Analyst Aaron betonte: „Je mehr gesellschaftlich wichtige Entscheidungen getroffen werden, wie etwa Wahlen, desto wachsamer müssen wir vor Falschinformationen sein.“
