KI-Halluzinationen und Fehler: Wenn künstliche Intelligenz die Realität verdreht

Künstliche Intelligenz (KI) kann eine Hilfe sein - beim Ideen finden, Recherchieren, Zusammenfassen, Formulieren oder Codieren.

Doch gleichzeitig bergen KI-Modelle Risiken und können Fehler produzieren.

So enthielt kürzlich ein Bericht der Beratungsgesellschaft KPMG - ausgerechnet über den weltweiten Einsatz von KI in Unternehmen - der Financial Times zufolge Fallstudien, die auf sogenannten Halluzinationen basierten.

Quellen teils selbst KI-generiert

Nach einer Untersuchung der Europäischen Rundfunkunion (EBU) beinhalteten 45 Prozent der Antworten von Chatbots im Oktober 2025 "signifikante" Mängel - bei Genauigkeit, Quellenangabe, Kontext oder Kennzeichnung von Tatsache und Meinung. Seitdem sind viele Sprachmodelle deutlich besser geworden, doch Fehler sind trotzdem möglich. Neben Halluzinationen können KI-Antworten bei aktuellen Themen schlicht veraltet sein, weil die Chatbots je nach Anweisung auch mit älteren Texten gefüttert sind.

Außerdem übernehmen sie teilweise ungefiltert Falschinformationen aus dem Web oder ordnen Einschätzungen falschen Quellen zu. Dazu kommt, dass die genutzten Quellen auch immer häufiger selbst KI-generiert sind. Forscher des Imperial College London, der Stanford University und Internet Archive haben dahingehend kürzlich das Internet stichprobenartig analysiert. Ihr Ergebnis: Bis Mitte 2025 haben sie etwa 35 Prozent der neu veröffentlichten Websites als KI-generiert oder zumindest KI-unterstützt eingestuft.

Aus diesen Gründen ist der KPMG-Bericht längst kein Einzelfall. Ähnliches passierte laut Medienberichten jüngst EY Kanada. Die Beratungsssparte dort hatte eine Studie erstellt, deren von einer KI gesuchten Quellenangaben sich als fehlerhaft oder falsch erwiesen haben. Und auch Deloitte in Australien musste im vergangenen Jahr eine Analyse zum Sozialhilfeprogramm korrigieren, weil sie nicht existierende Quellen und Zitate enthielt. Besonders heikel: Sie war für das Ministerium für Beschäftigung und Arbeitsbeziehungen geschrieben worden.

Kritische Prüfung ist entscheidend

Dass diese Situationen in der Beratung von Wirtschaft und Politik auftreten, scheint kein Zufall zu sein. Die Branche gilt neben der IT als einer der beiden Bereiche, die aktuell von KI besonders durchgerüttelt werden. "Wir sehen, dass in dieser Branche überdurchschnittlich viel KI genutzt wird - sowohl formell, also durch den Arbeitgeber eingeführt, als auch informell, also durch die Beschäftigten", erklärt Oliver Schlenker, stellvertretender Bereichsleiter des ifo Zentrums für Soziale Marktwirtschaft und Institutionenökonomik.

Es sei einer der Sektoren, in denen frei verfügbare KI-Modelle Routineaufgaben gut übernehmen können: wie Informationen zu sammeln und daraus Dokumente zu erstellen. "Auf den ersten Blick wirkt das erstmal, als gäbe es extreme Produktivitätseffekte, weil ein Report schnell geschrieben ist, für den es früher zwei Wochen gedauert hat. Das macht eine Arbeit aber natürlich noch nicht gut", so Schlenker, der auch Senior Researcher am Institut für Arbeitsmarkt- und Berufsforschung (IAB) ist. Die Krux an der Sache sei eine kritische Prüfung, da die KI eben auch halluzinieren kann.

"Dementsprechend gibt es schon Studien, die darauf hindeuten, dass es eine Aufgabenverschiebung gibt: von der Ausführung zum Monitoring von KI", betont der Experte. Dieser letzte Schritt fehle aber häufig noch.

"KPMG International legt großen Wert auf die Richtigkeit und Integrität seiner veröffentlichten Inhalte", heißt es vom Konzern selbst. Dabei seien die Richtigkeitsprüfungen nicht ordnungsgemäß durchgeführt worden. "Wir überprüfen derzeit unsere Veröffentlichungsprozesse und Kontrollmechanismen und führen bei Bedarf zusätzliche Sicherheitsvorkehrungen ein", schreibt KPMG gegenüber der ARD-Finanzredaktion.

KI-Nutzung wächst stetig - doch mit ihr die Fehler

Auch in anderen Wirtschaftsbereichen wächst der Einfluss von KI. Mehr als 54 Prozent der Firmen in Deutschland nutzen sie laut einer aktuellen Umfrage des ifo Instituts bereits jetzt in ihren Prozessen. IAB-Daten zufolge verwenden sogar zwei Drittel der Beschäftigten hierzulande zu einem gewissen Grad KI am Arbeitsplatz. Nur ein Drittel der Nutzenden habe sie aber formell eingeführt bekommen, sagt Ökonom Schlenker. "Wir haben einen sehr hohen Grad an sogenannter Schatten-KI, bei der das Unternehmen seine Mitarbeitenden möglicherweise nicht angemessen im Umgang mit Fehlern durch KI trainiert hat." Das könne zu großen Problemen führen.

In einer Studie der KI-Firma Dataiku berichten tatsächlich 76 Prozent der deutschen Datenverantwortlichen, dass sie im vergangenen Jahr mit geschäftlichen Problemen oder Krisen aufgrund von KI-Halluzinationen zu kämpfen hatten. Doch nicht nur in der Wirtschaft, sondern auch in der Wissenschaft wird das zunehmend zum Problem. So berichtet die FAZ von Sachbüchern, die teils von KI erstellt werden und den Markt überschwemmen. Und auch die Zahl falscher Referenzen in Forschungsarbeiten nehmen zu. Wissenschaftler der Cornell University und der University of California untersuchten jüngst 2,5 Millionen wissenschaftliche Artikel - und fanden fast 150.000 durch Sprachmodelle gefälschte Zitate.

Björn Ommer, KI-Professor an der Ludwig-Maximilians-Universität München, sieht dabei die jeweiligen Autorinnen und Autoren in der Pflicht. "Ob ich jetzt KI oder einen Computer einsetze, der mir hilft, Daten aufzubereiten: Ich selbst als Autor trage die Verantwortung für das, was dort zusammengekommen ist." Genauso könne man sich beim Schreiben nicht darauf berufen, dass die KI auf diese oder jene Situation verwiesen hat. Sie sei nicht als Autor aufgeführt. "Wissenschaft funktioniert natürlich nur, wenn man sich darauf verlassen kann, dass die andere Seite auch verlässlich ist", sagt Ommer.

Studierende scheinen sich den Risiken bewusst

Das Schreibzentrum der Goethe-Universität in Frankfurt hat bundesweit über 4.000 Studierende zu ihrem Umgang mit KI befragt. Auch sie nutzen demnach KI in erster Linie, um sich Informationen zu beschaffen, in der Literaturrecherche oder bei der Suche nach Fachinhalten. Den Risiken seien sie sich dabei durchaus bewusst, berichtet Nora Hoffmann, Leiterin des Schreibzentrums. "Ganz deutlich zeigen Studierende: Sie wissen, dass die KI Fehler macht, dass sie halluziniert und man ihr nicht trauen kann." Das halte sie zwar nicht davon ab, die KI zu nutzen. "Sie nutzen es aber einfach genau in diesem Bewusstsein, die Quellen zu überprüfen."

Wie genau sie jedoch vorgehen, um die eigene Verantwortung zu gewährleisten, sei sehr unterschiedlich, sagt Hoffmann. Etwa nutzten einige Studierende KI lediglich für Teiltätigkeiten oder legten Wert darauf, ihre Nutzung zu dokumentieren. Einheitliche Vorgaben an Universitäten und Hochschulen gebe es jedoch kaum. "Die Unis tun sich schwer damit, solche Regeln einzuführen, weil es aber auch fachübergreifend sehr schwierig ist." Je nach Fach seien verschiedene Fähigkeiten nötig. Zudem hätten auch die Lehrenden noch Nachholbedarf.

Qualitätsverlust und Ideenklau nehmen zu

"Erste Studien deuten darauf hin, dass im Peer-Review-Verfahren, das in der Wissenschaft ein anerkanntes Verfahren zur Qualitätssicherung ist, zunehmend KI eingesetzt wird, um substantielle Teile der Berichte zu verfassen", sagt Ökonom Schlenker. Diese sähen nur auf den ersten Blick aus wie ein guter Report. Von einer abnehmenden Qualität in der Wissenschaft berichtet indes Nina Kolleck, Professorin für Erziehungs- und Sozialisationstheorie an der Universität Potsdam. "Es gibt auf jeden Fall eine Tendenz, die in die Richtung von Social Media und KI geht: alles schneller, alles platter, alles oberflächlicher."

Außerdem wundere sie sich, dass viele Menschen ChatGPT & Co. als objektiv ansehen und den Modellen so stark vertrauen. "Die Sprachmodelle machen doch auch nur das, was ich will, was sie machen", so die Politikwissenschaftlerin. Es hänge davon ab, mit welchen Informationen sie gefüttert und welche Algorithmen ihnen gegeben werden. Die größte Gefahr sieht Kolleck aber woanders: im zunehmenden Ideenklau. "Während die einen fleißig forschen und analysieren, schauen die anderen, wie sie sich ihr Zeugs einfach von anderen zusammensuchen und in eine KI packen." Man sehe nicht einmal mehr, dass es ein Plagiat ist.

Daher fordert die Wissenschaftlerin ethische und qualitative Standards in der Nutzung von KI. Denn komplett könne man nicht mehr darauf verzichten - und das sei gut so. "Wir sollten KI nutzen, besser zu werden, indem wir zum Beispiel Programme schreiben und damit viel größere Datensätze analysieren können oder indem wir viel exakter analysieren können, indem wir Fehler erkennen können und so weiter."