Global Challenges: Nobelpreisträger erklärt, warum KI-Modelle Regeln brechen – „Noch ist Zeit für Kurswechsel“

Nach wiederholten Sicherheitspannen bei OpenAI und Anthropic – deren jeweilige KI-Agenten letztendlich externe Systeme hackten – haben KI-Sicherheitsforscher in beiden Unternehmen entweder ihren Rücktritt angekündigt oder (endlich!) eingeräumt, dass der atemlose Wettlauf um die Ausweitung der „Frontier“, also der Grenzen, unverantwortlich ist.

Als Reaktion auf die negative Medienberichterstattung haben sich führende Branchenvertreter – darunter Demis Hassabis von Google, Dario Amodei von Anthropic, Sam Altman von OpenAI und sogar Elon Musk – den Forderungen angeschlossen, die Ausweitung der KI-Grenzen zu „drosseln.“

Das Problem besteht nicht darin, dass die Modelle zu fortschrittlich sind. Ich sehe keine überzeugenden Belege dafür, dass Modelle sich der menschlichen Kontrolle entziehen würden, wenn sie besser trainiert und überwacht würden. Vielmehr trainieren die führenden Forschungslabore ihre Modelle auf eine Weise, die zu einer Art verzerrter Intelligenz führen könnte.

Die jüngsten sicherheitsrelevanten Vorfälle deuten darauf hin, dass sich die Fähigkeiten der KI nicht nur rasant entwickeln, sondern auch in den Dienst unvollkommener quantitativer Kennzahlen gestellt werden. Dabei optimiert der Prozess des bestärkenden Lernens unablässig Faktoren wie Nutzerakzeptanz, Nutzerbindung, Erfolgsquoten bei einfachen Aufgaben oder verschiedene Test-Benchmarks.