OpenAI veröffentlicht KI-Modell Astra mit verstärkten Sicherheitsvorkehrungen

San Francisco. Der ChatGPT-Entwickler OpenAI veröffentlicht sein bisher leistungsstärkstes KI-Modell und hebt nach der Aufregung um Hacking-Attacken durch Künstliche Intelligenz verstärkte Sicherheitsvorkehrungen hervor. Man gehe davon aus, dass Menschen mit den erweiterten Fähigkeiten von ChatGPT-6 Astra mehr und mehr Aufgaben an die KI übertragen werden, sagte OpenAI-Managerin Mia Glaese. Deshalb werde die Software besser überwacht, damit sie nicht vom Interesse der Nutzer abweiche.

Neue KI-Modelle von OpenAI hatten vor einigen Wochen für Aufsehen gesorgt, weil sie in Versuchen eigenständig einen Weg fanden, aus einer abgesicherten Testumgebung auszubrechen, und sich in Systeme einer anderen KI-Firma hackten. OpenAI bekam das erst verspätet mit. Der Zwischenfall nährte die Sorge, dass KI-Software mit ihrer Weiterentwicklung menschlicher Kontrolle entgehen könnte.

Um den Überblick über das Handeln der KI zu behalten, sind Entwickler aktuell oft darauf angewiesen, dass die Software die Argumente hinter ihren Entscheidungen in menschlicher Sprache festhält. Das nennt sich „Chain of Thought“ (etwa: Gedankenkette).

Forschungschef Jakub Pachocki sagte bei der Vorstellung von Astra allerdings, leistungsstärkere KI-Modelle seien in der Lage, dieses Verfahren zu beeinflussen. Außerdem seien sie bei einfachen Aufgaben weniger auf mehrstufige Überlegungen angewiesen. Damit man auch diese nachvollziehen könne, müsse man einen Weg finden, sie da „wortreicher“ zu machen.

Mit Astra sieht sich OpenAI wieder an der Spitze der KI-Entwicklung, nachdem zuletzt der Rivale Anthropic mit seinen Modellen Mythos und Fable die Branche beeindruckt hatte. Aus Sicht von Top-Manager Greg Brockman könnte Astra die Ära der sogenannten Allgemeinen Künstlichen Intelligenz einläuten. Unter dieser Bezeichnung wird KI-Software erwartet, die mindestens genauso fähig ist wie ein Mensch.

Von Pachocki kamen auch noch mehr warnende Worte. Das Verständnis der Systeme sei weiterhin eingeschränkt, sagte er. Das Training sei experimentell und bringe manchmal überraschende Ergebnisse. „Je fähiger die Modelle werden, desto schwieriger wird es, zu verstehen, was genau sie können.“

Das mache es auch komplizierter, sie im Einklang mit den Interessen der Nutzer zu halten. „Ein Modell kann sehr gut darin werden, ein Ziel zu erreichen - und doch auf eine Weise agieren, die dem entgegenläuft, was ein Mensch beabsichtigte.“ Deshalb müsse die Software „menschliche Werte“ auch in Situationen verstehen, die für sie unbekannt seien.