Künstliche Intelligenz und die Parallelen zur Atombombe: Risiko und Fortschritt

Über das KI-Unternehmen Anthropic wird erzählt, dass jedem neuen Mitarbeiter ein Buch des Historikers Richard Rhodes empfohlen wird: „The Making of the Atomic Bomb“. Darin wird beschrieben, wie aus einem wissenschaftlichen Projekt eine Massenvernichtungswaffe wird, angeleitet von Physikern in dem festen Glauben, sie müssten die ersten sein, die die Atombombe entwickeln, bevor es die falschen tun. Die KI-Branche scheut den Vergleich zur Atombombe nicht, sie sucht ihn.

Sowohl Sam Altman, der Mann an der Spitze des ChatGPT-Entwicklers Open AI, als auch Anthropic-Chef Dario Amodei, sind schon mit J. Robert Oppenheimer verglichen worden, dem Vater der Atombombe. Oppenheimer wurde nach dem Abwurf der Bomben auf Hiroshima und Nagasaki indes zum Kritiker der atomaren Aufrüstung. In Altman und Amodeis Selbstverständnis steckt indes auch viel von einem anderen Forscher, den ungarischen Mathematiker John von Neumann.

Dieser war ebenfalls am „Manhattan Project“ zur Entwicklung der amerikanischen Atombombe beteiligt. Seine Gleichungen spielten eine wichtige Rolle für deren Zerstörungskraft. Nach 1945 kam er allerdings zu einem anderen Schluss als Oppenheimer. Er erkannte die Gefahren, die in der Technologie steckten – und arbeitete dennoch in den Fünfzigerjahren an der Entwicklung einer noch gefährlicheren Waffe, der Wasserstoffbombe.

In der KI-Welt ist es zurzeit tendenziell so: Altman und noch mehr Amodei sprechen viel über die Gefahren dessen, was sie da entwickeln. „Wir müssen die Geschwindigkeit verlangsamen, mit der wir die Fähigkeiten von KI-Modellen verbessern“, schrieb Anthropic-Chef Amodei an diesem Wochenende in einem Aufsatz. Open-AI-Chef Altman stimmte ihm auf der Plattform X sogleich zu und äußerte, das Entwicklungstempo zu drosseln sei in seinem Unternehmen in den vergangenen Wochen eines der Hauptthemen gewesen. Überdies sagte er der Zeitschrift „Fortune“, der Börsengang seines Unternehmens werde nicht mehr in diesem Jahr stattfinden. Angesichts der Sicherheitsdiskussion wäre er zum jetzigen Zeitpunkt „nicht ratsam“.

Auch Elon Musk, der Vorstandschef des Raumfahrtunternehmens SpaceX und des Autoherstellers Tesla, mischte sich in die Debatte ein. Er schrieb auf X: „Dario hat recht.“ Zu SpaceX gehört das KI-Unternehmen X.AI.

Ob und was daraus konkret folgt, ist in derweil noch nicht absehbar. Bislang haben sowohl Open AI als auch Anthropic nach geäußerten Warnungen einfach weitergemacht, angetrieben von der Idee, dass besser sie als andere die Kontrolle über das mächtigste KI-Modell haben sollten. Anthropic hält sich für verantwortungsbewusster als Open AI. Open AI wiederum hält sich für immer noch besser als die Chinesen.

Die ganze KI-Debatte nimmt seit dem vergangenen Mittwoch Fahrt auf. Da schlug die Mitteilung des KI-Entwicklers Jacob Coxon auf der Plattform X große Wellen, er habe seinen Job bei Anthropic aus ethischen Erwägungen gekündigt. „Die Menschen, die KI entwickeln, sind ernsthaft davon überzeugt, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“, schrieb Coxon.

Wer da noch glaubte, es handle sich um die Abrechnung eines missgestimmten Ex-Mitarbeiters, den belehrte kurz darauf Evan Hubinger eines Besseren, der bei Anthropic für die Angleichung der KI an menschliche Werte verantwortlich ist. „Wir sind tatsächlich ernsthaft der Meinung, dass KI die gesamte Menschheit auslöschen könnte!“, schrieb er. „Ich persönlich halte die Wahrscheinlichkeit im nächsten Jahrzehnt für größer als 10 Prozent.“ Er glaube zwar, dass Anthropic „sein Bestes gibt“, aber das Unternehmen habe noch keine Lösung für das Problem und sei auch „nicht eindeutig auf dem besten Weg dahin“.

In den exakten Prozentzahlen klingt die streng am erwarteten Nutzen orientierte Denkschule durch, die weite Teile der KI-Branche durchdringt. In dieser Logik lässt sich stets das Weitermachen rechtfertigen, wenn die Wahrscheinlichkeit großer Wohlstandsgewinne nur groß genug ist. Es gebe eine „25-prozentige Chance, dass die Dinge richtig, richtig schlecht ausgehen“, sagte Anthropic-Chef Dario Amodei vor einem Jahr, aber eben auch eine „75-prozentige Chance, dass sie richtig, richtig gut“ werden.

Auf der Hoffnungsseite stehen größte Fortschritte für die Menschheit. Krebs besiegen, Energie sparen und den Klimawandel bremsen, mehr Freizeit bekommen und sich trotzdem mehr leisten können – die Chancen sind riesig.

Zugleich wächst die Angst. Die Entwickler haben Sorge, dass die Menschen bald die Kontrolle über ihr Werk verlieren. Im Januar stellten die Vereinten Nationen ihren jüngsten „Internationalen Bericht über KI-Sicherheit“ vor. Darin nannten sie mindestens acht Fähigkeiten, die KI brauche, bevor Menschen die Kontrolle verlieren könnten. Damals waren zwei der acht erlangt. Jetzt sind es schon sechs.

Inzwischen kann die Künstliche Intelligenz so gut programmieren, dass sie bei der Entwicklung ihrer Nachfolger eine wichtige Rolle spielt. Die Vermutung lautet: Bald könnte KI so schlau sein, dass sie ihre nächste Generation praktisch vollständig selbst erschafft. Dann würde sie sich selbst immer weiter verbessern, der Mensch wäre nur noch Zuschauer.

Von da an sind der menschlichen Phantasie keine Grenzen mehr gesetzt. Gruselei hat ja auch immer eine gewisse Faszination. Löscht KI die Menschheit absichtlich aus, weil sie sie für fehlerhaft hält? Domestiziert sie die Menschheit, so wie Menschen mit Tieren umgehen? Oder ist der Mensch ihr einfach egal, und sie vernichtet die Menschheit in der Ausführung eines Auftrags ganz aus Versehen? Die ehemalige Vorsitzende des Ethikrats, Alena Buyx, erzählt von ihren Vorträgen: Inzwischen werde sie ständig nach solchen Horrorszenarien gefragt. „Früher war das totale Ausnahme, jetzt ist es die Regel.“

Blicken wir genauer auf einen Vorfall, der in den vergangenen Wochen Schlagzeilen gemacht hat: Ein Schwarm von besonders leistungsfähigen Computerprogrammen, sogenannten KI-Agenten, brach aus dem Labor von Open AI aus und griff die KI-Plattform Hugging Face an.

Warum taten sie das? Weil sie von ihren Erschaffern in Tests sehr schwierige, womöglich unlösbare Aufgaben bekommen hatten. Sie kamen nicht weiter. Doch sie gaben nicht auf, waren sich fürs Schummeln nicht zu schade, fanden einen Weg ins Internet und wollten auf Hugging Face eine Lösung für ihr Problem suchen – so beschrieben es zwei Entwickler von Open AI im August in einem Vortrag.

Dabei lohnt es sich festzuhalten: Die Entwickler von Open AI hatten offenbar tagelang nicht genau hingesehen, was in ihrem Labor geschah. Und sie hatten zwar versucht, die Agenten vom allgemeinen Internet fernzuhalten, aber eine Verbindung gab es eben doch.

So gesehen, war der Vorfall womöglich gerade der nötige Warnschuss, der die Entwickler zu größerer Sorgfalt bewegt. Sie müssen künftig besser auf ihre Schöpfung aufpassen. Nur: Diese Überwachung ist aufwendig. Man braucht mehr Personal und mehr Geld. Und selbst dann dauern die einzelnen Versuche immer noch viel länger als vorher.

Das ist ein Problem für die einzelnen Unternehmen, die im Wettbewerb zu anderen stehen: Wenn sie in ihrer Forschung zu genau hingucken, fallen sie womöglich im Rennen um die beste KI zurück. Open AI konkurriert mit Anthropic, Google und Elon Musks SpaceX. Diese Schwierigkeit könnte die amerikanische Regierung noch mit entsprechenden Regeln lösen. Amerikanische Staatsanwälte haben schon bei Open AI angeklopft; sie untersuchen den Vorfall jetzt genauer.

Doch die USA selbst stehen im Wettbewerb mit China. Und die chinesischen Entwickler schneiden in unabhängigen Sicherheitsprüfungen noch viel schlechter ab als die amerikanischen. Ironischerweise hat das nicht nur Nachteile.

Von dem KI-Agenten-Hack berichtete der Hugging-Face-Sicherheitschef in der „Financial Times“: Amerikanische KIs hätten bei der Verteidigung nicht mitgeholfen, denn sie waren darauf trainiert, dass sie sich von Hacking-Aufgaben fernhalten. Chinesische KIs dagegen stürzten sich problemlos auf die Aufgabe, ohne weiter nachzufragen.

Wie löst man den Konkurrenz-Konflikt? Microsoft-Gründer Bill Gates hat vor Kurzem vorgeschlagen, schon mal eine internationale Organisation zu gründen, in der Staaten sich in Sachen KI abstimmen können. Das wäre wohl ähnlich wie die internationale Atomagentur: Schlechter würde sie die Lage sicher nicht machen. Ganz lösen würde sie das Problem wohl auch nicht.

John von Neumann war nicht nur einer der Wegbereiter der Atombombe. Er gilt auch als Vater der Spieltheorie. 1955 veröffentlichte er ein Essay mit dem Titel „Können wir die Technologie überleben?“ Die „größere Automatisierung“, schreibt er, habe einige Ähnlichkeit mit der Atomtechnologie. Beides kann für Zerstörung und zu großem Nutzen für die Menschheit genutzt werden. Beides hat potentiell globale Auswirkungen. Und das Nützliche ist mit dem Destruktiven eng verbunden. „Es ist nicht eine spezifisch perverse Zerstörungskraft einer bestimmten Erfindung, die Gefahr heraufbeschwört. Technologische Macht, technologische Effizienz als solche, ist eine ambivalente Errungenschaft. Die von ihr ausgehende Gefahr ist ihr immanent.“

Daraus folgt für von Neumann, dass eine Verlangsamung des Fortschritts nur eine „Pseudo-Lösung“ ist. Nur ein vollständiges Ende des technischen Fortschritts überhaupt könne das Ziel erreichen. Das aber stünde in krassem Widerspruch zum „Ethos des Industriezeitalters“ und sei schon deshalb zum Scheitern verurteilt. Und jede erfolgreiche Regulierung müsste global wirken. „Doch die einzige Instanz, die dies wirksam bewerkstelligen könnte, müsste von einer solchen Tragweite und Vollkommenheit sein, dass sie eher die Lösung internationaler Probleme signalisiert als lediglich die Entdeckung eines Mittels zu deren Lösung.“

Davon sind wir weit entfernt, die geopolitische Lage macht wenig Hoffnung. Im Kalten Krieg gelang es den USA und der Sowjetunion irgendwann, sich auf nukleare Abrüstung zu einigen. Doch bis es so weit kam, stand die Welt mehrfach kurz vor einem Atomkrieg. Ein erster Versuch, Atomenergie unter eine internationale Aufsicht zu stellen, scheiterte 1946 an der Furcht der Sowjets, die Amerikaner könnten ein Monopol auf die Technik zementieren.

Auch heute haben Politikwissenschaftler Sorgen. Thomas Jäger, der an der Universität Köln die internationale Politik erforscht, ist in einer ganz praktischen Beziehung skeptisch. „Jede Seite würde bei einer kooperativen Steuerung davon ausgehen, benachteiligt zu sein, schon deshalb, weil die andere Seite betrügt“, fürchtet er. „Die Entwicklung ist durch internationale Organisationen nicht zu kontrollieren, jede Seite wird weiter am Fortschreiten der Technologie arbeiten.“

So etwas wie den Klimaschutz-Prozess werde es in Sachen KI nicht geben, weder China noch die USA würden sich multilateral einbinden lassen. Dazu seien die strategischen Planungen zu tief und die wirtschaftlichen Interessen zu groß. Jäger resümiert: „Dass es zu einer kooperativen Lösung kommt, ist wenig wahrscheinlich.“

„Für Fortschritt gibt es kein Heilmittel“, glaubte John von Neumann. Jeder Versuch, den Fortschritt in sichere Bahnen zu lenken, müsse zu Frustration führen. Übrig bleibe nur die „intelligente Ausübung des täglichen Urteilsvermögens“.

Ausweglos ist die Sache also nicht. Denn so schlau die Künstliche Intelligenz auch ist – sie hat nur die Werkzeuge, die Menschen ihr geben. Bevor sie irgendetwas ausrichten kann, braucht sie Augen, muss also etwas erfahren können. Sie braucht Hände, muss also etwas bewegen können. Sie braucht Daten und sie braucht Energie. All das muss sie von Menschen bekommen, um handlungsfähig zu sein.