Anthropic warnt in Börsenprospekt vor existenziellen Risiken durch KI

So werben Unternehmen selten um Investoren: Anthropic warnt in seinem lang erwarteten Börsenprospekt ausdrücklich, dass die eigene Technologie "existenzielle Risiken für die Menschheit" bergen könnte. Fast ein Drittel des umfangreichen Prospekts hat der KI-Entwickler möglichen Gefahren gewidmet - darunter, dass immer leistungsfähigere Modelle Menschen manipulieren, erpressen oder sich auf andere Weise unvorhersehbar verhalten.

Die Geldgeber des KI-Labors rechnen damit, dass Anthropic bei seinem Börsengang mit mehr als zwei Billionen Dollar bewertet werden könnte. Das wäre mehr als doppelt so viel wie bei der jüngsten Finanzierungsrunde im Mai und mehr als die 1,78 Billionen Dollar, auf die Elon Musks SpaceX im Juni kam.

Ihre Zuversicht stützen die Investoren vor allem auf das rasante Wachstum von Anthropic. Allerdings könnten die Warnungen vor den Gefahren der Technologie die Euphorie bremsen. Aktuelle und ehemalige Mitarbeiter des Unternehmens haben öffentlich davor gewarnt, dass eine außer Kontrolle geratene KI die Menschheit innerhalb eines Jahrzehnts auslöschen könnte.

"Wichtigste globale Sicherheitsfrage"

Anthropic-Chef Dario Amodei warnt seit Längerem vor den Risiken. Vor dem UN-Sicherheitsrat sagte er vergangene Woche, KI könne die Menschheit bedrohen und sei "die wichtigste globale Sicherheitsfrage unserer Zeit". Amodei forderte die KI-Entwickler auf, das Tempo bei der Veröffentlichung neuer Fähigkeiten zu drosseln. Zuletzt hatte es unter anderem eine aufsehenerregende Hacking-Attacke gegeben, bei der eine Software von OpenAI in einem Testlauf aus der abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen war. Dennoch brachte Anthropic vergangene Woche sein neues Modell Opus 5.5 auf den Markt, um mit dem Konkurrenten OpenAI und dessen GPT-6 Astra Schritt zu halten.

Die Risiken, die Anthropic seinen künftigen Aktionären auflistet, sind allerdings nicht nur technologischer Natur. Das Unternehmen machte 2025 zwar fast 4,6 Milliarden Dollar Umsatz - zwölfmal so viel wie im Jahr zuvor. Operativ schrieb es allerdings einen Verlust von mehr als acht Milliarden Dollar. Allein die Ausgaben für Rechenleistung und Infrastruktur verdreifachten sich auf mehr als sieben Milliarden Dollar.

Auch die Abhängigkeit von wenigen Großkunden ist beträchtlich. Zwei Kunden standen im vergangenen Jahr für fast ein Viertel des Umsatzes. Zugleich hat Anthropic für die kommenden Jahre Ausgaben von insgesamt 518 Milliarden Dollar für Cloud- und Recheninfrastruktur angekündigt. Der Börsengang wird wahrscheinlich nach den US-Zwischenwahlen im November stattfinden.