Anthropic-Forscher warnt vor tödlicher KI und verlässt Unternehmen
Jacob Coxon warnt vor außer Kontrolle geratener Künstlicher Intelligenz bis Ende des Jahrzehnts und verzichtet auf Firmenanteile.
Quick Look
- Der Anthropic-Forscher Jacob Coxon hat das Unternehmen verlassen und gewarnt, dass KI bis zum Ende des Jahrzehnts alle Menschen töten könnte.
- Experte Nate Soares fordert ein staatliches Aufsichtsgremium.
AI-generated summary
Why It Matters
Führende KI-Labore stehen zunehmend in der Kritik, die potenziellen Risiken einer Superintelligenz nicht ernst genug zu nehmen.
San Francisco. Der öffentliche Abgang eines Anthropic-Forschers sorgt für Aufsehen im Silicon Valley – und wirft erneut die Frage auf, wie ernst führende Labore die Risiken einer außer Kontrolle geratenen Künstlichen Intelligenz (KI) tatsächlich nehmen.
Der Anthropic-Forscher Jacob Coxon warnte diese Woche in einem Blogbeitrag, KI könne „alle Menschen töten“, und zwar bis zum Ende des Jahrzehnts. Die Branche trete nun in „das Endspiel“ um die KI-Zukunft ein. Coxon soll sogar auf ihm zustehende Firmenanteile verzichtet haben, um seine Warnung äußern zu können.
Nate Soares, Präsident des gemeinnützigen Machine Intelligence Research Institute (MIRI) im kalifornischen Berkeley, hält die Sorgen über das Entstehen einer tödlichen KI bis 2030 für „absolut gerechtfertigt“. Soares sagte dem Handelsblatt, er halte ein staatliches Einschreiten für nötig: „Ich glaube, es ist realistisch, dass die Regierung, sobald sie begreift, was in diesen Laboren wirklich passiert, eine Art Aufsichtsgremium einführt.“
Eine solche Instanz müsse klarstellen: „Chatbots könnt ihr bauen, aber für das Rennen um eine Superintelligenz sind wir schlicht nicht bereit.“ Nötig sei zudem „ein internationaler Vertrag, der das Wettrennen um Superintelligenz verbietet“. Ein solches Gremium dürfe allerdings „nicht aus der Industrie selbst kommen“. Erst im August hatte sich OpenAI-Chef Sam Altman im Handelsblatt-Interview für eine entsprechende Branchenorganisation ausgesprochen.
Open Questions
- Wie wird Anthropic auf den Weggang und die Vorwürfe reagieren?
- Welche konkreten Schritte plant die Politik zur Regulierung?
