KI-Chef Amodei fordert staatliche Kontrollen für gefährliche KI
Quick Look
- Anthropic-Chef Dario Amodei fordert staatliche Kontrollen für gefährliche KI-Systeme, um Risiken wie Cybersicherheit und Kontrollverlust zu prüfen.
- Er schlägt eine Art "KI-Flugaufsicht" vor, die von Regierungen oder beauftragten Privaten durchgeführt werden könnte.
AI-generated summary
Why It Matters
Anthropic CEO Dario Amodei has called for governments to have the ability to halt dangerous AI development. He proposes that powerful AI models undergo risk assessments in areas like cybersecurity and bioweapons, similar to an aviation oversight body.
San José. Dario Amodei, der Chef der KI-Firma Anthropic, hat sich dafür ausgesprochen, dass Regierungen gefährliche Künstliche Intelligenz (KI) stoppen können sollten.
Leistungsstarke KI-Modelle müssten auf Risiken geprüft werden, forderte Dario Amodei in einem Blogbeitrag.
Dabei solle es um Bereiche wie Cybersicherheit, Biowaffen und einen möglichen Verlust der Kontrolle über die Systeme gehen. Das umfasse auch eine automatisierte Weiterentwicklung der Software, die diese Risiken verstärken könnte.
Solche Untersuchungen könnten von einer Regierungsorganisation vorgenommen werden, die etwa einer Flugaufsicht ähnlich wäre, schrieb Amodei. Alternativ könnten es von der Regierung beauftragte private Prüfer sein.
Anthropic spricht sich schon länger für eine stärkere Regulierung der KI-Industrie aus und wurde dafür bereits aus Teilen der KI-Branche und dem Weißen Haus kritisiert.
Anthropic ist mit seiner KI-Software Claude der schärfste Konkurrent des ChatGPT-Entwicklers OpenAI. Die Firma sorgte jüngst für Aufsehen mit dem KI-Modell Mythos, das zum Teil über Jahrzehnte unentdeckt gebliebene Schwachstellen in viel genutzter Software aufspüren kann. Das verstärkte die Sorge, dass Künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte.
What to Watch
AI outlook — possibilities, not facts
Governments will explore or implement new regulatory frameworks for advanced AI.
Likely · Medium term
Open Questions
- What specific criteria would define 'dangerous' AI?
- How would government or private auditors be structured and funded?
- What are the potential economic impacts of such regulations on AI development?
- How would international cooperation on AI regulation be achieved?
