Warnung vor außer Kontrolle geratener Superintelligenz
22 Wissenschaftler fordern politisches Handeln angesichts der Risiken durch KI-Systeme
Quick Look
- 22 renommierte Wissenschaftler, darunter Nobelpreisträger Geoffrey Hinton, warnen in einem neuen Bericht vor einer außer Kontrolle geratenen Superintelligenz.
- Sie fordern die Politik zum Handeln auf, da KI-Systeme zunehmend zur rekursiven Selbstverbesserung fähig sind.
AI-generated summary
Why It Matters
Wissenschaftler warnen vor KI-Systemen, die durch rekursive Selbstverbesserung eigenständig leistungsfähigere Nachfolgesysteme entwickeln könnten.
»Wir sind nicht ausreichend vorbereitet«: Mit diesen Worten warnen 22 renommierte Wissenschaftlerinnen und Wissenschaftler, unter ihnen Nobelpreisträger Geoffrey Hinton, in einem aktuellen Bericht (PDF) vor einer Superintelligenz, die unserer Kontrolle entgleitet.
Die Forscher sehen Hinweise darauf, dass die KI-Systeme sich selbst verbessern und eigenständig leistungsfähigere Nachfolgesysteme bauen. In der Branche spricht man auch von »recursive self-improvement«. Ihre Forderung an die Politik: endlich handeln!
Der deutsche Wissenschaftler Christoph Winter, Assistenzprofessor für Recht und künstliche Intelligenz (KI) an der renommierten Cambridge-Universität, hat an dem Bericht mitgearbeitet. DIE ZEIT spricht mit ihm per Videocall mit ihm.
Open Questions
- Welche konkreten Regulierungsmaßnahmen werden gefordert?
- Wie reagiert die Politik auf diese Warnung?
