Anthropic-Chef fordert Notbremse für KI-Entwicklung
Hızlı Bakış
- Der Chef von Anthropic, Dario Amodei, fordert eine staatliche Notbremse für die KI-Entwicklung.
- Regierungen sollen die Macht erhalten, gefährliche KI-Systeme zu stoppen und Risiken in Bereichen wie Cybersicherheit und Biowaffen zu prüfen.
Yapay zekâ özeti
Neden Önemli?
Der KI-Entwickler Anthropic, ein Rivale von OpenAI, setzt sich seit Längerem für eine stärkere Regulierung der KI-Entwicklung ein. Diese Haltung hat bereits Kritik aus Teilen der Branche und dem Weißen Haus hervorgerufen.
Der OpenAI-Rivale Anthropic spricht sich schon länger für eine härtere Regulierung der KI-Entwicklung aus. Jetzt fordert Firmenchef Dario Amodei sogar eine Notbremse für die Regierung. 11.06.2026 - 04:56 Uhr Quelle: dpa Artikel anhören
Anthropic-Chef Dario Amodei findet, dass Regierungen die Macht haben sollten, gefährliche KI blockieren zu können. (Archivbild) Foto: Andrej Sokolow/dpa
San Francisco. Der Chef der KI-Firma Anthropic hat sich dafür ausgesprochen, dass Regierungen gefährliche Künstliche Intelligenz stoppen können sollten. Leistungsstarke KI-Modelle müssten auf Risiken geprüft werden, forderte Dario Amodei in einem Blogbeitrag. Dabei solle es um Bereiche wie Cybersicherheit, Biowaffen und einen möglichen Verlust der Kontrolle über die Systeme gehen. Das umfasse auch eine automatisierte Weiterentwicklung der Software, die diese Risiken verstärken könnte.
Solche Untersuchungen könnten von einer Regierungsorganisation vorgenommen werden, die etwa einer Flugaufsicht ähnlich wäre, schrieb Amodei. Alternativ könnten es von der Regierung beauftragte private Prüfer sein. Anthropic spricht sich schon länger für eine stärkere Regulierung der KI-Industrie aus und wurde dafür bereits aus Teilen der KI-Branche und dem Weißen Haus kritisiert.
Anthropic ist mit seiner KI-Software Claude der schärfste Konkurrent des ChatGPT-Entwicklers OpenAI. Die Firma sorgte jüngst für Aufsehen mit dem KI-Modell Mythos, das zum Teil über Jahrzehnte unentdeckt gebliebene Schwachstellen in viel genutzter Software aufspüren kann. Das verstärkte die Sorge, dass Künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte.
Bundan Sonra Ne Olabilir?
Yapay zekâ öngörüsü — kesinlik taşımaz
Regierungen werden verstärkt über die Regulierung von KI-Entwicklungen diskutieren und möglicherweise neue Gesetzesentwürfe einbringen.
Çok muhtemel · Aylar içinde
Es könnte zu einer verstärkten Zusammenarbeit zwischen KI-Unternehmen und Regulierungsbehörden kommen, um Sicherheitsstandards zu definieren.
Muhtemel · Aylar içinde
Açık Sorular
- Welche spezifischen Kriterien würden für eine 'gefährliche KI' angesetzt?
- Wie würde eine solche staatliche Aufsichtsbehörde konkret aufgebaut und finanziert?
- Welche internationalen Kooperationsmechanismen sind für eine globale KI-Regulierung denkbar?
- Wie wird das Gleichgewicht zwischen Sicherheit und Innovationsfreiheit gewahrt?
