Ex-OpenAI-Sicherheitsmitarbeiter wirft Firma Nachlässigkeit vor

Ein führender Sicherheitsmitarbeiter der KI-Firma OpenAI hat nach seiner Kündigung seinem ehemaligen Arbeitgeber Nachlässigkeit vorgeworfen.

Firmen wie OpenAI würden »nicht im Entferntesten vorsichtig genug« vorgehen, schrieb der Ex-Mitarbeiter David Robinson im US-Magazin The Atlantic. Er rief dazu auf, deutlich größere Sicherheitsstandards für die Entwicklung künstlicher Intelligenz (KI) zu etablieren.

Bisher habe OpenAI seine Produkte nach dem Prinzip »Versuch und Irrtum« entwickelt, schrieb Robinson. Fehler wurden demnach erst dann bereinigt, wenn sie nach Veröffentlichung eines neuen Sprachmodells auftraten. Diese Zeit sei nun vorbei: KI-Systeme seien inzwischen so mächtig, dass für sie ähnlich hohe Sicherheitsstandards wie bei anderen Hochrisikotechnologien gelten müssten. »KI-Spitzenforschung muss wie ein Atomkraftwerk oder ein geschäftiger Flughafen betrieben werden«, schrieb Robinson.