„Größte Bedrohung unserer Existenz“ – Fratzscher fordert staatliche Kontrolle von KI-Unternehmen

Der Präsident des Deutschen Instituts für Wirtschaftsforschung (DIW), Marcel Fratzscher, fordert, dass der Staat führende KI-Unternehmen mehrheitlich kontrolliert. Es sei „zentral, dass der Staat Eigentümer aller KI‑Frontier-Unternehmen und Infrastruktur wird“, sagte Fratzscher im Interview mit der „Süddeutschen Zeitung“.

„Ich halte KI für die potenziell größte Bedrohung unserer Existenz und eine größere Bedrohung, als Atomwaffen es jemals waren“, sagte Fratzscher. „Wir müssen die Gefahren ernst nehmen.“ Die Politik tue dies aus seiner Sicht nicht. Die Sicherheitsdebatte müsste das politische Top-Thema in Europa und Deutschland sein.

Die Ursache der Risiken sieht Fratzscher im Wettlauf um immer leistungsfähigere Modelle. Dieser führe zu Kontrollverlust. „Niemand hätte einen rein privatwirtschaftlichen Wettlauf um die effizienteste und modernste Atombombe akzeptiert“, sagte er. „Das sollten wir auch bei KI so handhaben.“ Der Staat hafte ohnehin für Risiken, die kein privates Unternehmen tragen könne. Daraus folge, dass er auch die volle Kontrolle ausüben müsse.

Die Forderung richtet sich gegen einen Teil der ökonomischen Debatte. Fratzscher halte es für das „völlig falsche Rezept“, lediglich mehr Wettbewerb zu schaffen, Gewinne umzuverteilen und stärker zu regulieren, wie es etwa Nobelpreisträger Joseph Stiglitz fordere.

Zu wenig Wettbewerb sei nicht das Problem, sondern zu viel Wettbewerb und privates Eigentum. Die Unternehmen hätten einen Anreiz, ihre Gewinne zu maximieren, sammelten enorme Summen Kapital ein, die Risiken würden dagegen sozialisiert. Eine Selbstregulierung der Branche funktioniere nicht.

Auf den Einwand, dass auch ein staatlich beteiligtes Unternehmen im internationalen Wettbewerb stehe, entgegnete Fratzscher, die Gesellschaft habe als staatlicher Eigentümer bessere Chancen, ihre Interessen durchzusetzen. „Die Regulierung muss von innen durchgesetzt werden.“

Der Staat solle vom ersten bis zum letzten Schritt beteiligt sein und existenzielle Risiken minimieren. „Klar ist: Das braucht globale Regeln und eine internationale Regulierungsbehörde“, so Fratzscher.

Unterdessen fordert Bundesdigitalminister Karsten Wildberger (CDU) von den großen KI-Konzernen mehr Sorgfalt bei der Sicherheit ihrer Modelle. „Ich hoffe aber, dass KI-Unternehmen wie OpenAI, Anthropic und Google ihrer Verpflichtung nachkommen, ihre Modelle sicher zu machen, und die Welt nicht als Testlabor benutzen“, sagte Wildberger dem Tagesspiegel.

Kontrollieren wolle die Bundesregierung das über ein eigenes KI-Sicherheitsinstitut, das gerade aufgebaut werde. Es solle KI-Modelle auf Leistungsfähigkeit und Risiken testen, sich international vernetzen und Zugriff auf neue Modelle bekommen, bevor diese auf den Markt kämen. So könne man Einfluss nehmen, sagte Wildberger, „bis hin zu der Frage: Erlauben wir ein KI-Modell in dieser Form?“

Laut Wildberger müssen die Unternehmen „mindestens genauso viel in Sicherheit investieren wie in die Entwicklung ihrer KI“. Wenn ein KI-Agent in fremde Systeme eindringt, müsse sich das Unternehmen sofort melden. Haften müssten die KI-Unternehmen selbst.

Bill Gates warnt

Schon Microsoft-Gründer Bill Gates warnte in dieser Woche vor KI: „Die Vorstellung, dass dies die gefährlichste Technologie ist, die der Mensch je erfunden hat, macht deutlich: Wir tun nicht genug“, sagte Gates in einem Interview mit dem US-Sender ABC NEws.

Speziell warnte er vor einer Zunahme von KI-gestützten Cyberangriffen im kommenden Jahr. Die Gefahr einer außer Kontrolle geratenen Künstlichen Intelligenz bestehe in den kommenden Jahren eher nicht, sagte Gates. Viel größer sei die Gefahr, dass „schlechte Menschen“ KI-Systeme ohne Schutzvorkehrungen für Cyberangriffe oder Bioterrorismus nutzten.

Um das zu verhindern, müssten die Systeme strenger reguliert werden, forderte Gates. „Aber im Moment ist es erlaubt, all diese Schutzmaßnahmen auszuschalten.“ „Wenn man also schlechte Menschen hat, keine Schutzmaßnahmen und dann die neuesten Modelle, dann werden wir im kommenden Jahr vor allem im Cyberbereich eine Menge negativer Überraschungen erleben“, sagte Gates in dem Fernsehinterview.