Dan Lahav über KI-Risiken: Exponentielle Entwicklung und Sicherheitsvorfälle bei Irregular

Dan Lahav testet die Risiken der weltbesten KI-Modelle. Im Podcast spricht der Irregular-Chef über neue Cyberfähigkeiten, existenzielle Gefahren und Vorfälle, in die seine Firma verwickelt war.

KI-Modelle, die immer besser im Hacking werden. Agenten, die aus ihren Testumgebungen entwischen. Und jetzt ein Anthropic-Forscher, der kündigt und sagt, die KI-Firmen spielten mit unseren Leben. Zahlreiche Ereignisse haben die Debatte um die Risiken von KI zuletzt enorm angeheizt.

Dramatische Konsequenzen hatten die Vorfälle bisher nicht. Sie werden laut Experten aber rasant wahrscheinlicher. Dan Lahav sagt: „Man sieht die Entwicklung und merkt: Oh Gott, das ist exponentiell“. Der Unternehmer aus Israel hat Einblicke wie wenig andere: Mit seiner Firma Irregular testet er für Firmen wie OpenAI, Anthropic und Meta die Risiken von KI-Systemen, bevor sie veröffentlicht werden.

In der neuen Folge von „Handelsblatt Disrupt“ hat Podcast-Host Larissa Holzki mit ihm über Sicherheitsvorfälle gesprochen, in die seine Firma selbst verwickelt war. Über die Wahrscheinlichkeit existenzieller Katastrophen. Und über die Frage, ob sie noch zu verhindern sind.

Das exklusive Abo-Angebot für alle Hörerinnen und Hörer von Handelsblatt Disrupt: https://www.handelsblatt.com/mehrwirtschaft

Haben Sie Fragen, Kritik oder Anregungen? Dann treten Sie unserer Handelsblatt Disrupt LinkedIn-Gruppe bei und schreiben Sie uns unter: https://www.linkedin.com/groups/8836249/

Sie können Larissa Holzki via LinkedIn (Larissa Holzki) oder per Mail [email protected] kontaktieren.

Weitere Informationen zu Werbeeinblendungen

Veröffentlicht nach den redaktionellen Standards des Handelsblatts. Mehr Informationen finden Sie in unseren Richtlinien.

Unsere Partner Anzeige

remind.me Jetziges Strom-/Gaspreistief nutzen, bevor die Preise wieder steigen