KI-Risiken und die Warnung von Professor Bengio

Montreal. Professor Bengio, Sie warnen seit Jahren vor den Risiken durch KI. Aber erst jetzt wird breit diskutiert, dass KI-Systeme gefährliche Hacking-Fähigkeiten haben und Menschen die Kontrolle verlieren könnten. Warum?

Bisher ging es um abstrakte Ideen. Jetzt aber haben wir konkrete und sehr beeindruckende Belege, dass KIs – insbesondere KI-Agenten – ihre eigenen Ziele haben. Manchmal widersprechen diese Ziele unseren Anweisungen. Und die Systeme sind inzwischen mächtig genug, um Barrieren zu durchbrechen, mit denen wir sie zu kontrollieren versuchen.

Sie haben diese Technologie mit erschaffen. Ohne Ihre grundlegende Forschung zum Deep Learning, also künstlichen neuronalen Netzen, wäre die heutige KI-Revolution nicht möglich gewesen.

Neuronale Netze sind vom menschlichen Gehirn inspiriert und der Weg, wie KI-Systeme heute lernen. Anfang der 2000er-Jahre haben wir Wege gefunden, immer größere Modelle damit zu trainieren. Diese Methode hat alle anderen Verfahren im maschinellen Lernen und schließlich in der gesamten KI überholt. Außerdem hat meine Gruppe das wohl erste Paper dazu geschrieben, wie man Modelle mit Texten trainieren kann, das nächste Wort vorherzusagen und die Bedeutung von Wörtern zu lernen. Viele Jahre war ich davon begeistert, wie schnell wir Fortschritte gemacht haben – bis ich erkannt habe, dass der Fortschritt auch erhebliche negative Auswirkungen haben könnte.