Une nouvelle petite phrase alarmiste, cette fois venant d’un des pères de l’informatique. Dans une interview donnée à NBC News, Bill Gates a estimé que l’IA pourrait, dans un scénario catastrophiste, «entraîner la mort d’un milliard de personnes». En cause, sa «puissance» démesurée et la capacité qu’ont des acteurs malveillants à utiliser l’intelligence artificielle.
«L’IA est certainement assez puissante pour conduire à des événements qui pourraient faire un milliard de morts», a déclaré le milliardaire américain. «Même si l’on ne peut pas affirmer avec certitude que cela arrivera, aucune arme ne s’est avérée aussi puissante que des outils d’IA avancés utilisés par des individus malintentionnés».
Passer la publicité
Une déclaration qui survient alors qu’une partie de la Silicon Valley demande depuis des mois de renforcer la régulation sur l’IA, estimant que celle-ci n’est pour l’heure pas assez «alignée» avec les valeurs humaines. Jacob Coxon, un ancien employé d’Anthropic, avait même jugé en démissionnant de son entreprise il y a moins d’un mois que l’IA pourrait «tous nous tuer d’ici la fin de la décennie». Ces prédictions ne sont pas nouvelles: depuis des années, les «doomers», soit les individus estimant que l’«apocalypse IA» est proche, alertent sur le fait qu’une «superintelligence» à venir pourrait poursuivre ses propres objectifs et asservir, voire détruire, l’humanité.
À lire aussi Désalignement, chaîne de pensées, auto-amélioration récursive, singularité… Tout comprendre à ces enjeux d’IA susceptibles de «mener l’humanité à sa perte»
«Cela doit devenir une obligation»
«Il faut que les forces de l’ordre et les responsables politiques prennent part aux discussions sur ce que doivent être les garde-fous et les mécanismes de surveillance» des IA, a martelé Bill Gates chez NBC News, dans une interview vidéo à paraître dimanche. «Et cela doit devenir une obligation. Cela entraînera un coût supplémentaire pour le secteur, mais cela ne freinera pas les activités» du secteur, a-t-il estimé. Ces dernières semaines, les cas d’évasion d’agents IA se sont multipliés, certains d’entre eux accédant à Internet et piratant des entreprises telles que Hugging Face. «Personne ne croit au fait que l’autorégulation suffira», a-t-il aussi ajouté.
Mercredi, le PDG d’OpenAI, Sam Altman, s’est exprimé devant les Nations unies, appelant également à l’élaboration de normes internationales permettant de «mesurer les capacités, évaluer les risques, déterminer si les garde-fous sont suffisants et préserver une supervision humaine» de l’IA.
Le fondateur et PDG de Meta, Mark Zuckerberg, s’est lui opposé à cette approche. «Je ne pense pas que nous ayons besoin d’une quelconque coordination», a-t-il déclaré à NBC News dans une interview publiée jeudi. «Je pense que chaque laboratoire doit prendre le temps nécessaire (pour réguler) et, lorsqu’il identifie des problèmes, prendre le temps dont il a besoin en interne pour s’assurer qu’il progresse de manière sûre.» Pour l’heure, la question n’est donc pas tranchée.
