Démissions et alertes chez Anthropic : les risques existentiels de l'IA au cœur du débat

Le monde entier tremble sous la «menace» de l’IA depuis les déclarations alarmistes de Jacob Coxon, chercheur en intelligence artificielle qui a démissionné d’Anthropic la semaine dernière. «Aucune des deux entreprises (OpenAI et Anthropic, NDLR) n’agit de manière responsable. Elles foncent tout droit vers une superintelligence (…) et jouent avec nos vies», a-t-il écrit sur X.

L’un de ses anciens responsables, Evan Hubinger, à la tête du service d’«alignement» chez Anthropic, a renchéri peu après sa publication: «Jacob a raison, nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains! Je pense personnellement que (le risque est) supérieur à 10% dans la prochaine décennie.» Des petites phrases aussi étonnantes qu’assassines qui ont poussé tant Dario Amodei (patron d’Anthropic) que Sam Altman (OpenAI) à appeler à «réduire la cadence» du développement de l’IA ce week-end… trois ans après avoir signé un texte visant déjà à faire du risque d’extinction de l’humanité lié à…