« Ils veulent nous soumettre à un maître » : l’ex-responsable de l’éthique de Meta charge les géants de l’IA
Jacob Coxon, ancien chercheur chez Anthropic, alerte sur les risques existentiels liés à l'intelligence artificielle.
Quick Look
Jacob Coxon, ancien chercheur chez Anthropic, a témoigné à New York sur l'incapacité actuelle des développeurs à contrôler les objectifs autonomes des IA, soulignant des risques existentiels majeurs d'ici la fin de la décennie.
AI-generated summary
Why It Matters
Le développement rapide des IA génère des débats sur les risques existentiels potentiels. Des experts tentent de distinguer les menaces réelles des récits alarmistes.
Entre fantasmes et risque d’« IApocalypse », les vraies menaces de l’intelligence artificielle au crible des chercheurs français.
ENQUÊTE - Ces derniers mois, les alertes sur les risques existentiels liés au développement des IA se multiplient. Tandis que la Silicon Valley agite le spectre d’une machine incontrôlable, chercheurs français et experts tentent de séparer le danger réel du récit apocalyptique.
IA : les développeurs ne savent pas comment empêcher les modèles de se fixer leurs propres objectifs, selon un ancien chercheur d’Anthropic.
Jacob Coxon, qui avait claqué la porte d’Anthropic début septembre, estimant que l’IA « pourrait nous tuer tous d’ici la fin de la décennie», était auditionné ce lundi à New-York.
Open Questions
- Quelles mesures techniques concrètes sont envisagées pour limiter l'autonomie des IA ?
- Quelle est la réaction officielle d'Anthropic face à ces accusations ?
