DarkGPT, modèles militarisés, agents «débridés»… Sur les marchés noirs, les cybercriminels s’arrachent les nouvelles IA clandestines
Quick Look
Face aux alertes sur les risques existentiels de l'intelligence artificielle, des chercheurs français tentent de distinguer les dangers réels des récits apocalyptiques, tandis qu'un ancien chercheur d'Anthropic affirme que les développeurs ne savent pas empêcher les modèles de se fixer leurs propres objectifs.
AI-generated summary
Why It Matters
Les alertes sur les risques existentiels liés au développement des IA se multiplient ces derniers mois, avec des scénarios apocalyptiques populaires dans la Silicon Valley.
À lire aussi
Entre fantasmes et risque d’« IApocalypse », les vraies menaces de l’intelligence artificielle au crible des chercheurs français
ENQUÊTE - Ces derniers mois, les alertes sur les risques existentiels liés au développement des IA se multiplient. Tandis que la Silicon Valley agite le spectre d’une machine incontrôlable, chercheurs français et experts tentent de séparer le danger réel du récit apocalyptique.
IA : les développeurs ne savent pas comment empêcher les modèles de se fixer leurs propres objectifs, selon un ancien chercheur d’Anthropic
Jacob Coxon, qui avait claqué la porte d’Anthropic début septembre, estimant que l’IA « pourrait nous tuer tous d’ici la fin de la décennie», était auditionné ce lundi à New-York.
What to Watch
AI outlook — possibilities, not facts
Les débats sur la sécurité de l'IA continueront de s'intensifier avec des appels à une réglementation plus stricte.
Likely · Within months
Open Questions
- Quelles sont les menaces réelles et concrètes de l'IA selon les chercheurs français ?
- Comment distinguer les risques avérés des récits spéculatifs ?
- Quelles solutions techniques existent pour empêcher les modèles de se fixer leurs propres objectifs ?
