L’IA ne remplace pas l’élite : elle la redéfinit (vidéo)

Les agents IA autonomes vont-ils remplacer les experts ? Plus l’IA devient capable d’agir seule, plus la part humaine devient critique : pas celle qui exécute, celle qui fixe le cap.

Ce que vous allez voir (7 min)

• 0:00 Introduction
• 0:26 Deux IA qui n’ont rien à voir : modèle de langage probabiliste ou moteur spécialisé
• 1:26 De la réponse à l’action : la boucle agentique
• 2:03 L’essaim d’agents : un orchestrateur, des sous-agents spécialisés (exemple Claude Code)
• 3:22 Le mythe de l’IA débridée : une autonomie toujours conditionnelle
• 3:48 Le vrai danger : optimiser parfaitement le mauvais objectif (CoastRunners, loi de Goodhart)
• 5:08 Les trois leviers humains : Direction, Alignement, Gouvernance
• 6:28 Conclusion

À retenir

• Un LLM produit du plausible ; un moteur spécialisé calcule dans un domaine fermé.
• Un agent ne répond pas : il agit, en boucle.
• Un essaim = un orchestrateur + des sous-agents spécialisés.
• Le risque : optimiser parfaitement le mauvais objectif.
• L’humain garde la Direction, l’Alignement et la Gouvernance ; l’AI Act (article 14) impose un contrôle humain effectif des systèmes à haut risque.

Sources

• Clark & Amodei (2016), Faulty reward functions in the wild — OpenAI
• Krakovna et al. (2020), Specification gaming — DeepMind
• Amodei et al. (2016), Concrete Problems in AI Safety
• Ngo, Chan & Mindermann (2024), The Alignment Problem from a Deep Learning Perspective (ICLR)
• Ji et al. (2023), AI Alignment: A Comprehensive Survey
• Strathern (1997), « Improving ratings »: audit in the British University system, European Review 5(3)
• Shihipar (2025), Building agents with the Claude Agent SDK — Anthropic
• Hadfield et al. (2025), How we built our multi-agent research system — Anthropic
• Claude Code — sous-agents
• Claude Code — GitHub Actions
• OWASP (2025), Top 10 for Agentic Applications for 2026
• Règlement (UE) 2024/1689 (AI Act), article 14
• NIST (2023), AI Risk Management Framework 1.0
• Agudo et al. (2024), The impact of AI errors in a human-in-the-loop process
• Stockfish

Voix off : voix de synthèse clonée de l’auteur. Musique générée, libre de droits. Les probabilités et évaluations affichées à l’écran sont illustratives.