Les agents IA autonomes vont-ils remplacer les experts ? Plus l’IA devient capable d’agir seule, plus la part humaine devient critique : pas celle qui exécute, celle qui fixe le cap.
Ce que vous allez voir (7 min)
- 0:00 Introduction
- 0:26 Deux IA qui n’ont rien à voir : modèle de langage probabiliste ou moteur spécialisé
- 1:26 De la réponse à l’action : la boucle agentique
- 2:03 L’essaim d’agents : un orchestrateur, des sous-agents spécialisés (exemple Claude Code)
- 3:22 Le mythe de l’IA débridée : une autonomie toujours conditionnelle
- 3:48 Le vrai danger : optimiser parfaitement le mauvais objectif (CoastRunners, loi de Goodhart)
- 5:08 Les trois leviers humains : Direction, Alignement, Gouvernance
- 6:28 Conclusion
À retenir
- Un LLM produit du plausible ; un moteur spécialisé calcule dans un domaine fermé.
- Un agent ne répond pas : il agit, en boucle.
- Un essaim = un orchestrateur + des sous-agents spécialisés.
- Le risque : optimiser parfaitement le mauvais objectif.
- L’humain garde la Direction, l’Alignement et la Gouvernance ; l’AI Act (article 14) impose un contrôle humain effectif des systèmes à haut risque.
Sources
- Clark & Amodei (2016), Faulty reward functions in the wild — OpenAI
- Krakovna et al. (2020), Specification gaming — DeepMind
- Amodei et al. (2016), Concrete Problems in AI Safety
- Ngo, Chan & Mindermann (2024), The Alignment Problem from a Deep Learning Perspective (ICLR)
- Ji et al. (2023), AI Alignment: A Comprehensive Survey
- Strathern (1997), « Improving ratings »: audit in the British University system, European Review 5(3)
- Shihipar (2025), Building agents with the Claude Agent SDK — Anthropic
- Hadfield et al. (2025), How we built our multi-agent research system — Anthropic
- Claude Code — sous-agents
- Claude Code — GitHub Actions
- OWASP (2025), Top 10 for Agentic Applications for 2026
- Règlement (UE) 2024/1689 (AI Act), article 14
- NIST (2023), AI Risk Management Framework 1.0
- Agudo et al. (2024), The impact of AI errors in a human-in-the-loop process
- Stockfish
Voix off : voix de synthèse clonée de l’auteur. Musique générée, libre de droits. Les probabilités et évaluations affichées à l’écran sont illustratives.
