1 oct. 2026 · Pascal Froment
En bref : l’intelligence artificielle telle qu’on l’utilise aujourd’hui (ChatGPT, Claude, Gemini) ne pense pas. Un modèle de langage (LLM) prédit le mot suivant le plus probable. Deux choses nous font croire le contraire : le mot « intelligence », choisi en 1955 pour nommer un projet de recherche, et notre tendance à l’anthropomorphisme, connue sous le nom d’effet ELIZA.
Un mot qui pense à notre place
Une IA ne pense pas. Elle calcule le mot suivant le plus probable. Pourtant, un seul mot suffit à nous faire croire le contraire : « intelligence ».
Quand on dit « intelligence artificielle », on n’entend pas « statistique avancée ». On entend « quelqu’un ». Et ce glissement change tout : la confiance qu’on accorde, les peurs qu’on nourrit, les décisions qu’on prend.
Je ne m’énerve pas. J’explique.
Ce qu’on croit : si l’IA parle bien, elle pense
L’idée reçue tient en une phrase : si la machine parle comme nous, c’est qu’elle pense comme nous.
Elle n’est pas absurde. Un assistant qui répond avec nuance, s’excuse, fait de l’humour et semble « comprendre » votre question donne toutes les apparences d’un esprit. Jusqu’ici, seuls des humains savaient faire ça. Notre cerveau applique donc la règle qui a toujours fonctionné : qui parle bien pense bien.
Le problème, c’est que cette règle n’a jamais été testée face à une machine.
Ce qu’on sait : l’intelligence artificielle, un mot de 1955
Le mot date de 1955 et nomme un projet, pas un résultat. L’expression « artificial intelligence » apparaît dans la proposition de recherche du projet d’été de Dartmouth, datée du 31 août 1955. Elle est signée John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon (AI Magazine). McCarthy cherchait un nom pour un nouveau champ de recherche, qu’il présentait à la fondation Rockefeller pour financer un séminaire d’été. Le mot décrivait une ambition, pas un résultat.
Un modèle de langage prédit, il ne pense pas. Un LLM (ChatGPT, Claude, Gemini) est entraîné sur d’immenses volumes de texte. Il apprend quelles suites de mots sont probables. Quand il répond, il produit, mot après mot, la suite la plus plausible compte tenu de ce qui précède.
- Il n’a pas d’intention : il ne « veut » rien dire.
- Il n’a pas d’expérience du monde : il n’a jamais vu une pomme, il a lu des millions de phrases sur les pommes.
- Il n’a pas de rapport à la vérité : une réponse fausse mais plausible est, pour lui, une bonne réponse.
En 2021, la linguiste Emily Bender et ses co-autrices ont résumé cette idée par une image : le « perroquet stochastique », qui assemble des formes de langage sans accès au sens (ACM FAccT 2021).
Parler bien n’est pas penser. C’est exactement ce qu’on surestime. La fluidité du langage est le signal que notre cerveau associe à l’intelligence. Les LLM sont optimisés pour produire ce signal.
Le biais en jeu : l’anthropomorphisme et l’effet ELIZA
L’anthropomorphisme, c’est prêter des intentions, des émotions ou une pensée humaines à ce qui n’est pas humain. On le fait avec son chat, sa voiture, son GPS. Avec une machine qui parle, l’effet est décuplé.
1966 : l’effet ELIZA. Joseph Weizenbaum, au MIT, écrit ELIZA, un programme qui imite un psychothérapeute. Il ne comprend rien : il reformule les phrases de l’utilisateur par simple repérage de mots-clés (Communications of the ACM, 1966). Pourtant, des utilisateurs s’y attachent émotionnellement. Weizenbaum raconte que sa propre secrétaire, qui l’avait vu programmer pendant des mois, lui a demandé de quitter la pièce pour parler seule avec la machine (Smithsonian). Ce phénomène porte depuis son nom : l’effet ELIZA.
Nuance honnête : cette anecdote vient du seul Weizenbaum, la secrétaire n’a jamais été identifiée et ses récits varient selon les versions (Weizenbaum Institut). L’attachement des utilisateurs à ELIZA, lui, est largement documenté.
2022 : l’ingénieur et LaMDA. Blake Lemoine, ingénieur chez Google, affirme après des milliers d’échanges que le modèle conversationnel LaMDA est devenu sensible. Google juge ses affirmations sans fondement et le licencie en juillet 2022, en invoquant la violation de règles de confidentialité (CNN). La communauté scientifique, dans sa grande majorité, a également rejeté l’idée.
La leçon est la même à 56 ans d’écart : connaître la machine ne protège pas du biais. Une secrétaire qui avait vu le code, un ingénieur qui travaillait dessus. Le biais ne vient pas de l’ignorance, il vient de notre façon de percevoir le langage.
Fait, opinion, inconnu
Tout n’a pas le même statut. Les séparer est le cœur de la série.
| Affirmation | Statut |
|---|---|
| Le terme « intelligence artificielle » date de la proposition de Dartmouth (1955) | Fait |
| Un LLM produit du texte en prédisant la suite la plus probable | Fait |
| Les humains attribuent spontanément des intentions aux machines qui parlent | Fait documenté depuis ELIZA |
| Les LLM actuels ne sont pas conscients | Consensus très large, pas une preuve formelle |
| Les LLM ne sont que des « perroquets » sans aucune représentation interne | Débattu : certains chercheurs observent des représentations internes structurées |
| Une machine pourra un jour penser | Inconnu : personne ne sait définir ni mesurer la conscience de façon consensuelle |
| Le mot « intelligence » est trompeur pour le grand public | Opinion (la mienne), argumentée ci-dessus |
Dire « une IA ne pense pas » n’est donc pas dire « une IA est inutile ». Elle est souvent très performante. Elle n’est simplement pas quelqu’un.
Pour voir ce que ces modèles changent concrètement dans la fabrication du logiciel : Software 3.0.
À retenir
Une IA parle comme nous. Ça ne veut pas dire qu’elle pense comme nous.
En pratique : vérifier ce qu’elle affirme, ne pas lui confier ce qui exige du jugement sans contrôle humain, et ne pas confondre aisance et fiabilité.
Une question pour finir : qu’est-ce qui te prouverait qu’une IA ne pense pas ? Et qu’est-ce qui te prouverait qu’elle pense ?
Rien ne peut te faire changer d’avis ? Alors tu ne sais pas. Tu crois.
Questions fréquentes
L’intelligence artificielle pense-t-elle ?
Non, pas au sens humain. Un LLM produit la suite de mots la plus probable : il n’a ni intention, ni expérience du monde, ni rapport à la vérité. Le fait qu’aucun LLM actuel ne soit conscient relève d’un consensus très large, pas d’une preuve formelle.
D’où vient l’expression « intelligence artificielle » ?
De la proposition de recherche du projet d’été de Dartmouth, datée du 31 août 1955 et signée John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon. Le terme nommait une ambition, pas un résultat.
Qu’est-ce que l’effet ELIZA ?
C’est la tendance à prêter compréhension et intentions à un programme qui parle. Il tient son nom d’ELIZA, programme écrit par Joseph Weizenbaum au MIT en 1966, qui reformulait les phrases de l’utilisateur par simple repérage de mots-clés.
Qu’est-ce qu’un « perroquet stochastique » ?
Une image proposée en 2021 par la linguiste Emily Bender et ses co-autrices (ACM FAccT) : un modèle qui assemble des formes de langage sans accès au sens. L’image reste débattue, certains chercheurs observant des représentations internes structurées.
Sources
- McCarthy, Minsky, Rochester, Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, 31 août 1955, republié dans AI Magazine 27(4), 2006
- Dartmouth workshop, Wikipedia
- Bender, Gebru, McMillan-Major, Shmitchell, On the Dangers of Stochastic Parrots, ACM FAccT 2021
- Weizenbaum, ELIZA, Communications of the ACM 9(1), 1966 — synthèse : ELIZA, Wikipedia
- Why the Computer Scientist Behind the World’s First Chatbot Dedicated His Life to Publicizing the Threat Posed by A.I., Smithsonian Magazine
- Celebrating 60 Years of ELIZA? Critical Pasts and Futures of AI, Weizenbaum Institut
- Google fires engineer who contended its AI technology was sentient, CNN, 23 juillet 2022