Pourquoi fait-on autant confiance aux IA Génératives ? Notre esprit critique est-il suffisamment alerte face aux réponses soignées que nous apportent Claude, ChatGPT ou Mistral ? Comment peut-on faire en sorte d’être plus vigilants ?
La réponse est bien présentée, le ton soigné, et notre interlocuteur s’adresse à nous agréablement. Autant d’éléments qui nous encouragent à croire en la véracité des informations proposées. Même si ces informations sont totalement fausses. Les IA génératives ont tout pour nous faire accepter leurs réponses sans que nous ne fassions preuve d’esprit critique vis à vis de celles- ci.
Et cela repose sur différents fondements cognitifs, la manière dont notre cerveau s’est construit et s’est développé au cours de l’histoire de l’humanité.
La vigilance épistémique
Le terme peut sembler compliqué, mais il reflète une réalité assez simple à appréhender, comme dans cette conférence d’Albert Moukheiber sur l’IA et les neurosciences : nous avons développé au cours de notre histoire un système de confiance vis à vis de nos interlocuteurs humains : ainsi, quand quelqu’un d’inconnu vient vous présenter une boisson magique qui vous permet de voler qu’il vend pour 500€, vous ne croirez pas cette personne. C’est la vigilance épistémique : nous savons que les autres êtres humains peuvent nous mentir. La problématique est que nous n’avons jamais eu à penser que les outils peuvent nous mentir : nous n’avons pas à douter lorsque le compteur de notre voiture affiche 80 km/h ou quand notre calculatrice nous indique que 48x14 font 672. Nous n’avons donc jamais développé notre vigilance épistémique vis-à-vis des machines, celle-ci ne s’active donc pas naturellement face aux réponses des IA génératives. Ainsi il est très difficile pour nous de détecter le mensonge dans les réponses des IA génératives, et donc par exemple de détecter les hallucinations des IA génératives. Et ceci est d’autant plus difficile que la forme des réponses des IA provoquent chez nous un sentiment de rationalité
Fluency heuristic
Dans un article de décembre 2025 sur les défis et stratégies pédagogiques dans l’enseignement supérieur à l’ère des IAG, Mostafa Dellale explique que les IA génératives exploitent un biais cognitif appelé “Fluency Heuristic” (qu’on pourrait traduire heuristique de fluidité en français) : les informations plus faciles à traiter ou à se rappeler (c'est-à-dire plus fluides) sont perçues comme plus vraies, fiables ou dignes de confiance. Ainsi, dans le domaine du langage, les énoncés plus faciles à lire ou à comprendre sont plus susceptibles d'être considérés comme vrais que ceux qui sont plus complexes ou difficiles à appréhender. Les réponses des IA génératives généralement bien structurées, avec un vocabulaire accessible, activent ce biais qui nous pousse plus facilement à croire des informations potentiellement fausses.
Comment développer l’esprit critique ?
Les compétences liées à la maîtrise de l’IA deviennent indispensables à une collaboration efficace être humain - machine, selon le consensus de Beijing sur l'intelligence artificielle et l’éducation de l’UNESCO. Il apparaît primordial d’éduquer les générations qui n’ont pas connu de monde sans smartphone voire même de monde sans IA génératives et d’entraîner la vigilance épistémique vis-à-vis des IA Génératives. Cela peut prendre la forme de différents exercices tels que :
- Débat IA vs IA : Deux groupes génèrent des arguments opposés sur un sujet controversé avec des IA génératives différentes, puis doivent démonter les arguments de l’autre groupe en identifiant biais, sources manquantes et hallucinations.
- Reverse prompt engineering : À partir d’un texte généré par une IA générative, les personnes doivent retrouver le prompt exact ou le reconstruire, révélant ainsi les limites et les angles morts de l’outil.