Pourquoi l’IA vous répond parfois des choses fausses avec un aplomb parfait

L’histoire de l’avocat qui n’avait rien vérifié

Il y a quelques années, un avocat américain a remis au juge un dossier truffé de décisions de justice… qui n’existaient pas. ChatGPT les avait inventées, avec les numéros d’affaires et les citations. L’avocat n’avait rien contrôlé. L’histoire a fait le tour du monde, et elle résume tout : l’IA peut se tromper avec un aplomb déconcertant, sans jamais montrer le moindre doute.

Ce phénomène porte un nom : on parle d’« hallucination ». Le mot est un peu fort, mais il décrit bien la chose. L’IA produit une information qui semble solide, bien rédigée, parfaitement plausible… et qui est fausse. Pas par malice, ni par panne. Par construction. C’est ce mécanisme qu’il faut comprendre pour l’utiliser sereinement.

Une machine à deviner la suite, pas une encyclopédie

Une IA comme ChatGPT, Claude, Gemini ou Mistral ne va pas chercher la réponse dans une base de faits vérifiés. Elle a lu d’immenses quantités de textes pendant sa préparation et en a retenu des régularités. Quand vous lui posez une question, elle compose la suite la plus probable, mot après mot. Le résultat est souvent juste. Mais « probable » ne veut pas dire « vrai ».

Voilà pourquoi l’erreur est structurelle, et pas un simple défaut de jeunesse. Quand l’IA connaît bien un sujet, la suite probable colle à la réalité. Quand elle le connaît mal, elle comble les trous avec ce qui ressemble le plus à une bonne réponse : un nom crédible, une date plausible, un chiffre rond. Le ton, lui, reste toujours aussi assuré.

Pourquoi elle ne dit presque jamais « je ne sais pas »

Un collaborateur honnête vous dirait : « là, je ne suis pas sûr ». L’IA, elle, a été entraînée à répondre. Produire une réponse complète et fluide, c’est son travail. Reconnaître son ignorance ne fait pas partie de ses réflexes naturels, même si les versions récentes progressent sur ce point. Elle préférera souvent une réponse inventée à un aveu de faiblesse.

Ajoutez à cela un piège bien humain : nous faisons confiance à ce qui est bien écrit. Une réponse structurée, sans faute, au vocabulaire précis, inspire confiance. C’est exactement ce que l’IA produit, y compris quand elle se trompe. La forme impeccable masque le fond incertain. Méfiez-vous donc du style : il ne prouve rien.

Les terrains où elle glisse le plus

Certaines questions sont plus risquées que d’autres. Les chiffres précis, d’abord : tarifs, taux, seuils réglementaires, dates d’entrée en vigueur. Les références ensuite : articles de loi, normes, études, ouvrages. Les personnes enfin : l’IA peut attribuer à quelqu’un un poste, une citation ou un parcours inventés. Plus la question est pointue et récente, plus le risque monte.

À l’inverse, elle est très fiable pour tout ce qui relève de la reformulation : résumer un document que vous lui donnez, améliorer un courrier, structurer des idées, traduire. Là, elle travaille sur votre matière, pas sur sa mémoire. Cette distinction simple évite l’essentiel des ennuis. Retenez-la : elle guide tous les bons usages.

Trois réflexes qui vous protègent

Premier réflexe : vérifiez tout fait que vous comptez réutiliser. Un chiffre qui part dans un devis, une règle fiscale citée à un client, une date dans un contrat : deux minutes de contrôle sur un site officiel valent mieux qu’une erreur embarrassante. Traitez la réponse de l’IA comme le brouillon d’un stagiaire brillant : utile, rapide, mais à relire.

Deuxième réflexe : demandez les sources. « D’où vient ce chiffre ? Peux-tu me citer ta source ? » Si l’IA reste vague, méfiance. Certains outils s’appuient désormais sur une recherche en ligne et affichent des liens : cliquez dessus, car il arrive que la page citée ne dise pas du tout ce que l’IA lui fait dire.

Troisième réflexe : relisez les chiffres en dernier, à tête reposée. C’est là que l’œil glisse et que les erreurs passent. Montants, pourcentages, dates : isolez-les et contrôlez-les un par un avant d’envoyer quoi que ce soit. Sur un tableau, refaites au moins un calcul à la main. Une habitude de trente secondes qui a déjà sauvé bien des courriers.

Un outil formidable, à condition de rester le patron

Faut-il renoncer à l’IA pour autant ? Certainement pas. Elle fait gagner un temps réel sur la rédaction, les idées, l’organisation. Des millions de professionnels s’en servent chaque jour sans incident, précisément parce qu’ils lui donnent la bonne place : celle d’un assistant rapide et cultivé, pas celle d’un expert qui engagerait votre responsabilité à votre place.

La règle tient en une phrase : plus une information peut vous coûter cher si elle est fausse, plus elle mérite vérification. Pour le reste, laissez l’IA travailler. C’est vous qui signez, c’est donc vous qui vérifiez. Cette vigilance-là, aucune machine ne la remplacera, et elle vaut d’ailleurs pour bien d’autres choses que l’IA.