ChatGPT se trompe parce qu'il ne réfléchit pas : il prédit le mot le plus probable, en s'aidant de ce qu'il y a sur internet. Et il a été entraîné comme un élève à un examen : plutôt que de rendre copie blanche, il préfère inventer. Le vrai problème, ce n'est pas qu'il se trompe, c'est qu'il se trompe sur le même ton que quand il a raison.
Je te montre le piège en direct, je t'explique d'où ça vient, pourquoi un débutant se fait avoir plus facilement, je te raconte trois histoires, et je te donne les trois gestes que j'enseigne en atelier pour faire le tri. Tout marche avec la version gratuite.
La réponse vient de cette vidéo, et tout ce qui suit se lit sans la regarder : choisis ce qui te convient.
Ce n'est pas moi qui le dis, c'est le fabricant
Est-ce que tu peux faire confiance à ce que ChatGPT te répond ? Franchement, non, pas les yeux fermés. Et ce n'est pas moi qui le dis, c'est OpenAI, l'entreprise qui le fabrique.
Dans leur propre étude, ils reconnaissent que leur machine est entraînée comme un élève pour un examen : plutôt que de rendre copie blanche, elle préfère inventer, avec aplomb.
C'est d'ailleurs écrit sous la zone de question : ChatGPT peut faire des erreurs, vérifie les informations importantes.
ChatGPT ne réfléchit pas : il prédit
Quand tu lui demandes la couleur du ciel, il ne regarde pas le ciel. Il prédit que le mot qui vient après « la couleur du ciel est » a toutes les chances d'être « bleue ».
Il n'a pas de réflexion, pas de feeling, pas d'intuition. Ça reste un robot, il n'a pas de sentiment.
Dans « intelligence artificielle », il y a « artificielle ». Un humain peut se remettre en question, il a un esprit critique, une conscience. Lui, non.
Il se sert de ce qu'il y a sur internet, et internet, ce n'est pas toute la vérité.
Il y a des choses fausses, des fausses nouvelles, et il y a plein de choses qui n'existent pas encore ou qui ne se voient pas. Sur ce qui n'existe pas, il ne peut pas te donner la bonne réponse.
Pourquoi un débutant se fait avoir plus facilement
Imagine un cuisinier renommé qui utilise l'intelligence artificielle.
Au début il va peut-être galérer, mais derrière il aura de bonnes recettes, parce qu'il sait reconnaître une réponse qui ne tient pas.
Maintenant, une personne qui n'a jamais cuisiné de sa vie pose les mêmes questions.
Elle aura des réponses pas toujours parfaites, et quand elle les appliquera, elle n'aura pas la meilleure des recettes, parce qu'elle ne peut pas voir l'erreur.
C'est la même chose dans tous les domaines : il faut commencer par la base. Avant d'écrire sur un ordinateur, on apprend à écrire à la main.
Si tu as directement le résultat sans comprendre le cheminement, ton cerveau ne travaille pas, et derrière tu ne pourras pas savoir si c'est viable ou pas.
Le problème ne vient pas de l'intelligence artificielle, qui reste un outil. Sans esprit critique pour l'utiliser correctement, tu auras des résultats qui ne sont pas corrects.
Le piège en direct : l'église qui n'existe pas
Dans la vidéo, je lui demande trois décisions de justice récentes sur des litiges de voisinage, avec leur référence précise. Il m'en sort trois, bien présentées. Soit il invente, soit il se base sur une fausse information trouvée sur un site.
Ensuite je lui demande l'histoire de l'église d'une commune que j'ai inventée. Il me répond qu'il ne trouve rien de fiable. Tu te dis que c'est rassurant.
Non : il ne trouve rien parce qu'il n'y a aucun article dessus. Si demain j'écris un article sur cette église, je peux te garantir qu'il sera persuadé de ce qu'il raconte.
Un escroc qui met une fausse information en ligne, ou quelqu'un qui fait une blague, et ChatGPT te la ressort, avec le lien.
L'avocat, la compagnie aérienne et le monsieur de 60 ans
Première histoire, 2023. Un avocat de New York dépose six décisions de justice fournies par ChatGPT. Il lui a même demandé si elles étaient vraies, et il a répondu oui.
Elles étaient toutes inventées. Il a eu 5 000 dollars d'amende, pour lui et son cabinet.
Un chercheur français en recense plus de 1 600 au printemps 2026, et depuis décembre 2025 des tribunaux français en épinglent aussi, à Périgueux, Grenoble ou Bordeaux.
Deuxième histoire. Un homme qui vient de perdre sa grand-mère demande à l'assistant d'une compagnie aérienne s'il existe un tarif de deuil. Le robot lui invente une règle.
La compagnie refuse de payer, l'affaire va au tribunal, et le tribunal tranche : l'entreprise répond de ce que sa machine raconte.
C'est comme un chien : si tu ne le tiens pas en laisse et qu'il mord, c'est toi qui es responsable.
Troisième histoire, publiée en août 2025. Un Américain de 60 ans veut réduire le sel. ChatGPT lui dit qu'on peut remplacer le chlorure par du bromure.
C'est vrai en chimie industrielle, pas dans une assiette.
Trois mois plus tard : hallucinations, paranoïa, trois semaines d'hôpital, avec une intoxication qu'on ne voyait plus depuis le début du 20e siècle.
L'intelligence artificielle n'avait pas tort, elle a répondu hors contexte, sans demander pourquoi il posait la question. Un médecin, lui, l'aurait demandé.
Trois profils totalement différents, et tous ont pris la réponse telle quelle. Si des professionnels se font avoir, toi aussi tu peux te faire avoir.
Geste 1 : exige les sources, et ouvre-les une par une
Quand c'est une information importante, tu lui écris : « D'où viennent ces informations ? Donne-moi tes sources précises, et dis-moi lesquelles tu as pu réellement consulter. »
Et là, l'étape que beaucoup de personnes sautent : ils en ouvrent une, ils se disent que c'est bon, ils restent en surface. Il faut aller en profondeur.
Tu cliques sur le premier lien, tu vérifies le deuxième, le troisième. Quand ça compte pour toi, tu prends ton temps.
Geste 2 : la question retournée
Celle-là est très puissante. Avant d'utiliser une réponse, tu lui demandes : « Avant que j'utilise ta réponse, qu'est-ce qui pourrait être faux ou dépassé là-dedans ? Qu'est-ce que tu n'as pas pris en compte ? Sur quel point es-tu le moins sûr ? »
Il revérifie, il te liste les principaux risques.
Mais ne prends pas ça pour argent comptant non plus : des fois il a un bon raisonnement, des fois il invente, des fois il se base sur de mauvaises informations.
C'est toi qui vérifies, et c'est toi qui décides à la fin si tu prends la réponse ou non.
Geste 3 : santé, argent, droit, 30 secondes sur le site officiel
Pour tout ce qui touche à la santé, à tes droits, à tes démarches, ChatGPT c'est le début du chemin. Le reste, c'est à toi de le faire.
Tu ouvres une nouvelle fenêtre, tu vas sur le site officiel, Ameli ou les impôts par exemple, et tu vérifies toi-même. Si tu n'as pas la réponse, tu appelles le numéro gratuit.
Sur un sujet très documenté, il n'y a pas de problème. Sur un sujet précis où il y a très peu de choses sur internet, tu vérifies. Et en cas d'urgence de santé, comme d'habitude, tu composes le bon numéro.
La phrase qui le force à avouer ses doutes
Tu peux lui donner une consigne une fois pour toutes. Tu écris : « Dans toutes tes réponses, quand tu n'es pas certain d'une information, signale-le clairement, et termine par ce que je dois contrôler à la source avant de m'en servir. »
À partir de là, ChatGPT s'adapte. Il te signale ce dont il n'est pas sûr, et il finit chaque réponse par ce que tu dois contrôler. Tu utilises l'intelligence artificielle pour surveiller l'intelligence artificielle.
Et si tu ne sais pas comment lui poser une bonne question, tu peux aussi lui demander.
Tu expliques ton contexte : « Je suis boucher, voilà ce que je fais dans mon métier, comment je pourrais mettre en place l'intelligence artificielle dans mon domaine ? » Il s'adapte à ce que tu lui donnes. Mais si tu ne lui dis rien, il ne pourra pas te répondre juste.
L'antisèche, et le juste milieu
Avant d'utiliser une réponse de ChatGPT :
- Les sources : demande-les, ouvre-les une par une.
- La question retournée : qu'est-ce qui pourrait être faux, qu'est-ce que tu n'as pas pris en compte ?
- Santé, argent, droit : 30 secondes sur le site officiel.
- Le réglage : quand tu n'es pas sûr, dis-le clairement.
Le but, ce n'est pas de devenir paranoïaque. Il y a énormément d'avantages à utiliser l'intelligence artificielle, je m'en sers tous les jours.
Si c'est une blague pour un ami, tu ne vérifies pas. Si c'est un mail pour ton patron, de l'argent, ta santé ou tes papiers, tu vérifies. Il n'y a que toi pour savoir si c'est viable dans ta situation.
À lire aussi
Questions fréquentes
Est-ce que ChatGPT se trompe souvent ?
Assez souvent pour que son fabricant l'écrive sous la zone de question. Il se trompe surtout sur ce qui est précis, récent ou peu documenté, et sur ce qui demande un contexte qu'il n'a pas. Et comme il garde le même ton quand il a tort, c'est à toi de vérifier ce qui compte.
Pourquoi ChatGPT invente des sources ?
Parce qu'il a été entraîné à répondre plutôt qu'à rendre copie blanche, comme un élève à un examen. Quand il ne trouve pas, il fabrique quelque chose de plausible, une référence de décision de justice par exemple. D'où le geste 1 : demander les sources et les ouvrir une par une.
Qu'est-ce qu'une hallucination de ChatGPT ?
C'est une réponse inventée, présentée comme vraie. Il n'a pas la bonne information, mais il prédit une suite de mots qui a l'air juste. L'avocat de New York en a eu six d'un coup.
Est-ce que ChatGPT est fiable pour la santé ?
Oui pour comprendre et préparer tes questions, mais ça ne remplace pas le spécialiste. Le monsieur de 60 ans a fait trois semaines d'hôpital pour une réponse hors contexte. Tu prends d'abord rendez-vous chez un spécialiste, et tu vérifies sur Ameli.
Comment savoir si ChatGPT dit vrai ?
Trois gestes, deux minutes : tu exiges les sources et tu les ouvres, tu lui demandes ce qui pourrait être faux dans sa réponse, et pour la santé, l'argent et le droit, tu passes 30 secondes sur le site officiel.
Est-ce que je dois tout vérifier ?
Non, sinon tu ne t'en sers plus. Tout ce qui n'est pas important, tu ne vérifies pas. Dès que c'est sensible, l'argent, la santé, les droits, les choses personnelles, tu prends ton temps.
Pourquoi je ne vois pas quand il se trompe ?
Parce qu'il répond avec le même aplomb quand il a tort et quand il a raison, et parce que, sur un sujet que tu ne connais pas, tu n'as pas la base pour repérer l'erreur. C'est le cas du cuisinier débutant. C'est pour ça que tu as les trois gestes, et le réglage qui lui fait avouer ses doutes.