Hallucinations de l'IA : les comprendre et les limiter en entreprise

Qu'est-ce qu'une hallucination IA ?

Une hallucination désigne une affirmation fausse qu'un modèle de langage (le moteur de ChatGPT, Claude, Gemini, Copilot ou Vibe) présente comme vraie, sans le moindre signal de doute. Le mot s'est imposé dans le grand public.

Le NIST, l'institut de normalisation américain, lui préfère « confabulation » dans son profil de risques de l'IA générative (NIST AI 600-1, juillet 2024), en notant que certains jugent « hallucination » trop humain pour une machine.

Il range ce phénomène parmi les douze risques propres à l'IA générative ou aggravés par elle, et y inclut les réponses qui s'écartent de la consigne ou contredisent ce que le modèle a écrit plus haut dans la même conversation.

Trois traits la distinguent d'une erreur ordinaire. Elle est plausible : le faux arrêt porte un numéro, une juridiction, un nom de juge. Elle est assurée : le ton reste identique entre le vrai et l'inventé.

Elle est instable : posée deux fois, la même question peut recevoir une réponse juste puis une réponse fausse. Une information périmée (un tarif de l'an dernier donné pour actuel) ou un biais (une préférence systématique) relèvent d'autres défauts, avec d'autres parades.

La définition courte figure dans le glossaire Masteria. La suite de cet article s'attache à ce qu'une entreprise en fait : reconnaître le phénomène, en mesurer le risque, l'encadrer.

Pourquoi l'IA invente-t-elle des réponses ?

Un modèle de langage écrit mot après mot, en choisissant à chaque pas une suite probable au vu de tout ce qu'il a lu pendant son entraînement. Aucune étape de ce calcul ne confronte la phrase produite à un fait. Quand la réponse revient souvent dans ses données (la date de naissance d'Einstein), la suite probable est aussi la bonne.

Quand l'information est rare ou absente, le modèle produit malgré tout une suite plausible. Ce comblement silencieux du vide, c'est l'hallucination.

Ce que montre la recherche d'OpenAI

Quatre chercheurs d'OpenAI et de Georgia Tech ont formalisé ce mécanisme dans l'article Why Language Models Hallucinate (4 septembre 2025), que l'éditeur a résumé en français sur son blog le lendemain.

Leur exemple tient en une ligne : interrogé sur la date d'anniversaire de l'un des auteurs, un modèle ouvert répandu a proposé trois dates différentes, toutes fausses, alors que la consigne demandait de ne répondre qu'en cas de certitude.

Les faits isolés, vus une seule fois pendant l'entraînement, sont les plus exposés : selon les auteurs, leur proportion fixe un plancher au taux d'hallucination d'un modèle avant ses réglages finaux.

La seconde cause tient à la manière de noter les modèles. La plupart des tests de référence comptent les bonnes réponses et accordent zéro à l'abstention, comme un QCM sans point négatif. Un modèle qui tente sa chance sur une date d'anniversaire a une chance sur 365 de marquer le point ; celui qui répond « je ne sais pas » n'en a aucune.

Sur des milliers de questions, le premier grimpe au classement. Les auteurs proposent de sanctionner l'erreur assurée plus durement que l'incertitude avouée. OpenAI illustre l'enjeu avec le test SimpleQA de la fiche système de GPT-5.

Le modèle le plus ancien gagne deux points d'exactitude et commet presque trois fois plus d'erreurs. Un classement fondé sur la seule exactitude le placerait devant. Pour une entreprise, la ligne qui compte est la troisième : une réponse fausse coûte davantage qu'une absence de réponse.

Pourquoi un modèle plus puissant peut halluciner davantage

La puissance ne protège pas de l'erreur. Dans la fiche système d'OpenAI o3 et o4-mini (16 avril 2025), l'éditeur mesure sur PersonQA, un jeu de questions sur des personnes publiques, un taux d'hallucination de 33 % pour o3, contre 16 % pour son prédécesseur o1 et 48 % pour o4-mini.

OpenAI explique que o3 avance davantage d'affirmations, donc davantage de justes et davantage de fausses, et reconnaît que la cause reste à élucider. Un modèle bavard prend plus de risques. Le réglage qui compte en entreprise est sa capacité à s'abstenir quand il ne sait pas.

Quelles formes prennent les hallucinations ?

Sept formes reviennent chez tous les assistants, quel que soit l'éditeur. Chacune a son terrain de prédilection et son réflexe de contrôle.

La deuxième ligne mérite une attention particulière. Les chercheurs de Stanford qui ont testé des outils juridiques parlent de réponse « mal ancrée » quand le droit est correctement énoncé mais que la source citée ne le soutient pas : le lien existe, il s'ouvre, et le passage ne dit pas ce qu'on lui fait dire.

Un contrôle pressé, qui s'arrête au lien valide, laisse passer cette forme. C'est la plus difficile à repérer.

Quelles affaires d'hallucination ont fait date ?

Les cas publics les mieux documentés viennent des tribunaux, où une citation se vérifie au mot près. La base AI Hallucination Cases, tenue par Damien Charlotin, recensait 2 246 décisions dans le monde dans sa version du 31 octobre 2026 (relevé le 1er novembre 2026) : 1 517 aux États-Unis, 240 au Canada, 112 en Australie, 89 au Royaume-Uni et 14 en France.

Elle retient les décisions où le juge relève, ou soupçonne, qu'une partie s'est appuyée sur du contenu inventé par une IA.

Avianca : l'avocat qui a demandé à ChatGPT si l'arrêt existait

Le 22 juin 2023, le juge P. Kevin Castel, du tribunal fédéral du district sud de New York, a infligé 5 000 dollars d'amende à deux avocats et à leur cabinet dans l'affaire Mata c. Avianca. Leur mémoire s'appuyait sur six décisions qui n'existaient pas, produites par ChatGPT.

Le passage le plus instructif de l'ordonnance raconte le moment du doute : l'avocat a demandé à ChatGPT si l'une de ces décisions était réelle, et l'outil a confirmé qu'elle existait et figurait dans les bases Westlaw et LexisNexis.

Le juge prend soin de préciser qu'il n'y a rien d'illégitime à se faire aider par un outil d'IA fiable. Les règles de procédure confient en revanche à l'avocat un rôle de gardien de l'exactitude de ce qu'il dépose. La leçon dépasse le droit : demander au modèle de se vérifier lui-même ne prouve rien. Seule une source extérieure, ouverte et lue, tranche.

Londres, 2025 : dix-huit références inventées sur quarante-cinq

Le 6 juin 2025, la High Court d'Angleterre et du pays de Galles a rendu un jugement commun à deux dossiers, Ayinde c. Haringey et Al-Haroun c. Qatar National Bank ([2025] EWHC 1383 (Admin)).

Dans le second, sur 45 références produites devant le juge, 18 renvoyaient à des décisions inexistantes, et beaucoup des autres ne contenaient pas les passages cités. La cour écrit que des outils comme ChatGPT ne sont pas capables de mener une recherche juridique fiable, et que l'avocat qui s'en sert doit tout contrôler dans des sources faisant autorité. Elle a signalé les professionnels concernés à leurs autorités de régulation.

En France : Périgueux, Orléans, Grenoble

Les juridictions françaises ont rejoint le mouvement fin 2025.

Selon Le Monde Informatique (22 janvier 2026), le tribunal judiciaire de Périgueux a relevé le 18 décembre 2025 que des décisions invoquées par un requérant ne correspondaient à aucune décision publiée, et a invité la partie et son conseil à s'assurer à l'avenir que les références trouvées par un moteur ou une IA ne sont pas des hallucinations.

Fin décembre, selon le même article, le tribunal administratif d'Orléans a adressé la même mise en garde à un avocat, dans un dossier d'éloignement du territoire.

Le 4 juin 2026, le tribunal administratif de Grenoble est allé plus loin. Il a infligé 200 euros d'amende pour recours abusif à un requérant dont le mémoire de plus de 300 pages, manifestement généré par IA, citait des textes inapplicables et des décisions inexistantes, rapporte Acteurs publics (19 juin 2026).

Hors des tribunaux : un rapport remboursé, un chatbot condamné, des livres fantômes

En Australie, Deloitte a remboursé une partie d'un rapport facturé 440 000 dollars australiens au ministère de l'Emploi (DEWR), consacré au système automatisé de sanctions des allocataires. Un universitaire de Sydney y avait relevé des références à des travaux inexistants et une citation inventée d'un jugement de la Cour fédérale.

La version corrigée mentionne l'usage d'une chaîne d'outils fondée sur Azure OpenAI GPT-4o (The Register, 6 octobre 2025). Le ministère a chiffré le remboursement à plus de 97 000 dollars australiens (CFO Dive, 21 octobre 2025).

Au Canada, le tribunal de résolution civile de Colombie-Britannique a condamné Air Canada le 14 février 2024 (Moffatt c. Air Canada, 2024 BCCRT 149). Le chatbot du site avait assuré à un client endeuillé qu'il pourrait demander après coup le tarif réduit pour décès, ce que la politique de la compagnie excluait.

Air Canada laissait entendre que le chatbot était une entité distincte, responsable de ses propres réponses. Le tribunal a jugé l'argument « remarquable » et rappelé que l'entreprise répond de toute l'information de son site, page fixe ou chatbot : 812,02 dollars canadiens au total.

Aux États-Unis, le supplément estival du Chicago Sun-Times a publié en mai 2025 une liste de quinze lectures recommandées dont cinq livres seulement existaient. Son auteur, pigiste pour un fournisseur de contenus, avait utilisé une IA sans rien vérifier (NPR, 20 mai 2025).

En Norvège, l'association noyb a déposé plainte le 20 mars 2025 contre OpenAI auprès de l'autorité de protection des données (noyb) : ChatGPT présentait un habitant comme le meurtrier de ses enfants, récit inventé mêlé à de vrais détails de sa vie. La plainte invoque le principe d'exactitude du RGPD (article 5, paragraphe 1, point d).

Ces affaires ont un point commun. Le texte faux a franchi une étape où personne ne l'a confronté à sa source, et c'est un juge, un client ou un lecteur qui l'a fait à la place de l'auteur, au plus mauvais moment.

Quel est le taux d'hallucination des IA ? Ce que mesurent les tests publiés

Aucun taux d'hallucination universel n'existe. Le chiffre dépend de la tâche (résumer un document fourni ou répondre de mémoire), du domaine, de la langue et de la façon de compter l'abstention. Les mesures publiées, lues avec leur méthode, donnent des ordres de grandeur.

Sources du tableau : classement Vectara (relevé le 1er novembre 2026), fiche système o3 et o4-mini, OpenAI, Stanford HAI, UER. Radio France figure parmi les médias de l'étude UER.

Comment lire ces chiffres

• L'ancrage documentaire est le premier levier. Sur le résumé d'un texte fourni, les meilleurs modèles inventent dans quelques cas sur cent ; sur des questions de mémoire conçues pour être difficiles, les taux montent à plusieurs dizaines de pour cent.
• Un outil spécialisé réduit le risque sans l'annuler. L'équipe de Stanford a voulu vérifier les promesses commerciales de réponses « sans hallucination » : plus d'une réponse sur six restait fausse ou mal sourcée.
• La réputation d'un modèle ne dit rien de sa fidélité. Sur le classement Vectara, GPT-5.4 nano (3,1 %) devance GPT-5.5 (9,3 %) du même éditeur. Mesurez la fidélité sur vos propres documents avant de choisir.
• Sur l'actualité, la source flanche avant le fait. Dans l'étude UER, les problèmes de sources (31 % des réponses : attribution absente, trompeuse ou fausse) dépassent les erreurs majeures d'exactitude (20 %).

Comment limiter les hallucinations de l'IA en entreprise ?

Six méthodes réduisent le risque, et elles se cumulent. Aucune ne dispense de la dernière, la relecture humaine, dont seule l'intensité varie avec l'enjeu.

1. Ancrer les réponses sur vos documents

Un assistant qui répond à partir d'un document fourni se trompe moins qu'un assistant qui répond de mémoire : l'écart entre le classement Vectara et les tests de questions factuelles le montre. Trois niveaux existent. Le plus simple consiste à joindre le document à la conversation.

Le suivant installe un espace de travail permanent (projet ChatGPT ou Claude, Gem de Gemini, carnet NotebookLM devenu Gemini Notebook) qui garde les sources de référence d'un dossier.

Le plus outillé est le RAG (génération augmentée par récupération : le système cherche les passages pertinents dans une base, puis les transmet au modèle), que notre article Fine-tuning ou RAG compare à l'entraînement complémentaire d'un modèle.

Les éditeurs décrivent cet ancrage dans leur aide en ligne, relevée le 1er novembre 2026. Microsoft explique que Microsoft 365 Copilot fonde ses réponses sur vos données de travail, le web ou les fichiers joints, avec des citations à contrôler, et qu'il peut donner une réponse générale faute de source pertinente.

Google indique que NotebookLM répond à partir des sources importées, avec des citations intégrées. Un gérant de cabinet de géomètres-experts formé par Masteria en août 2026 a ainsi réservé un carnet NotebookLM aux textes où la citation exacte compte.

2. Exiger des citations que l'on peut ouvrir

Une affirmation sourcée se contrôle en un clic ; une affirmation nue demande une enquête. Demandez à l'assistant de rattacher chaque fait à un passage cité mot pour mot, avec le nom du document et la page.

La documentation d'Anthropic, Reduce hallucinations, recommande sur les documents longs (au-delà de 20 000 jetons, soit plusieurs dizaines de pages) d'extraire d'abord les citations exactes, de ne raisonner qu'à partir d'elles, puis de faire retirer toute affirmation pour laquelle aucune citation n'est trouvée.

Côté développeurs, l'API Citations de Claude renvoie les passages qui soutiennent chaque réponse ; sa documentation garantit que chaque pointeur renvoie à un endroit valide des documents fournis. Le pointeur prouve que le passage existe. Reste à lire s'il dit bien ce que la réponse affirme : c'est le piège de la réponse mal ancrée.

3. Activer la recherche web pour les faits récents

Un modèle ignore ce qui s'est passé après la fin de son entraînement et comble parfois ce vide. Pour un prix, une réglementation ou une actualité, la recherche web remplace la mémoire par des pages datées.

ChatGPT la propose sur toutes ses offres, gratuite comprise, avec des citations cliquables ; l'aide d'OpenAI prévient que résultats et citations peuvent être incomplets, périmés ou faux, et conseille d'ouvrir la source pour vérifier qu'elle soutient la réponse.

Gemini affiche un bouton « Sources » quand des liens sont disponibles, sans en promettre pour chaque réponse (aide Gemini). Le contrôle porte alors sur la qualité et la date des pages que l'assistant a lues.

4. Autoriser l'assistant à répondre « je ne sais pas »

La parade la plus simple figure en tête des recommandations d'Anthropic : donner au modèle, en toutes lettres, la permission d'admettre qu'il ne sait pas. Le tableau SimpleQA d'OpenAI montre ce que produit un modèle qui s'abstient davantage : un peu moins de bonnes réponses, beaucoup moins d'erreurs.

Dans un assistant d'équipe, la consigne s'écrit une fois, dans les instructions permanentes du projet, et s'applique à chaque conversation.

5. Faire produire les chiffres par un calcul

Un chiffre écrit sans calcul ni document à l'appui reste une prédiction du modèle, comme n'importe quel mot. Un chiffre produit par un calcul exécuté (du code lancé par l'assistant, une formule posée dans le tableur) laisse une trace que l'on peut refaire. Demandez le calcul, le fichier d'origine et un total de contrôle à comparer avec la source.

Les dates et les montants recopiés d'un contrat suivent la même règle : ils se vérifient contre le document.

6. Faire relire par une seconde passe, puis par un humain

Anthropic décrit deux contrôles automatiques. Le premier pose la même question plusieurs fois et compare : les écarts signalent une zone incertaine. Le second soumet la réponse à une nouvelle demande qui confronte chaque affirmation aux sources.

Ces passes servent à trier ce qui mérite une lecture attentive. La validation reste humaine, et la question devient : qui relit quoi, avec quelle exigence ?

Avec un agent IA, qui enchaîne des actions sans attendre de relance, une hallucination quitte le texte pour devenir un courriel envoyé ou une fiche modifiée. La validation humaine se place alors avant toute action irréversible, comme le détaille notre guide pour superviser des agents IA en production.

Quelle vérification selon le niveau de risque ?

Une relecture proportionnée à l'enjeu évite deux écueils : vouloir tout vérifier, puis ne plus rien vérifier faute de temps. La grille suivante classe les usages en quatre niveaux, selon ce qu'une erreur coûterait si elle sortait de l'entreprise.

Deux règles complètent la grille. Un usage monte d'un niveau dès qu'il touche une donnée personnelle ou un client nommé. Aux niveaux 3 et 4, une réponse sans source vérifiable se traite comme une absence de réponse.

Le test qui démasque un assistant trop sûr de lui

Avant de confier un assistant d'équipe à vos collaborateurs, éprouvez-le.

En septembre 2026, lors d'une formation de trois jours pour une interprofession agricole et son syndicat de producteurs, les seize participants ont construit un premier assistant sur deux outils, un Gem et un projet, puis lui ont soumis une question dont aucun document ne contenait la réponse, afin de voir s'il avouait son ignorance ou comblait le vide. Le protocole complet tient en six étapes.

1. 1Rassembler les documents de référence du dossier et écrire les instructions du projet, mention « non trouvé » comprise.
2. 2Poser trois questions dont la réponse figure dans les documents, puis ouvrir chaque passage cité.
3. 3Poser une question dont la réponse n'y figure pas : l'assistant doit écrire qu'il ne trouve pas.
4. 4Poser une question qui présuppose un fait faux, par exemple une pénalité absente du contrat : l'assistant doit corriger la prémisse.
5. 5Reposer deux fois la même question et comparer : des réponses divergentes signalent un dossier lacunaire ou une consigne trop vague.
6. 6Consigner les échecs dans la fiche de l'assistant et refaire le test à chaque changement de modèle ou de documents.

Ce que la charte IA doit dire des hallucinations

La charte IA d'entreprise transforme la grille en règles que chacun lit et signe. Sur les hallucinations, quatre rubriques suffisent.

• Responsabilité : la personne qui diffuse un contenu préparé avec l'IA en répond comme d'un texte qu'elle aurait écrit sans aide. Les juges de New York et de Londres l'ont rappelé aux avocats, le tribunal de Colombie-Britannique à Air Canada pour son chatbot.
• Vérification : le niveau de relecture attendu pour chaque type de document, repris de la grille, et la liste des sources qui font foi (Légifrance, base documentaire interne, comptabilité).
• Interdits : aucune référence juridique, aucun chiffre publié ni aucune information sur une personne nommée sans source primaire ouverte et lue.
• Signalement : une hallucination repérée dans un document déjà diffusé remonte au référent IA, qui fait corriger le document et ajoute le cas aux tests de l'assistant concerné.

Un risque voisin mérite une ligne distincte : un document piégé peut cacher des instructions qui poussent l'assistant à écrire du faux ou à agir à votre insu. Cette injection de consignes (prompt injection) est un risque de sécurité, avec ses propres parades. Le registre des usages et le circuit de validation se construisent dans la formation gouvernance de l'IA.

Se former à repérer et à limiter les hallucinations

Les parades décrites ici s'apprennent sur vos propres dossiers, avec l'assistant que votre entreprise utilise déjà.

La formation prompt engineering de Masteria, en une journée, fait rédiger les instructions permanentes d'un projet borné à des sources choisies, les éprouve avec une question restée sans réponse et apprend à faire sortir chaque chiffre d'un calcul que l'on peut refaire. Les directions juridiques travaillent la vérification des références dans la formation IA juridique.

Les formations Masteria démarrent à partir de 1 980 € HT la journée, et Masteria est certifié Qualiopi.

Le vocabulaire des hallucinations en huit termes

• Hallucination : affirmation fausse produite par un modèle de langage et présentée comme vraie.
• Confabulation : nom retenu par le NIST pour le même phénomène, jugé moins anthropomorphique.
• Ancrage : fait de fonder une réponse sur des sources fournies ou trouvées plutôt que sur la mémoire du modèle (grounding en anglais).
• RAG : architecture qui cherche les passages pertinents dans une base documentaire avant de les transmettre au modèle.
• Abstention : réponse par laquelle le modèle déclare ne pas savoir au lieu de deviner.
• Réponse mal ancrée : réponse juste en apparence, attribuée à une source qui ne la soutient pas.
• Fiche système : document technique publié par un éditeur avec un nouveau modèle, qui détaille ses évaluations (system card en anglais).
• Jeton : unité de texte traitée par le modèle, de l'ordre d'un mot ou d'un fragment de mot (token en anglais).

Une IA générative rédige avec aisance, et cette aisance rend ses erreurs convaincantes. Dans les équipes qui s'en servent bien, chaque phrase qui engage garde un chemin vers son document d'origine. Ce chemin se décide, s'écrit dans la charte, puis se vérifie à chaque envoi.

Sources relevées le 1er novembre 2026 : NIST AI 600-1 (juillet 2024), Kalai et al., Why Language Models Hallucinate (04/09/2025), OpenAI, aux origines des hallucinations (05/09/2025), OpenAI, fiche système o3 et o4-mini (16/04/2025), Vectara, Hallucination Leaderboard (version du 22/10/2026), Stanford HAI (23/05/2024), UER, News Integrity in AI Assistants (22/10/2025), D. Charlotin, AI Hallucination Cases (version du 31/10/2026), Mata c. Avianca, ordonnance du 22/06/2023, Ayinde et Al-Haroun, [2025] EWHC 1383 (Admin), Moffatt c. Air Canada, 2024 BCCRT 149, Le Monde Informatique (22/01/2026), Acteurs publics (19/06/2026), The Register (06/10/2025), CFO Dive (21/10/2025), NPR (20/05/2025), noyb (20/03/2025), Anthropic, Reduce hallucinations, Anthropic, Citations, OpenAI, Searching the web with ChatGPT, Microsoft, informations utilisées par Copilot, Google, sources dans Gemini, Google, aide NotebookLM.

Questions fréquentes

Vos assistants savent-ils répondre « non trouvé » ?

Masteria forme vos équipes sur leurs propres dossiers : instructions de projet bornées aux sources, citations vérifiables, test de la question sans réponse et grille de relecture par niveau d'enjeu.