SAKIRA
Contact
Pourquoi les IA hallucinent et comment s'en protéger
Saray Hach, fondateur de SAKIRA. 4 novembre 2026.
Votre téléphone propose le mot suivant quand vous écrivez un message. Une IA qui rédige fait la même chose, avec une mémoire de lecture sans comparaison. Tout le reste en découle, y compris les erreurs dites avec assurance.
Sommaire
Qu'est-ce qu'une hallucination d'IA ?
Une hallucination est une réponse fausse, donnée sur le ton de quelqu'un qui sait. Demandez à une IA une référence de loi : elle en donnera une, avec le numéro d'article, la date et une formulation très sûre d'elle. Il arrive que cette loi n'existe pas.
Le mot fait penser à une panne. Ce n'en est pas une : l'IA fait ce que son principe lui commande, et la suite de cet article explique pourquoi.
Comment fonctionne une IA, en mots simples ?
Reprenez le clavier de votre téléphone. Il a lu vos messages passés et il vous propose trois mots possibles pour la suite. Vous en choisissez un, il en propose trois autres.
Une IA qui écrit du texte fonctionne sur ce principe, à une tout autre échelle. Elle a lu une quantité de textes que personne ne lirait en mille vies. Elle ne propose pas trois mots mais des centaines de candidats, chacun avec un score, et elle en tire un. Puis elle recommence, un morceau de mot après l'autre, jusqu'à la fin de la réponse.
Le « modèle » dont on parle est un très gros fichier rempli de nombres, rangé sur un disque comme n'importe quel autre fichier (nous en parlons dans un autre article). Il ne contient ni textes ni photos. Il contient des habitudes : quels morceaux de mots suivent quels autres, dans quelles circonstances. Quand vous posez une question, il ne va pas chercher la réponse quelque part : il la reconstruit, morceau par morceau.
Pourquoi invente-t-elle au lieu de dire « je ne sais pas » ?
Sa mécanique cherche la suite qui a l'air la plus plausible, pas celle qui est vraie. Une fausse référence de loi, avec un numéro et une date, ressemble beaucoup à une vraie : pour la machine, c'est une très bonne suite.
« Je ne sais pas » est rarement la suite la plus plausible d'une question posée avec assurance. Voilà pourquoi une IA répond le plus souvent, même quand elle n'a rien de solide.
Trois particularités aggravent la situation.
- Elle écrit au stylo. Chaque morceau posé engage les suivants. Elle ne dispose pas de gomme : elle tient sa direction jusqu'au bout de la phrase, même si elle s'est engagée sur une erreur dès le début.
- Elle ne voit pas les lettres. Elle lit des morceaux de mots. Elle peut vous expliquer la physique quantique de façon brillante et se tromper sur le nombre de lettres d'un mot court.
- Le hasard se règle à la main. Un réglage, souvent appelé la température, dit à l'IA si elle choisit toujours la suite la plus probable ou si elle s'autorise parfois une autre. Réglée au plus bas, elle répond presque toujours la même chose, sans que sa réponse devienne plus vraie. Réglée haut, deux questions identiques peuvent recevoir deux réponses différentes.
Quels risques dans une petite entreprise ?
Les cas qui coûtent cher sont ordinaires :
- un devis où l'IA a inventé un prix ou une remise ;
- un contrat ou une clause qui cite un article de loi qui n'existe pas ;
- une fiche produit qui annonce une caractéristique que le produit n'a pas ;
- une réponse à un client, envoyée sans relecture, qui promet un délai que personne n'a validé ;
- un compte rendu de réunion qui attribue une phrase à la mauvaise personne.
Dans chacun de ces cas, le texte est bien écrit, et personne ne se méfie assez tôt.
Pourquoi une erreur ne se voit presque jamais ?
Une IA se trompe rarement sur tout un texte. Le plus souvent, presque toutes les phrases sont justes, et une ou deux sont inventées, écrites sur le même ton que les autres.
Dans un domaine que je maîtrise, ces phrases me sautent aux yeux. Dans un domaine que je ne connais pas, je ne vois rien : tout a l'air juste, parce que presque tout l'est. Le piège est là : comme rien ne choque, on ne vérifie pas. Plus un texte est bien écrit, moins on pense à le relire.
Voici ma méthode. Je donne le texte à une autre IA avec cette consigne : « Corrige ce texte et vérifie toutes les erreurs et tous les oublis. » Puis je recommence avec un autre modèle, et en général avec plusieurs, pas un seul. Les erreurs ne tombent pas toujours aux mêmes endroits : un modèle relève souvent l'erreur qu'un autre a laissée passer.
Comment repérer une réponse inventée ?
Quelques signes reviennent :
- une réponse très précise, avec un numéro, une date ou un nom, mais sans source que vous puissiez ouvrir ;
- un ton sûr de lui sur un sujet pointu ou récent ;
- une réponse qui change quand vous reposez la question autrement.
Le test le plus simple : demandez la source, puis ouvrez-la vous-même. Si la source n'existe pas, ou si elle ne dit pas ce que l'IA affirme, la réponse est à jeter.
Comment s'en protéger : cinq gestes
On ne peut pas empêcher une IA d'inventer. On peut resserrer le probable autour des faits justes.
- Donner les documents. Plutôt que d'interroger l'IA de mémoire, collez-lui le texte sur lequel elle doit répondre et demandez-lui de s'en tenir à lui.
- Exiger la source. Faites-lui citer le passage exact. Sans passage montré, ne retenez rien.
- Baisser le hasard. Pour un travail de précision (chiffres, textes juridiques, fiches produit), choisissez le réglage prudent quand l'outil le permet : les réponses varient moins d'une fois à l'autre, sans devenir plus vraies.
- Faire relire par plusieurs IA. Donnez le texte à une autre IA avec la consigne « corrige ce texte et vérifie toutes les erreurs et tous les oublis », puis recommencez avec un autre modèle. Pour un texte qui engage l'entreprise, ajoutez quelqu'un du métier : il voit l'erreur que personne d'autre ne voit.
- Garder la signature. Une personne signe chaque message qui part chez un client. L'IA prépare, la personne valide.
Comment faire répondre l'IA à partir de vos propres documents ?
Voici le geste le plus efficace : l'IA ne répond plus de mémoire et lit vos contrats, vos fiches ou vos comptes rendus, puis cite la ligne d'où vient chaque information.
J'ai vu ce principe bien avant l'IA. Dans une pharmacie d'hôpital, les commandes étaient retapées de mémoire et à la main, et les erreurs étaient fréquentes. Un catalogue posé en lecture seule dans un dossier partagé les a fait baisser d'au moins 90 % en cinq minutes (l'histoire complète est dans un autre article). Dans les deux cas, le remède est le même : ne plus répondre de mémoire, lire la source.
L'IA peut aussi tourner chez vous, sur une machine de l'entreprise : vos documents restent alors confidentiels (nous détaillons les machines dans un autre article).
Une limite : cela réduit les inventions, cela ne les supprime pas. L'IA peut encore mal lire un passage ou combiner deux phrases de travers. La relecture reste utile.
Quelle règle fixer dans l'équipe ?
Une règle courte, écrite, connue de tous : l'IA propose, une personne nommée relit, et c'est elle qui signe. Pour savoir ce qu'on peut confier à une IA et ce qu'on ne lui laisse jamais trancher seule, lisez L'IA, seulement quand il le faut.
Dans votre entreprise, qui relit aujourd'hui ce que l'IA a écrit avant que cela parte chez un client ?
Questions fréquentes
Une IA peut-elle être totalement fiable ?
Non. Une IA reproduit ce qu'elle a lu, avec une part de hasard. Si les textes sur lesquels elle a appris contiennent des erreurs, ou si les documents que vous lui donnez sont faux, ses réponses le seront aussi : elle n'a aucun moyen de savoir qu'ils sont faux.
Prenons un exemple. Une IA qui aurait appris sur des contrôles d'élèves où des calculs faux sont corrigés comme justes retiendra ces calculs faux comme des habitudes, et les redonnera avec assurance. Même avec des sources parfaites, sa réponse reste une probabilité, jamais une certitude.
Voilà pourquoi on confie les calculs à un programme : il refait la même opération à l'identique, à chaque fois. L'IA peut préparer et lancer le calcul, elle ne le fait pas de tête.
Comment vérifier une réponse de ChatGPT ?
Demandez la source, ouvrez-la et lisez si elle dit bien ce que l'IA affirme.
Un modèle installé chez moi hallucine-t-il moins ?
Il peut halluciner moins s'il lit vos documents au lieu de répondre de mémoire. Interrogé sans documents, il invente autant qu'un autre.