Hallucination (IA) : définition
Aussi appelé : hallucination d'IA, confabulation, erreur factuelle d'IA, réponse inventée.
Mis à jour le
Rédigé par Karim Brahim

Définition
Une hallucination est une réponse d'IA générative fausse ou inventée mais formulée de façon crédible : chiffre erroné, source inexistante, fausse promesse.
Le terme est imagé : le modèle « voit » quelque chose qui n'existe pas. Le danger tient moins à l'erreur elle-même qu'à son apparence : la réponse est bien rédigée, sûre d'elle, et rien n'indique qu'elle est inventée.
En détail
Un LLM ne consulte pas une base de faits : il prédit une suite de mots plausible. Les hallucinations apparaissent surtout quand :
- l'information manque : question sur votre entreprise, un produit récent ou un fait postérieur à l'entraînement du modèle ;
- la question est ambiguë ou suppose un fait faux (« quelle est la garantie de 10 ans sur ce produit ? ») ;
- la demande porte sur des détails précis : références juridiques, citations, numéros, calculs ;
- la consigne pousse à répondre à tout prix, sans autoriser le « je ne sais pas ».
Quelques exemples typiques : un chatbot qui annonce une remise inexistante, un résumé de contrat qui ajoute une clause, un article citant une étude introuvable, un agent IA qui renseigne une mauvaise référence produit.
Les principales parades :
- ancrer les réponses dans vos sources grâce au RAG ;
- rédiger un prompt qui autorise l'incertitude : répondre uniquement à partir des documents, sinon le dire et proposer un contact humain ;
- limiter le périmètre du chatbot et lui interdire les engagements (prix fermes, délais garantis, conseils juridiques ou médicaux) ;
- citer les sources pour permettre la vérification ;
- contrôler automatiquement certaines sorties (prix, références, dates) par rapport à vos données ;
- garder un humain dans la boucle pour ce qui engage l'entreprise ;
- tester et relire régulièrement des conversations réelles.
Exemple (cas type)
Prenons l'exemple d'un camping qui installerait un chatbot généraliste sans lui fournir ses informations. Un visiteur demande si les chiens sont acceptés. Le chatbot répond « oui, gratuitement », alors que le camping les accepte avec un supplément, et seulement dans certains hébergements. Le client contesterait le supplément à son arrivée.
Une fois reconfiguré, le chatbot ne répondrait qu'à partir du règlement intérieur et de la grille tarifaire, en citant la rubrique concernée. Pour toute question absente des documents, il indiquerait transmettre la demande à la réception. Les réponses seraient moins « bavardes », mais fiables.
Points d'attention
Les hallucinations ne disparaissent jamais complètement : il faut relire les contenus sensibles, exclure les sujets à risque et informer les utilisateurs.
- Ne jamais publier sans relecture un contenu généré contenant des chiffres, dates ou références.
- Identifier les sujets à risque dans votre activité et les exclure du périmètre automatique.
- Informer l'utilisateur qu'il échange avec une IA, comme le prévoit le règlement européen sur l'IA pour les chatbots, et lui indiquer que l'équipe peut confirmer les informations importantes.
- Mesurer : suivez les erreurs signalées et corrigez les documents sources.
- Former les équipes à garder un esprit critique face aux réponses de l'IA.
Pour aller plus loin
Voyez comment un chatbot bien cadré évite ces écueils dans chatbot IA pour site internet. Pour les garde-fous à prévoir, lisez aussi risques de l'IA en entreprise. Dopinet conçoit des assistants d'IA pour les entreprises et des chatbots pour site web avec garde-fous et relais humain.