Aller au contenu
IA & automatisation

Hallucination (IA) : définition

Aussi appelé : hallucination d'IA, confabulation, erreur factuelle d'IA, réponse inventée.

Mis à jour le

Rédigé par

Schéma d'une hallucination : l'IA donne une réponse sûre d'elle mais inventée et sans source, à comparer avec une réponse vérifiée dans un document.
Hallucination de l'IA : réponse assurée mais inventée face à une réponse sourcée

Définition

Une hallucination est une réponse d'IA générative fausse ou inventée mais formulée de façon crédible : chiffre erroné, source inexistante, fausse promesse.

Le terme est imagé : le modèle « voit » quelque chose qui n'existe pas. Le danger tient moins à l'erreur elle-même qu'à son apparence : la réponse est bien rédigée, sûre d'elle, et rien n'indique qu'elle est inventée.

En détail

Un LLM ne consulte pas une base de faits : il prédit une suite de mots plausible. Les hallucinations apparaissent surtout quand :

  • l'information manque : question sur votre entreprise, un produit récent ou un fait postérieur à l'entraînement du modèle ;
  • la question est ambiguë ou suppose un fait faux (« quelle est la garantie de 10 ans sur ce produit ? ») ;
  • la demande porte sur des détails précis : références juridiques, citations, numéros, calculs ;
  • la consigne pousse à répondre à tout prix, sans autoriser le « je ne sais pas ».

Quelques exemples typiques : un chatbot qui annonce une remise inexistante, un résumé de contrat qui ajoute une clause, un article citant une étude introuvable, un agent IA qui renseigne une mauvaise référence produit.

Les principales parades :

  • ancrer les réponses dans vos sources grâce au RAG ;
  • rédiger un prompt qui autorise l'incertitude : répondre uniquement à partir des documents, sinon le dire et proposer un contact humain ;
  • limiter le périmètre du chatbot et lui interdire les engagements (prix fermes, délais garantis, conseils juridiques ou médicaux) ;
  • citer les sources pour permettre la vérification ;
  • contrôler automatiquement certaines sorties (prix, références, dates) par rapport à vos données ;
  • garder un humain dans la boucle pour ce qui engage l'entreprise ;
  • tester et relire régulièrement des conversations réelles.

Exemple (cas type)

Prenons l'exemple d'un camping qui installerait un chatbot généraliste sans lui fournir ses informations. Un visiteur demande si les chiens sont acceptés. Le chatbot répond « oui, gratuitement », alors que le camping les accepte avec un supplément, et seulement dans certains hébergements. Le client contesterait le supplément à son arrivée.

Une fois reconfiguré, le chatbot ne répondrait qu'à partir du règlement intérieur et de la grille tarifaire, en citant la rubrique concernée. Pour toute question absente des documents, il indiquerait transmettre la demande à la réception. Les réponses seraient moins « bavardes », mais fiables.

Points d'attention

Les hallucinations ne disparaissent jamais complètement : il faut relire les contenus sensibles, exclure les sujets à risque et informer les utilisateurs.

  • Ne jamais publier sans relecture un contenu généré contenant des chiffres, dates ou références.
  • Identifier les sujets à risque dans votre activité et les exclure du périmètre automatique.
  • Informer l'utilisateur qu'il échange avec une IA, comme le prévoit le règlement européen sur l'IA pour les chatbots, et lui indiquer que l'équipe peut confirmer les informations importantes.
  • Mesurer : suivez les erreurs signalées et corrigez les documents sources.
  • Former les équipes à garder un esprit critique face aux réponses de l'IA.

Pour aller plus loin

Voyez comment un chatbot bien cadré évite ces écueils dans chatbot IA pour site internet. Pour les garde-fous à prévoir, lisez aussi risques de l'IA en entreprise. Dopinet conçoit des assistants d'IA pour les entreprises et des chatbots pour site web avec garde-fous et relais humain.

Hallucination (IA) : vos questions.

Pourquoi une IA invente-t-elle des réponses ?

Un modèle de langage génère le texte le plus plausible d'après ce qu'il a appris, sans vérifier les faits. Quand l'information lui manque ou que la question est ambiguë, il peut produire une réponse convaincante mais fausse plutôt que d'avouer son ignorance.

Peut-on supprimer totalement les hallucinations ?

Non, pas à ce jour. On peut en revanche les réduire fortement en fournissant des sources fiables, en limitant le périmètre, en demandant de citer les sources et de reconnaître l'incertitude, et en gardant une vérification humaine pour les sujets sensibles.

Une entreprise est-elle responsable de ce que dit son chatbot ?

Dans les faits, oui, vis-à-vis de ses clients : les informations données par son assistant engagent son image et peuvent être invoquées. D'où l'importance de cadrer le chatbot, d'éviter qu'il prenne des engagements et de prévoir un relais humain.

Besoin d'aide sur ce sujet ?

Parlez-nous de votre projet : réponse rapide et devis détaillé.