Hallucination (IA)
Définition courte
L'hallucination désigne le moment où un modèle d'IA affirme une chose fausse, sur un ton assuré qui se lit comme un fait établi.
Face à une question dont il ne connaît pas vraiment la réponse, un modèle de langage ne laisse pas le champ vide, il peut produire, à partir de motifs, une réponse plausible mais fausse. C'est l'hallucination, et inventer une source, une date, un chiffre ou une citation en est la forme la plus courante.
Le modèle ne le fait pas volontairement, il n'a aucun moyen de savoir si sa propre production est vraie ou fausse, le ton reste tout aussi assuré dans les deux cas, ce qui rend l'erreur plus difficile à repérer.
Le risque d'hallucination augmente quand le modèle travaille à partir de connaissances datées, quand on l'interroge sur un sujet très pointu, ou quand il génère librement sans s'appuyer sur une source, voir RAG.
Le moyen le plus simple de repérer une hallucination consiste à ouvrir et vérifier chaque source ou lien cité par le modèle ; une source inventée n'existe généralement pas du tout, ou ne contient pas l'information avancée. Toute réponse contenant des chiffres ou des dates ne devrait jamais être publiée avant que vous ne la compariez au document original ou à un registre officiel.
Pourquoi c'est important
Une hallucination laissée sans contrôle signifie qu'un prix erroné, une information juridique fausse ou une source inexistante peut se retrouver dans un message client ou un contenu publié. C'est pourquoi toute production d'IA, surtout avec des chiffres ou des affirmations, a toujours besoin d'une vérification humaine.
Exemple illustratif
Un assistant relié à un système de gestion des SKU a suggéré un code produit inexistant comme s'il était réel, l'équipe l'a repéré avant sa mise en ligne.
