Chatbot IA dit n'importe quoi : 4 causes d'hallucinations
Votre chatbot invente des reponses ? 4 causes d'hallucinations : sources absentes, contradictions, perimetre trop large, absence de regle de refus. Corrigez.
En bref
Ce qu'il faut retenir
Votre chatbot invente des reponses ? 4 causes d'hallucinations : sources absentes, contradictions, perimetre trop large, absence de regle de refus. Corrigez.
Ce contenu appartient au cluster ia et automatisation du supportet relie le sujet aux ressources utiles pour passer de l'analyse a l'action.
Reponse courte : 4 causes d'hallucinations et comment les corriger
Quand un chatbot invente des reponses (hallucinations), les 4 causes sont : (1) sources absentes ou insuffisantes, (2) contradictions entre sources, (3) perimetre trop large (le bot repond hors de ses sources), (4) absence de regle de refus. Corrigez dans l'ordre : sources > contradictions > perimetre > refus.
Cause 1 : sources absentes ou insuffisantes
Diagnostic : le bot repond avec des informations generiques ou inventees. Solution : identifiez les questions sans reponse dans les analytics, creez les sources manquantes (FAQ, pages, documents), testez avec des formulations reelles. Priorite : les 10 questions les plus posees. Regle : pas de source = pas de reponse.
Cause 2 : contradictions entre sources
Diagnostic : le bot donne des reponses differentes selon la formulation. Solution : auditez vos sources (FAQ, pages, documents), supprimez les contradictions, designez une source de reference unique. Exemple : si la FAQ dit 'retour 14 jours' et la page produit dit 'retour 30 jours', harmonisez. Testez avec 10 formulations pour verifier la coherence.
Cause 3 : perimetre trop large
Diagnostic : le bot repond a des questions hors de ses sources (avis personnels, predictions, conseils non documentes). Solution : reduisez le perimetre automatise aux questions avec sources fiables. Ajoutez une regle explicite : 'si la reponse n'est pas dans les sources, dire je ne sais pas et escalader'. Testez avec des questions hors perimetre.
Cause 4 : absence de regle de refus
Diagnostic : le bot repond meme quand il ne sait pas (au lieu de dire 'je ne sais pas'). Solution : ajoutez une regle explicite : 'si la source manque ou est incertaine, dire je ne sais pas et proposer un transfert'. Testez avec 20 questions sans source pour verifier que le bot refuse correctement.
Checklist anti-hallucination
- 1. Auditez les sources : supprimez contradictions, ajoutez manquantes. 2. Reduisez le perimetre : automatisez uniquement les questions avec sources fiables. 3. Ajoutez la regle de refus : 'si pas de source, dire je ne sais pas'. 4. Testez avec 50 questions (dont 10 hors perimetre). 5. Mesurez : taux de reponses correctes > 95%, taux de refus > 90% sur questions hors source. 6. Iterez chaque semaine.
FAQ — chatbot hallucinations
- Pourquoi mon chatbot invente des reponses ? — 4 causes : sources absentes, contradictions, perimetre large, pas de regle de refus.
- Comment corriger ? — Sources > contradictions > perimetre > refus.
- Combien de temps ? — 1 a 5 jours selon la cause.
- Faut-il reentrainer le modele ? — Non, corrigez les sources, pas le modele.
- Comment prevenir ? — Auditez les sources chaque mois, testez avec des cas limites.
Corriger avec Octobot
Octobot identifie automatiquement les reponses sans source, les contradictions et les hallucinations potentielles. Les analytics suivent le taux de reponses correctes. Corrigez les sources, retestez. Essai gratuit sur /tarifs.
Methode editoriale
L'equipe Octobot structure ses contenus a partir des questions operationnelles des equipes support, des fonctionnalites documentees du produit et des sources citees lorsqu'une affirmation externe l'exige. Les chiffres, tarifs et fonctionnalites susceptibles d'evoluer doivent etre verifies avant toute decision.