Hallucination IA
Une hallucination (en IA générative) est une sortie du modèle qui paraît cohérente et confiante, mais qui invente des faits, des citations, des chiffres ou des références. Le modèle ne « ment » pas volontairement : il prédit le texte le plus probable, sans garantie de vérité.
C'est le risque n°1 dès qu'un LLM répond sur des sujets factuels : support client, juridique, tarifs, documentation technique. Un assistant interne qui invente une procédure ou un numéro de ticket peut créer plus de travail qu'il n'en évite. C'est pourquoi les architectures RAG, les citations de sources et la validation humaine restent centrales dans les projets IA que nous déployons en entreprise.
Le piège est de croire qu'un modèle « plus puissant » élimine les hallucinations. Un modèle plus fort peut même halluciner de façon plus convaincante. La bonne posture est de réduire le risque (contexte documentaire, formats contraints, garde-fous) et d'accepter une revue humaine là où l'erreur a un coût réel, plutôt que de promettre une fiabilité à 100 %.
