Notre glossaire, méticuleusement élaboré, est votre boussole dans l’univers complexe et dynamique du marketing, de la communication et du digital. Ici, chaque terme est une clé que nous vous aidons à décrypter pour vous ouvrir a des concepts innovants et des stratégies éprouvées. Plongez dans nos thématiques pour éclairer votre chemin vers l’excellence et la créativité.
En intelligence artificielle, une hallucination désigne un contenu produit par un modèle génératif qui paraît plausible mais se révèle faux, incohérent ou non fondé sur les sources dont il dispose. Le modèle « invente » alors un fait ou une information.
Le phénomène concerne en premier lieu les modèles de langage et, plus largement, l’IA générative. Ces modèles produisent du texte en prédisant, élément par élément, une suite probable. Ils sont entraînés à produire une réponse vraisemblable, non à vérifier qu’elle est exacte. L’hallucination prend la forme d’une date, d’un chiffre ou d’un nom erroné, ou d’une citation inventée. Elle peut aussi prêter à une source ce qu’elle ne dit pas, ou glisser une étape fausse dans un raisonnement. Le ton reste le même, que l’énoncé soit exact ou non.
Une étude de synthèse de référence (Ji et al., « Survey of Hallucination in Natural Language Generation », diffusée en 2022 puis publiée en 2023 dans la revue ACM Computing Surveys) distingue deux catégories. L’hallucination intrinsèque contredit la source fournie au modèle. L’hallucination extrinsèque affirme ce que cette source ne permet ni de confirmer ni d’infirmer.
L’hallucination se distingue du biais algorithmique, écart systématique qui reproduit les déséquilibres des données d’entraînement : un biais peut produire un énoncé exact mais orienté, l’hallucination produit un énoncé faux. Elle se distingue aussi de la reprise fidèle d’une source erronée, où l’erreur vient de la source et non du modèle. Le workslop et l’IA Slop désignent des contenus médiocres ou superficiels, qui peuvent contenir des hallucinations sans s’y réduire. En marketing et en communication, le risque touche la rédaction, la synthèse documentaire, la veille et les assistants conversationnels au contact des clients.
La fréquence des hallucinations dépend du modèle utilisé, de la consigne et du domaine abordé. Une prépublication de 2025 (Kalai et al., « Why Language Models Hallucinate ») en propose une explication. Selon ses auteurs, l’entraînement et l’évaluation des modèles récompensent la réponse hasardée plutôt que l’aveu d’incertitude. Comme un candidat à un questionnaire noté sans pénalité, le modèle a intérêt à deviner. Les auteurs proposent de modifier la notation des évaluations de référence existantes. Tant que ces règles ne changent pas, rien n’indique que la version suivante d’un modèle fera disparaître le problème. Nous recommandons de traiter l’hallucination comme un risque permanent, dont on réduit la probabilité et l’impact.
Le fine-tuning ne règle pas le problème à lui seul : il adapte le style et le domaine du modèle, sans lui donner un moyen de vérifier ce qu’il affirme.
Le NIST, institut américain des normes et de la technologie, a publié en juillet 2024 un profil de son cadre de gestion des risques consacré à l’IA générative (NIST AI 600-1). Il range la « confabulation », nom qu’il donne aux hallucinations, parmi les douze risques propres à l’IA générative ou aggravés par elle. Pour une direction marketing, la traduction est concrète. Nous recommandons de classer les usages selon la gravité d’une erreur. Elle est faible pour une recherche d’idées, élevée pour un contenu publié, une réponse à un client ou un chiffre cité. À chaque niveau correspondent une règle de vérification et un responsable. Ces règles prennent place dans le cadre éthique de l’IA de l’organisation. Les usages non déclarés, ou Shadow IA, échappent à ce contrôle : c’est une raison de plus de les encadrer.
Nous proposons trois indicateurs internes, à suivre usage par usage. Le premier est la part des réponses contenant au moins une erreur factuelle, mesurée sur un échantillon vérifié. Le deuxième est la part des affirmations accompagnées d’une source contrôlable. Le troisième est le nombre d’erreurs détectées après diffusion. La détection automatique des hallucinations reste un champ de recherche actif : le contrôle humain par échantillon demeure la référence.
Advalians sensibilise et acculture vos équipes à l’IA générative, puis accompagne pas à pas son déploiement sur des cas d’usage choisis ensemble.
L’hallucination produit une information fausse ; le biais algorithmique produit une information orientée. Une hallucination invente une date, un chiffre ou une source. Un biais reproduit de façon systématique un déséquilibre présent dans les données d’entraînement, par exemple une représentation stéréotypée d’un métier, même lorsque chaque énoncé pris isolément est exact.
Les remèdes diffèrent. Contre l’hallucination, on vérifie les faits sur des sources. Contre le biais, on audite les résultats sur un grand nombre de cas et on compare les traitements selon les populations concernées.
Combinez trois mesures. Fournissez au modèle vos documents de référence, par exemple au moyen d’un RAG, plutôt que de compter sur ses connaissances. Demandez-lui de citer le passage sur lequel il s’appuie et de signaler ce qu’il ignore. Faites vérifier par une personne chaque fait destiné à être publié : chiffres, noms, dates, citations, références.
Formalisez ces règles dans une procédure courte, connue de toute l’équipe. Indiquez pour chaque type de contenu le niveau de vérification attendu et la personne qui valide avant diffusion.
Constituez un jeu d’essai représentatif de vos usages : à titre indicatif, quelques dizaines de questions au moins, dont vous connaissez la réponse exacte et la source. Soumettez-le à l’outil dans ses conditions réelles d’utilisation, avec vos documents et vos consignes.
Faites classer chaque réponse par deux relecteurs : exacte, partiellement exacte, fausse, ou refus de répondre. Le taux de réponses fausses est votre indicateur principal. Un refus de répondre vaut mieux qu’une erreur assurée. Répétez le test à chaque changement de modèle ou de consigne, car les résultats évoluent.
Pas comme seul contrôle. Un modèle à qui l’on demande de confirmer une affirmation peut la valider avec la même assurance qu’il l’a produite, voire inventer une source à l’appui. L’autovérification peut repérer certaines incohérences internes, mais elle ne détecte pas de façon fiable les faits inventés.
Gardez-la comme premier filtre. Vérifiez ensuite sur une source extérieure tout ce qui sera publié ou transmis à un client : chiffres, noms, dates, citations, références. Une référence bibliographique se contrôle en retrouvant le document lui-même, pas son résumé par l’outil.
Renoncez-y lorsque l’erreur est grave et que la vérification coûterait plus cher que le travail lui-même. C’est le cas d’un contenu réglementaire, d’une réponse juridique ou médicale donnée à un client sans relecture, ou d’une étude dont chaque chiffre devrait être recontrôlé.
L’IA reste utile lorsque l’erreur se repère facilement ou porte peu à conséquence : recherche d’idées, reformulation d’un texte que vous maîtrisez, premier plan d’un document. Critère simple : si vous ne pouvez pas vérifier le résultat, ne le publiez pas.
Par Thomas Bizot – Président du cabinet Advalians
Quand une banque d’affaires évalue une agence avant de la racheter, elle applique..
Dans un contexte où l’intelligence artificielle s’invite désormais dans tous les métiers, le..
