LLM hallucination : peut-on les assimiler à des mensonges ?

LLM hallucination : qu'est-ce que c'est ?

‍

LLM hallucination : ce phénomène en intelligence artificielle (IA) désigne les réponses générées par l'IA qui contiennent des informations fausses ou trompeuses, parfois de pures inventions, présentées comme des faits.

Dans le domaine des grands modèle de langage (LLM), une ia hallucination est souvent définie comme du contenu généré qui semble factuel mais qui n'est pas fondé. Il s'agit de moments où les modèles de langage génèrent des informations inexactes ou totalement imaginaires.

Ce phénomène, où l'IA invente ou déforme des éléments, est couramment désigné sous le terme d' hallucination. Ces erreurs se produisent car les modèles d ia générative (ou large language model llm) génèrent du texte en prédisant le mot ou la phrase le plus probable, et non en vérifiant les faits. Elles peuvent apparaître plausibles et bien construites, mais sont en réalité inventées.

‍

LLM hallucination : pourquoi surviennent-elles ?

‍

Les LLM (large language models llms) hallucinent en raison de la façon dont ils sont construits et entraînés. Leur objectif principal est de prédire la séquence de mots la plus probable basée sur les modèles dans leurs données d'entraînement.

Ils ne possèdent pas de sens intrinsèque de la vérité. Plusieurs facteurs contribuent aux hallucinations, notamment l'accès limité aux connaissances en temps réel, les lacunes ou biais dans les données d'entraînement, les prompts ambigus ou ouverts, le manque de compréhension du monde réel, les limitations algorithmiques, et une surconfiance dans le texte généré. L'hallucination peut même être un sous-produit statistiquement inévitable d'un modèle génératif imparfait entraîné à maximiser la vraisemblance de l'entraînement.

‍

LLM hallucination : types d'erreurs

‍

Les hallucinations peuvent être classées de différentes manières. Les types courants d'hallucinations incluent les erreurs factuelles, où le modèle génère des sorties qui contredisent des faits connus. Cela peut se manifester par des faits incorrects, l'invention d'entités ou d'événements non existants, de fausses citations et références scientifiques.

Un autre type est les erreurs de fidélité, qui se produisent lorsque la sortie du modèle diverge de l'input ou du contexte fourni. Cela inclut la déviation des instructions ou une incohérence contextuelle. On distingue également les hallucinations intrinsèques (contredisant la source ou ne pouvant être vérifiées à partir de la source) et extrinsèques (contredisant le prompt ou non).

Les modèles peuvent également faire des erreurs de calcul et statistiques ou générer des réponses spéculatives sur des événements futurs ou des scénarios hypothétiques.

‍

LLM hallucination : débat sur la terminologie

‍

Le terme "hallucination" dans le domaine de l'IA fait l'objet de critiques dans la communauté scientifique. Certains chercheurs l'évitent car il peut être trompeur.

L'IA été critiqué pour sa tendance à personnifier de manière trompeuse les grands modèles linguistiques et pour être vague. Des alternatives comme "confabulation", "fabrications", "erreurs factuelles", "bullshitting" ou "délire" ont été suggérées.

Le terme "hallucination" dessine une analogie lâche avec la psychologie humaine, mais une différence essentielle est que l'hallucination IA est associée à des réponses construites de manière erronée (confabulation), plutôt qu'à des expériences perceptuelles. Les LLM ne comprennent pas ce que les mots signifient, ce qui rend l'anthropomorphisation problématique.

‍

LLM hallucination : comment les détecter ?

‍

Détecter les hallucinations dans les LLM est un défi complexe. Plusieurs approches existent, comme la vérification croisée des sorties avec des sources externes fiables, la vérification de la cohérence contextuelle, l'utilisation d'outils automatisés (par exemple, l'entropie sémantique pour mesurer l'incertitude ou des systèmes de vérification des faits), et la supervision humaine.

Utiliser plusieurs modèles LLM pour tester et affiner le système pour vérifier les réponses générées peut aussi aider, car les hallucinations sont moins susceptibles d'être cohérentes entre différents modèles. Les modèles peuvent également être équipés de mécanismes d'évaluation de la confiance interne.

‍

LLM hallucination : stratégies pour les réduire

‍

Plusieurs techniques visent à réduire les hallucinations. L'une des plus efficaces est le Retrieval-Augmented Generation (RAG), qui intègre la récupération de connaissances externes (comme des bases de données ou des documents) avant de générer une réponse, ancrant ainsi le processus de génération dans des informations factuelles.

‍

👉Découvrez la formation RAG de la BBS, éligible au CPF !

‍

Améliorer la qualité, la diversité et l'annotation des données d'entraînement est crucial. Affiner les prompts en les rendant clairs, concis et spécifiques ou en imposant un format de réponse vérifiable peut également minimiser l'ambiguïté et inciter le modèle à s'appuyer sur des éléments concrets. Le fine-tuning, notamment sur des ensembles de données de haute qualité et spécifiques à un domaine, peut aider à réduire les hallucinations. L'intégration d'une supervision humaine et l'utilisation de plusieurs agents d'IA pour vérifier les faits les uns des autres sont d'autres approches.

‍

LLM hallucination : un défi persistant ?

‍

Malgré les efforts d'atténuation, l'hallucination est considérée comme un défi majeur et certains pensent que ce phénomène existera toujours en raison de la nature fondamentale des LLM.

Un aspect particulièrement difficile est l'existence d'hallucinations générées avec une grande certitude (appelées CHOKE dans une source), même lorsque le modèle possède les connaissances correctes. Ces hallucinations défient l'hypothèse courante qui lie les hallucinations principalement à une faible incertitude du modèle.

Les méthodes d'atténuation basées sur l'incertitude échouent à traiter une partie significative de ces hallucinations à haute certitude. Les défis pour atténuer les hallucinations incluent le coût computationnel élevé de certaines méthodes comme le RAG, les problèmes de qualité des données, l'amplification des biais, les difficultés avec la conscience contextuelle sur de longues interactions, la complexité d'intégration des outils avancés et la mise à l'échelle du feedback utilisateur.

‍

LLM hallucination : implications et vigilance requise

‍

Les hallucinations posent de sérieux problèmes, notamment dans les domaines où l'exactitude des informations est primordiale, comme la santé, la finance, le droit et l'éducation. Elles peuvent désinformer les utilisateurs, entraîner de mauvaises décisions ou propager de la désinformation. Distinguer les informations vérifiées des hallucinations est difficile car les LLM génèrent souvent des réponses plausibles.

C'est pourquoi la vigilance est essentielle. Il est crucial de tester rigoureusement votre modèle et les performances globales du système, vérifier les sources proposées par les IA avant de l utiliser. Pensez également à doubler les sorties pour les tâches critiques.

Tester régulièrement la fiabilité de l'outil avec des questions dont on connaît déjà la réponse peut aider à identifier ses points faibles. En pratique, utiliser les LLM doit être traité comme l'utilisation de Google ou Wikipedia, où l'on doit avoir des habitudes formées pour valider toute information importante.

‍

LLM hallucination : l'IA nous ment-elle ?

‍

La question de savoir si les hallucinations des grands modèles de langage (LLM) peuvent être assimilées à des mensonges soulève des débats importants. Le mensonge implique une intention délibérée de tromper, fondée sur la connaissance de la vérité. Or, les LLM, tels que ChatGPT, ne possèdent ni conscience, ni compréhension réelle du monde, ni intentionnalité. Ils génèrent du texte en prédisant la suite la plus probable d'une séquence de mots, sans discernement sur la véracité de l'information produite.

Ainsi, lorsqu'un LLM fournit une information incorrecte, il ne ment pas au sens strict, car il n'a pas la capacité de distinguer le vrai du faux ni l'intention de tromper. Il s'agit plutôt d'une erreur systémique liée à son mode de fonctionnement probabiliste. Cependant, ces erreurs peuvent être perçues comme des mensonges par les utilisateurs, surtout lorsque l'IA s'exprime avec assurance sur des sujets factuellement erronés.

‍

Il est donc essentiel de comprendre que les hallucinations des LLM ne sont pas des mensonges intentionnels, mais des limitations inhérentes à leur conception. Cela souligne l'importance d'une utilisation critique et informée de ces outils, en vérifiant les informations fournies et en étant conscient de leurs limites.

L'intégration de systèmes de filtrage et de seuils probabilistes peut significativement contribuer à réduire les hallucinations des grands modèles de langage (LLM). Ces approches permettent de moduler la génération de texte en fonction de la confiance du modèle dans ses réponses, améliorant ainsi la fiabilité des informations produites.

‍