Hallucinations : pourquoi l'IA invente des choses¶
Niveau : Débutant
Une IA peut inventer un chiffre, une citation ou une source avec une assurance totale. Cette fiche décrit les formes que prennent les hallucinations, les signaux d'alerte et une méthode de vérification adaptée à ce qui est en jeu.
Qu'est-ce qu'une hallucination ?¶
Une hallucination est une information fausse présentée avec la même assurance qu'une information exacte. Ce n'est pas un mensonge : le modèle n'a aucune intention. Comme expliqué dans la fiche Qu'est-ce qu'un LLM ?, il produit le texte le plus probable, et une réponse probable n'est pas forcément une réponse vraie.
Les formes les plus courantes¶
- Chiffres et statistiques : un pourcentage précis sans origine réelle.
- Citations : une phrase attribuée à quelqu'un qui ne l'a jamais prononcée.
- Références : un article, une étude, une décision de justice ou une loi qui n'existe pas, avec un titre et une date très crédibles.
- Faits récents : une information postérieure aux connaissances du modèle, inventée pour combler le vide.
- Détails techniques : une fonction, une commande ou une option logicielle qui n'existe pas.
Quand le risque augmente¶
- Plus la question est spécialisée ou rare, moins le modèle dispose de matière fiable.
- Plus la demande est précise (« donne-moi trois chiffres datés »), plus il est tenté de fournir quelque chose, même inexact.
- Lorsque vous forcez une réponse (« cite trois sources »), il peut en fabriquer plutôt que d'admettre qu'il n'en a pas.
- Lorsque le sujet touche à un domaine réglementé (juridique, médical, financier), où une erreur coûte cher.
Signaux d'alerte¶
- Une précision suspecte : un chiffre à deux décimales, une date exacte, sans explication.
- Une source donnée sans lien ou avec un titre trop parfait.
- Un ton très affirmé sur un sujet pourtant débattu.
- Une réponse qui change lorsque vous reposez la question.
Trois réflexes au quotidien¶
1. Demandez les sources, puis ouvrez-les. La demande est utile, mais ne prouve rien : une source citée peut être inventée. Vérifiez qu'elle existe, puis lisez le passage censé confirmer l'affirmation.
2. Fournissez le texte plutôt que de demander de mémoire. Collez ou joignez le document sur lequel l'IA doit travailler, après l'avoir anonymisé si nécessaire (voir la fiche Sécurité et confidentialité des données). Elle s'appuie alors sur ce que vous lui donnez plutôt que sur ce qu'elle croit savoir.
3. Recoupez les points critiques. Un chiffre, une date, un nom, une référence juridique : une seule vérification auprès d'une source fiable évite la plupart des erreurs.
Adapter la vérification aux enjeux¶
| Enjeu | Exemple | Vérification |
|---|---|---|
| Faible | Idée de titre, reformulation | Relecture rapide |
| Moyen | Chiffre dans une présentation interne | Vérifier la source |
| Élevé | Document client, avis juridique, décision | Vérification complète et validation par un responsable |
Un exemple pas à pas¶
Vous demandez à l'assistant un chiffre de marché pour une présentation. Il répond par un pourcentage et le nom d'une étude.
- Vous cherchez l'étude : elle n'existe pas sous ce titre.
- Vous retirez le chiffre ou le remplacez par une donnée sourcée.
- Vous notez que, pour ce type de demande, vous fournirez désormais vous-même la source et demanderez à l'IA de s'y tenir.
La responsabilité vous revient¶
L'IA propose un brouillon de travail ; c'est vous qui validez le résultat. La relecture, la vérification et la validation avant tout usage font partie de la méthode, et non d'une prudence excessive.
Exercice pratique (5 minutes)¶
- Demandez à un outil de citer trois sources sur un sujet de votre choix.
- Vérifiez si chacune existe réellement.
- Vérifiez si elle dit bien ce que l'IA lui fait dire.
- Notez combien sont exactes.