Pourquoi une réponse convaincante peut être fausse ?

Une réponse convaincante peut être fausse parce que l’IA produit du texte plausible sans garantir chaque fait. Vérifiez les affirmations utiles dans une source indépendante avant de vous en servir.

Ce que ça veut dire

Une hallucination est une information inventée ou inexacte que l’IA présente comme plausible. Elle peut prendre la forme d’un lieu, d’une règle ou d’un document qui n’existe pas. Le problème peut aussi être plus discret : une information ancienne est présentée comme actuelle.

Un modèle de langage est un système entraîné à produire du langage à partir de nombreux exemples. Il compose sa réponse selon des régularités apprises et le contexte disponible. Cette capacité à écrire ne constitue pas, à elle seule, un contrôle de vérité.

La CNIL explique les limites des systèmes d’IA générative. Une réponse peut paraître plausible tout en étant inexacte. Une présentation soignée ne permet donc pas de décider si vous pouvez reprendre une affirmation.

Un exemple concret

Imaginons que vous prépariez une invitation à visiter une exposition. L’assistant propose un message et ajoute que l’entrée est gratuite. Cette affirmation change peut-être votre décision. Elle mérite un contrôle séparé, même si le reste du message convient.

Cherchez le site du lieu qui accueille l’exposition. Retrouvez la page consacrée à l’événement et lisez les conditions d’accès. La gratuité peut concerner un public particulier ou dépendre d’une réservation. Une page générale sur le musée ne suffit pas nécessairement à confirmer les conditions de cette exposition.

Si la page contredit la réponse, corrigez le message à partir de l’information officielle. Si vous ne trouvez pas de confirmation, retirez la phrase ou contactez le lieu. Vous n’avez pas à décider entre croire l’IA et croire une autre phrase trouvée au hasard.

Comment chercher une preuve indépendante ?

Commencez par isoler un fait vérifiable, c’est-à-dire une affirmation qui peut être confrontée à des éléments observables. « Le message est chaleureux » relève d’une appréciation. « La visite est gratuite » appelle une preuve sur les conditions d’entrée.

Cherchez une source primaire : l’organisme qui publie directement l’information, le document original ou la page de l’événement. Regardez qui écrit, à quoi la page s’applique et si elle correspond à la période recherchée. Une page ancienne peut être exacte pour un événement passé sans convenir au vôtre.

Le recoupement consiste à comparer des informations issues de sources distinctes. Attention aux reprises : des pages qui copient le même communiqué n’apportent pas des confirmations indépendantes. Cherchez surtout la source qui peut expliquer ou établir le fait concerné.

La traçabilité des sources permet de retrouver l’origine d’une information. Gardez le lien vers la page consultée et notez la date de votre lecture dans vos notes. Vous pourrez y revenir avant de partager le message si les conditions ont pu changer.

Que faire quand la vérification résiste ?

Demander « Es-tu sûr ? » à l’assistant peut produire une correction, mais ne fournit pas une preuve indépendante. Demander à un autre assistant peut révéler un désaccord ; son accord ne garantit pas davantage l’exactitude. Sortez de la discussion et ouvrez le document pertinent.

Un lien proposé peut mener vers une page réelle sans confirmer la phrase. Lisez le passage qui apporte la preuve. Si le lien est inaccessible, cherchez le titre sur le site de l’organisme. Ne remplacez pas automatiquement une page introuvable par un résultat qui lui ressemble.

La fiche vérifier une référence bibliographique donnée par une IA développe ce contrôle pour un livre ou un article cité. La fiche tester une réponse avec une grille de vérification propose une méthode pour des usages plus exigeants.

Pour l’exercice, choisissez une affirmation sans enjeu sensible. Écrivez à côté ce qui la confirme ou ce qui reste inconnu. Si vous ne pouvez pas conclure, indiquez « non confirmé » et n’utilisez pas cette phrase comme un fait. Repérer une limite est un résultat utile : vous savez désormais où la réponse demande un autre travail.

Pour aller plus loin

La prochaine leçon porte sur les informations à retirer avant d’écrire à une IA. Vous préparerez une demande fictive qui conserve le besoin sans exposer de données privées.