La source citée par votre IA n’est pas toujours celle qu’elle a lue

Un responsable achats interroge l’assistant installé sur son poste : quelle est la durée de préavis de notre contrat avec ce transporteur ? L’assistant répond 90 jours et joint un lien vers la page 12 du contrat. Le responsable recopie la phrase dans un courriel au fournisseur.

Trois jours plus tard, le juriste ouvre la page 12. Elle indique 30 jours.

L’assistant n’a pas inventé la réponse au hasard. Il a répondu avec ce qu’il savait déjà, puis il a cherché un passage qui confirmait sa réponse. Le lien menait bien à un document réel. Il ne prouvait pas ce qu’on lui faisait dire.

Ce qui se passe quand votre assistant cite une page numérotée

Un assistant branché sur vos documents fonctionne en deux temps. Il cherche d’abord les passages proches de la question, puis il rédige une réponse à partir d’eux. Cette façon de faire porte un nom : la recherche documentaire assistée, ou RAG, pour « génération enrichie par la recherche ».

Le modèle de langage — le programme qui produit le texte — possède une seconde source. Il a été entraîné sur une très grande quantité de textes, et il en garde une mémoire diffuse, faite d’associations entre des mots, des chiffres et des tournures.

L’image est celle d’un employé autorisé à consulter les classeurs avant de répondre. Il ouvre le bon classeur, mais il a aussi cinq ans de maison. Au moment de rédiger, les deux se mélangent. Rien dans sa phrase ne précise laquelle des deux sources a parlé.

Un lien ajouté en fin de phrase ressemble à une preuve. C’est en réalité une affirmation de plus, produite par le même programme que le reste du texte.

L’expérience qui sépare la mémoire du document

Une équipe de recherche a mesuré ce mélange, dans une prépublication déposée le 12 novembre 2026 sur arXiv, la bibliothèque publique de prépublications scientifiques.

La méthode se décrit en trois gestes. On prend le passage que l’assistant a consulté. On y remplace un fait par une variante fausse : 30 jours devient 300 jours. On repose la même question. Si la réponse suit la valeur fausse, le document a bien servi. Si elle reste identique, elle vient d’ailleurs.

C’est la méthode du menu truqué. On change le prix affiché au tableau et on regarde si le serveur annonce encore l’ancien.

Les résultats portent sur cinq tailles d’une même famille de modèles et sur une seconde famille. Entre 1,2 % et 15,7 % des affirmations citables venaient de la mémoire du modèle, et non du passage fourni. Au réglage le plus strict, les deux modèles concernés tombent à 4,6 % et 8,5 %.

Deux précisions comptent pour un dirigeant. D’abord, le taux monte avec la taille du modèle à l’intérieur d’une même famille. Le modèle le plus capable n’est donc pas le plus fidèle à ses sources. Ensuite, même le bas de la fourchette reste mesurable : sur cent références produites dans un mois, une ou deux ne tiennent pas au document.

Pourquoi le contrôle évident ne voit rien

Le réflexe naturel consiste à faire vérifier la réponse par un second modèle. On lui donne la phrase et le passage cité, puis on lui demande si le passage contient bien l’information. C’est ce que la littérature appelle la vérification par inférence : le second programme juge si la phrase découle du texte.

Les chercheurs ont testé ce contrôle. Le résultat est net. Il donne des réponses indiscernables du hasard, sur tous les modèles testés, même lorsqu’on restreint la vérification au seul passage cité.

La cause est structurelle, et c’est le point le plus utile de l’étude. Un modèle qui répond de mémoire choisit ensuite la citation qui s’accorde avec sa réponse. Il ne part pas du document pour arriver à la phrase. Il part de la phrase et cherche un document qui lui ressemble.

C’est un étudiant qui choisit sa citation après avoir écrit sa conclusion. La citation est authentique, la conclusion est plausible, et le lien entre les deux n’a jamais existé. Un correcteur qui compare les deux textes ne voit rien d’anormal.

La provenance — la question de savoir d’où vient une information, et non si elle paraît juste — n’est donc pas vérifiable en comparant la phrase à sa source.

Ce que cela change dans votre façon de vérifier

Quatre pratiques suffisent à couvrir l’essentiel, et aucune ne demande d’outil nouveau.

Traitez la citation comme une piste, pas comme une preuve. Un lien en fin de phrase indique où regarder. Il ne dit pas que la réponse en vient. Cette nuance doit être écrite dans la consigne donnée à l’équipe, parce que le réflexe inverse est très répandu.

Ouvrez le document sur les décisions qui engagent. Contrat, facture, obligation réglementaire, engagement pris auprès d’un client : dans ces quatre cas, une personne ouvre la page et lit la phrase. La lecture coûte quelques minutes. L’erreur, dans l’exemple d’ouverture, se compte en jours de négociation.

Demandez l’extrait, pas la référence. Une phrase recopiée mot pour mot se contrôle en cherchant ce texte dans le document. Une simple référence ne se contrôle qu’en ouvrant le fichier et en relisant le passage entier. La première forme rend la vérification possible en dix secondes.

Ajoutez une mesure qui vous appartient. Prenez vingt réponses récentes au hasard, ouvrez chaque référence, et comptez celles qui tiennent. Le taux obtenu sur vos documents vaut mieux que n’importe quel chiffre publié ailleurs, parce qu’il dépend de votre corpus — l’ensemble de vos documents —, de vos questions et de votre modèle.

Ce dernier point a une conséquence commerciale. Un fournisseur qui annonce une « traçabilité garantie » doit pouvoir produire ce taux, mesuré chez un client, sur des documents réels. Sans ce chiffre, l’annonce reste une intention.

Ce que la recherche ne sait pas encore faire

L’étude ne s’arrête pas au constat. Elle compare dix méthodes capables de rattacher une phrase à sa source.

La meilleure compare deux jeux de réponses du même modèle : celui obtenu avec le document, et celui obtenu sans lui. L’écart entre les deux sépare le mieux ce qui vient du document de ce qui vient de la mémoire. Mais lorsque les chercheurs appliquent ce signal pour corriger le comportement, le gain ne se matérialise pas aux taux observés.

Leur conclusion mérite d’être citée telle quelle : le détecteur mesure ce que le modèle savait, pas ce qu’il a utilisé. Séparer les deux reste un problème ouvert.

Deux conséquences pratiques. Aucun outil du marché ne peut revendiquer aujourd’hui une garantie de provenance sur des cas individuels. Et la méthode de substitution est un instrument de mesure, pas un contrôle de production : elle exige de connaître la bonne valeur pour fabriquer la fausse, puis de reposer la question.

Ce qu’il faut retenir

• Un assistant qui cite une page ne dit pas qu’il a lu cette page. Il ajoute un lien à une réponse qu’il savait déjà écrire.
• Dans l’étude, 1,2 % à 15,7 % des affirmations citées venaient de la mémoire du modèle et non du document fourni.
• Le contrôle réflexe, faire vérifier la réponse par un second modèle, donne des résultats au niveau du hasard.
• Un lien se vérifie en ouvrant le document. Sur un contrat, une facture ou une obligation réglementaire, faites-le à chaque fois.
• Mesurez votre propre taux : vingt références ouvertes au hasard. Ce chiffre vaut mieux que n’importe quelle promesse d’éditeur.
• Aucun outil ne garantit aujourd’hui la provenance d’une phrase. La citation est une piste à contrôler, pas une preuve.