Série · Ce que dit la science
Les IA déforment les documents en silence — pourquoi « un assistant généraliste + un PDF » ne suffit pas
Manent — 15 juillet 2026
« Prenez un assistant IA généraliste, joignez-lui votre documentation, posez vos questions. »
C'est le réflexe de beaucoup d'entreprises. La recherche vient de montrer
pourquoi c'est risqué — et c'est exactement le risque contre lequel Manent
est conçu.
Ce que dit la recherche
En 2026, une équipe de Microsoft Research a publié
DELEGATE-52, une évaluation de 19 modèles de langage — dont
les meilleurs du marché — sur des tâches où on leur délègue le travail sur
un document au fil d'une longue conversation. Le constat est frappant :
les modèles déforment silencieusement le contenu. Pas des
fautes visibles — un chiffre qui dérive, une date qui migre, deux noms qui
s'inversent, une valeur qui bouge de quelques unités — pendant que
le texte reste impeccable et convaincant.
L'ampleur : chez les meilleurs modèles, de l'ordre de 25 % du
contenu altéré au fil d'une vingtaine d'échanges, avec des chutes
brutales concentrées sur quelques tours. Et un résultat contre-intuitif :
donner des outils au modèle empire les choses — plus il
manipule, plus il dérive.
Honnêteté sur la portée : DELEGATE-52 mesure
l'édition de documents, pas le simple question-réponse. On n'en
conclut donc pas « un assistant généraliste se trompe sur 25 % de vos réponses ». Ce qu'il
faut retenir, c'est le mécanisme : une IA qui travaille de
mémoire, sans jamais vérifier chaque affirmation contre la source, dérive de
façon plausible et invisible — et ce mécanisme menace tout usage d'un modèle
sur vos documents.
Pourquoi « un assistant généraliste + un PDF joint » hérite du problème
Le montage naïf enchaîne exactement les conditions que l'étude sanctionne :
- Il paraphrase de mémoire au lieu de citer — là où les
valeurs dérivent.
- Rien ne vérifie la réponse contre la source : elle sort
telle quelle, plausible, sans second regard.
- Il ne sait pas se taire : il répond même quand le
document ne couvre pas la question.
- La citation, s'il y en a une, n'est pas vérifiable —
numéro de page approximatif, parfois inventé.
- Le contenu critique est régénéré comme le reste : une
consigne de sécurité reformulée est une consigne potentiellement fausse.
Ce qu'on fait chez Manent
Chaque garde-fou répond à une recommandation de la recherche — vérifier,
restreindre, garder l'humain dans la boucle :
- Vérification d'ancrage. Chaque affirmation d'une réponse
est confrontée à ses sources. Non appuyée → elle n'est pas affichée.
- Citation exacte. Fichier, section, page (ou minute d'une
vidéo). La dérive devient visible : le technicien ouvre la page
et vérifie.
- Droit de se taire. Sans source fiable, l'assistant le
dit et renvoie à un expert, au lieu d'inventer pour combler.
- Sécurité citée mot pour mot, jamais reformulée — et
vérifiée avec un modèle renforcé quand une consigne de sécurité est en
jeu.
- Lecture seule. L'assistant ne modifie jamais vos
documents. Une nouvelle connaissance devient un brouillon, publié
seulement après validation d'un humain de votre équipe.
- Vos données restent chez vous, dans un espace isolé.
Côte à côte
| | Assistant généraliste + PDF | Manent |
|---|
| Vérifie chaque affirmation ? | non | oui, contre la source |
| Cite une source vérifiable ? | rarement | fichier + page, à ouvrir |
| Sait se taire ? | non | oui — il s'abstient |
| Consigne de sécurité | reformulée | citée mot pour mot |
| Nouvelle connaissance | aucune trace | brouillon → validation humaine |
| Vos données | serveurs partagés | espace isolé |
La différence, en une phrase : un assistant généraliste à
qui on joint un PDF répond « de tête, d'après votre document »; Manent répond
« d'après la page 42 de ce fichier-ci — et si je n'ai pas de source, je ne
réponds pas ». Sur le terrain, un mauvais couple de serrage récité avec
aplomb coûte plus cher qu'un « je ne suis pas sûr, voici la page ».
Ce qu'on ne prétend pas : aucun outil n'est
immunisé par magie. La bonne preuve n'est pas un chiffre marketing, c'est de
mesurer l'exactitude de citation sur VOTRE corpus — ce que le
rapport d'audit et le banc de mesure font, sur vos documents.
Références
- Laban, P., Schnabel, T., Neville, J. (2026). LLMs Corrupt Your
Documents When You Delegate (DELEGATE-52). Microsoft Research.
Prépublication arXiv 2604.15597 ; code : microsoft/DELEGATE52.
- Couverture indépendante : The Register, Windows News (mai 2026).
Mesurer la fiabilité sur mon corpus