Ce que la recherche dit sur les IA qui citent leurs sources

« Branchez un modèle de langage sur vos documents » — voilà comment la plupart des assistants IA sont vendus. La recherche est plus exigeante que ça, et c'est précisément là qu'on a construit Manent.

Ce que dit la recherche

La technique de base s'appelle le RAG (retrieval-augmented generation) : on récupère des passages pertinents et on les donne au modèle avant qu'il réponde (Lewis et al., 2020). Mais les travaux plus récents sont formels : fournir des documents ne garantit pas une réponse fidèle. Le modèle peut quand même inventer, mélanger deux sources, ou attribuer une phrase au mauvais passage.

La parade qui ressort de la littérature, c'est la génération ancrée par vérification de citation : on décompose la réponse en affirmations, et on vérifie chacune contre les sources avant de la montrer. Des revues récentes du domaine rapportent que cette discipline permet d'atteindre de très hauts niveaux d'exactitude de citation — jusqu'à l'ordre de 90 %+ — en réduisant fortement les hallucinations, là où un RAG « naïf » laisse passer beaucoup d'erreurs d'attribution.

Ce qu'on fait chez Manent

On a fait de cette exigence une règle non négociable du moteur, pas une option :

• Réponse extractive d'abord. Quand une source dit clairement la réponse, on la cite telle quelle — pas de reformulation qui pourrait déraper.
• Vérification d'ancrage. Chaque affirmation est confrontée à ses sources (supportée / non supportée / contredite). Une réponse non appuyée n'est pas affichée.
• Répondre quand c'est sûr. Quand un cas sort du documenté, l'assistant vous l'indique et transforme ce moment en fiche à faire valider par votre expert.
• Citation exacte, toujours. Fichier, section, page (ou minute pour une vidéo de formation). Le technicien confirme sur la page 42 de son manuel, en une seconde.

Références

1. Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS.
2. Revue systématique du RAG (2020–2025), synthèse de plus d'une centaine de travaux sur l'ancrage et la vérification de citation (prépublication arXiv, 2025).