Human-in-the-loop : ce que la recherche dit de la validation humaine

La tentation est grande de laisser l'IA « apprendre toute seule » de ses échanges. La recherche en interaction humain-IA met en garde : sur les décisions à enjeu, l'humain doit rester dans la boucle — pas en décoration, mais comme point de contrôle.

Ce que dit la recherche

Les travaux fondateurs sur l'interaction humain-IA (Amershi et al., 2019, « Guidelines for Human-AI Interaction ») posent des principes devenus des standards : rendre l'IA faillible visible, permettre la correction, garder l'humain aux commandes des actions conséquentes. Plus largement, la littérature sur le human-in-the-loop montre qu'un système qui apprend sans garde-fou humain amplifie ses propres erreurs : une réponse fausse, réinjectée, devient une « vérité » du système.

La conclusion pratique est constante : l'IA propose, mais un humain compétent valide avant que le résultat ne fasse autorité.

Ce qu'on fait chez Manent

La validation humaine n'est pas une option de configuration : c'est une étape obligatoire du parcours d'une connaissance.

• Rien ne se publie tout seul. Une nouvelle réponse ou fiche part en staging — jamais directement en base live.
• Vos experts décident. Un validateur du client approuve, corrige ou rejette avant qu'une fiche ne réponde à tout le monde.
• Pas de boucle d'auto-contamination. Un signal négatif d'un technicien n'écrase rien : il crée un candidat à valider. L'erreur ne se propage pas.
• Réversible. Une fiche publiée qui s'avère mauvaise se retire (rollback) et l'index se recharge — l'humain garde la main même après coup.

Références

1. Amershi, S. et al. (2019). Guidelines for Human-AI Interaction. CHI.
2. Littérature sur le human-in-the-loop en apprentissage automatique (supervision, correction, prévention de l'amplification d'erreurs).