Définition
L’humain dans la boucle signifie que le processus est bâti pour que certaines décisions exigent une personne. Non pas en repli quand la technologie sous-performe, mais comme un contrôle délibéré placé là où l’imputabilité, le risque ou le jugement l’exigent.
Une décision de conception, pas une limite
On décrit souvent l’humain dans la boucle comme un compromis temporaire : garder une personne impliquée jusqu’à ce que l’IA soit assez bonne pour s’en passer. Ce cadrage est faux dans la plupart des contextes d’affaires, et il mène à des systèmes conçus pour finir par jeter le contrôle même qui les rendait sûrs.
Certaines décisions devraient exiger une personne en permanence, quelle que soit l’exactitude atteinte par le modèle. Non parce que la technologie en serait incapable, mais parce que quelqu’un doit en répondre, parce qu’un client a droit à une décision humaine, ou parce que le coût d’une erreur est irrécupérable.
La bonne question n’est jamais « peut-on retirer l’humain ? ». C’est « quelles décisions en exigent réellement un, et la révision est-elle vraiment significative ? ».
Où placer l’humain
Quatre positions distinctes, non interchangeables :
Avant l’action. Le système prépare, une personne approuve, puis l’exécution suit. Pertinent pour tout ce qui est irréversible : paiements, contrats, engagements externes, suppression.
Sur les exceptions seulement. Le système traite les cas où il est confiant et achemine les cas incertains vers une personne. C’est le choix par défaut à fort volume, et le seul qui passe à l’échelle.
Sur un échantillon. Tout se déroule automatiquement, un pourcentage est révisé après coup pour détecter la dérive. Pertinent quand le volume rend impossible une révision dossier par dossier alors que la qualité doit rester surveillée.
À l’escalade. Le système juge qu’il ne peut pas poursuivre et transfère, en joignant son raisonnement. Suppose qu’il sache reconnaître ses limites, ce qui est un problème d’étalonnage.
Le mode d’échec : une révision qui n’en est pas une
La façon la plus courante dont cette conception échoue : l’étape humaine existe sur papier et ne signifie rien en pratique.
Une personne qui approuve quarante réponses rédigées par l’IA à l’heure ne les révise pas. Elle clique. C’est pire qu’une absence de révision, parce que cela fabrique l’apparence d’une supervision sans en fournir aucune, et transfère l’imputabilité vers quelqu’un qui n’a jamais eu de réelle occasion d’intercepter l’erreur.
Une révision significative exige que la personne dispose d’assez de temps et de contexte pour être en désaccord, que l’interface mette en évidence ce dont le système doutait plutôt que de tout présenter avec la même assurance, que le désaccord soit facile à consigner et aboutisse quelque part, et que le volume soit compatible avec l’attention. Si le volume rend la révision réelle impossible, les options honnêtes sont de réduire ce qui doit être révisé, ou d’assumer qu’il s’agit d’une supervision par échantillon et de la concevoir ainsi.
L’approche Automathing
Nous plaçons les points d’approbation selon les conséquences plutôt que selon la confiance dans le modèle, et nous concevons l’interface de révision pour rendre le désaccord facile, en faisant ressortir ce dont le système doutait au lieu de présenter chaque dossier de façon identique. Quand le volume ferait de la révision un tampon, nous le disons et nous changeons la conception : une supervision incapable de fonctionner est une responsabilité, pas un contrôle.
Foire aux questions
Quand un humain doit-il toujours approuver une décision d’IA ?
Chaque fois que l’action est irréversible ou que la conséquence est irrécupérable : déplacer de l’argent, signer ou résilier une entente, supprimer des dossiers, communiquer un engagement à l’externe, et tout ce qui a une portée juridique ou réglementaire. Également chaque fois qu’une personne a droit à une décision humaine, ce qui est une question d’équité avant d’être une question technique.
L’humain dans la boucle annule-t-il le gain d’efficacité ?
Seulement si l’étape humaine est mal placée. Une révision sur les exceptions préserve l’essentiel du gain, puisque le volume nécessitant attention chute fortement. Une révision de tout n’en préserve presque rien. L’objectif d’ingénierie est que le système sache de façon fiable quels dossiers exigent une personne, afin que l’effort de révision se concentre là où il change le résultat.
En quoi est-ce différent des garde-fous ?
Les garde-fous sont des contraintes automatisées : le système ne peut physiquement pas les dépasser. L’humain dans la boucle introduit un jugement que le système n’a pas. Les garde-fous traitent ce qu’on peut spécifier d’avance ; la révision humaine traite ce qu’on ne peut pas. Les conceptions solides utilisent les deux.
La réglementation exige-t-elle une supervision humaine ?
Cela dépend de la juridiction et du type de décision, et c’est une question juridique plutôt que technique, puisque nous ne sommes pas avocats. De façon générale, les cadres qui émergent autour de la décision automatisée visent surtout les décisions ayant des effets importants sur des personnes, en exigeant une combinaison de divulgation, de révision humaine et d’explication. À valider avec un conseiller juridique de votre secteur avant de concevoir le processus, pas après.