Un panel MIT Sloan/BCG de plus de 50 experts s'accorde à 72 % : gouverner un agent comme un « décideur autonome » dissout la responsabilité — un commentaire de lecteur pointe la faille du modèle
Selon le panel d'experts MIT Sloan Management Review et Boston Consulting Group publié le 8 septembre 2026 (Elizabeth M. Renieris, David Kiron, Steven Mills, Anne Kleppe), 72 % des plus de 50 experts interrogés jugent qu'une gouvernance traitant les agents IA comme des « décideurs autonomes » échouera : cela permettrait aux entreprises de « blanchir la responsabilité à travers la machine ». La recommandation n°3 est nette — nommer un humain responsable de chaque décision. Un commentaire publié sous l'article le 12 septembre, signé Srikanth Devarajan, pose la question qui nous concerne directement : si une entreprise fait tourner cinquante agents, qui relit tous ces points de contrôle ?
Le panel — plus de 50 praticiens, universitaires et régulateurs réunis pour la cinquième année consécutive — répondait à une affirmation volontairement provocatrice : « une gouvernance responsable qui traite les agents comme des décideurs autonomes échouera ». 71,5 % des répondants (17,9 % tout à fait d'accord, 53,6 % d'accord) confirment. L'argument central, résumé par Simon Chesterman (National University of Singapore) : « plus nous parlons comme si les agents 'décidaient', plus il devient facile pour les entreprises et les gouvernements de blanchir la responsabilité à travers la machine : le modèle a recommandé, l'agent a agi, l'humain a haussé les épaules. » La recommandation n°3 du panel : « les régulateurs, les tribunaux et les conseils d'administration ont besoin de quelqu'un à qui demander des comptes, et pointer 'l'agent IA' n'y suffira pas » — nommer une personne responsable de chaque décision, avant le déploiement, pas après l'incident.
Le commentaire le plus utile n'est pas dans l'article : c'est la réponse d'un lecteur, Srikanth Devarajan, publiée trois jours plus tard. Il accepte la recommandation puis pose la question que l'article laisse ouverte : « si une organisation fait tourner cinquante agents, combien de points de contrôle cela exige-t-il, et qui les relit tous ? » Nommer un humain responsable ne supprime pas le travail de relecture, il le déplace — et les agents se déploient justement pour réduire l'effectif, pas pour l'augmenter. C'est exactement la question qu'un dirigeant de réseau de domiciliation doit se poser avant de signer avec n'importe quel fournisseur d'agent : qui, chez moi, va relire quoi, et avec quel temps disponible ?
Pour AppH
- Le Pack Accueil ne crée pas cinquante points de contrôle : le volume de décisions à relire est borné par le nombre de visiteurs qui se présentent réellement au mostrador ce jour-là, pas multiplié par la vitesse d'un agent. La personne qui approuve est déjà là, à son poste — l'approbation s'ajoute à un travail existant, elle ne crée pas un rôle de relecture séparé.
- La recommandation n°3 du panel (« nommer un humain responsable, avant le déploiement ») est déjà la structure du Pack Accueil : chaque conversation reste attachée au dossier de l'agence et à la personne qui la valide, jamais à « l'IA a décidé ».
Contre / la limite honnête
- Le panel le dit aussi (recommandation n°4) : gouverner « le système, pas l'agent » — la responsabilité se déplace vers l'entreprise qui déploie l'agent, pas vers celle qui l'a construit. Cela veut dire que la charge de relecture reste, in fine, celle du personnel de l'agence de domiciliation, pas d'AppH.
- L'objection de Devarajan reste vraie si un client déploie AppManager pour automatiser bien plus qu'un seul flux d'accueil — dix agences, plusieurs modules à la fois. AppH n'a pas encore rencontré ce cas à l'échelle décrite (cinquante agents), et n'a pas de réponse magique pour le jour où il arrivera.
Ce panel confirme une intuition qu'on répète depuis le premier jour : la « décision autonome » est une fiction pratique qui arrange tout le monde jusqu'à l'incident. Mais le commentaire de Devarajan est le test que l'article lui-même ne fait pas passer à sa propre recommandation — nommer un humain ne fonctionne que si cet humain a le temps de vraiment relire. Notre réponse n'est pas « nous avons résolu ce problème », c'est plus modeste : au mostrador d'une agence, la personne qui approuve existe déjà, physiquement, avant même qu'AppManager arrive. Nous n'avons pas encore le cas à cinquante agents ; le jour où un client nous le demandera, nous lui poserons la même question que Devarajan.
Vérifié par un humain d'AppH