Un panel de MIT Sloan y BCG con más de 50 expertos coincide al 72 %: gobernar un agente como «decisor autónomo» diluye la responsabilidad — y un lector señala la grieta del modelo
Según el panel de expertos de MIT Sloan Management Review y Boston Consulting Group publicado el 8 de septiembre de 2026 (Elizabeth M. Renieris, David Kiron, Steven Mills, Anne Kleppe), el 72 % de los más de 50 expertos consultados considera que una gobernanza que trate a los agentes de IA como «decisores autónomos» fracasará: permitiría a las empresas «blanquear la responsabilidad a través de la máquina». La recomendación n.º 3 es tajante: nombrar a un humano responsable de cada decisión. Un comentario publicado bajo el artículo el 12 de septiembre, firmado por Srikanth Devarajan, plantea la pregunta que nos afecta directamente: si una empresa hace funcionar cincuenta agentes, ¿quién revisa todos esos puntos de control?
El panel —más de 50 profesionales, académicos y reguladores reunidos por quinto año consecutivo— respondía a una afirmación deliberadamente provocadora: «una gobernanza responsable que trate a los agentes como decisores autónomos fracasará». El 71,5 % de los encuestados (17,9 % totalmente de acuerdo, 53,6 % de acuerdo) lo confirma. El argumento central, resumido por Simon Chesterman (National University of Singapore): «cuanto más hablamos como si los agentes 'decidieran', más fácil resulta para empresas y gobiernos blanquear la responsabilidad a través de la máquina: el modelo recomendó, el agente actuó, el humano se encogió de hombros». La recomendación n.º 3 del panel: «los reguladores, los tribunales y los consejos de administración necesitan a alguien a quien pedir cuentas, y señalar 'al agente de IA' no será suficiente» — nombrar a una persona responsable de cada decisión, antes del despliegue, no después del incidente.
El comentario más útil no está en el artículo: es la respuesta de un lector, Srikanth Devarajan, publicada tres días después. Acepta la recomendación y luego plantea la pregunta que el artículo deja abierta: «si una organización hace funcionar cincuenta agentes, ¿cuántos puntos de control exige eso, y quién los revisa todos?». Nombrar a un humano responsable no elimina el trabajo de revisión, lo desplaza — y los agentes se despliegan precisamente para reducir plantilla, no para aumentarla. Es exactamente la pregunta que un dirigente de una red de domiciliación debe hacerse antes de firmar con cualquier proveedor de agentes: ¿quién, en mi empresa, va a revisar qué, y con qué tiempo disponible?
A favor de AppH
- El Pack Accueil no crea cincuenta puntos de control: el volumen de decisiones a revisar está acotado por el número de visitantes que realmente se presentan en el mostrador ese día, no multiplicado por la velocidad de un agente. La persona que aprueba ya está allí, en su puesto — la aprobación se suma a un trabajo existente, no crea un rol de revisión separado.
- La recomendación n.º 3 del panel («nombrar a un humano responsable, antes del despliegue») ya es la estructura del Pack Accueil: cada conversación queda ligada al expediente de la agencia y a la persona que la valida, nunca a «la IA decidió».
En contra / el límite honesto
- El panel también lo dice (recomendación n.º 4): gobernar «el sistema, no el agente» — la responsabilidad se desplaza hacia la empresa que despliega el agente, no hacia quien lo construyó. Eso significa que la carga de revisión sigue siendo, en última instancia, del personal de la agencia de domiciliación, no de AppH.
- La objeción de Devarajan sigue siendo válida si un cliente despliega AppManager para automatizar mucho más que un solo flujo de acogida — diez agencias, varios módulos a la vez. AppH todavía no se ha encontrado con ese caso a la escala descrita (cincuenta agentes), y no tiene una respuesta mágica para el día en que llegue.
Este panel confirma una intuición que repetimos desde el primer día: la «decisión autónoma» es una ficción práctica que le conviene a todos hasta que llega el incidente. Pero el comentario de Devarajan es la prueba que el propio artículo no le hace pasar a su recomendación: nombrar a un humano solo funciona si esa persona tiene tiempo de revisar de verdad. Nuestra respuesta no es «hemos resuelto este problema», es más modesta: en el mostrador de una agencia, la persona que aprueba ya existe, físicamente, antes de que AppManager llegue. Todavía no tenemos el caso de cincuenta agentes; el día en que un cliente nos lo pida, le haremos la misma pregunta que Devarajan.
Verificado por un humano de AppH