CIO.com el 3 de septiembre de 2026: el verdadero riesgo no es la ausencia de humano en el bucle, es su desgaste — la prueba de 3 preguntas, y dónde se sitúa AppH
El 3 de septiembre de 2026, CIO.com publicó «When AI's human in the loop really isn't», de Grant Gross: más allá del problema ya conocido del botón de aprobación cosmético, el artículo señala un segundo riesgo, más insidioso — la fatiga de decisión. Cuando un agente acierta el 95% del tiempo, la vigilancia humana se erosiona y la validación se convierte en un trámite. El artículo propone una prueba concreta de tres preguntas para distinguir un control humano real de un sello automático; así responde el gate de aprobación de AppManager, sin esconderse detrás de adjetivos.
Según Grant Gross (CIO.com, 3 de septiembre de 2026), la crítica al «human-in-the-loop» superficial no se detiene en la ausencia de control real — Doug Shepherd (Cloudflare) describe el caso más común como un humano «adyacente al bucle»: puede ver y señalar, pero no detener realmente la acción. El artículo va más allá con un segundo problema, distinto e igual de real: la fatiga de decisión. Eric Billingsley (TrustScale) lo formula sin rodeos: «Si el sistema acierta el 95% del tiempo, el trabajo de la persona se convierte en esperar el caso raro en que se equivoca. Los humanos no somos especialmente buenos para la vigilancia sostenida... Con el tiempo, la revisión se convierte en confirmación.» Robert Blumofe (CTO de Akamai) lo confirma: la diligencia se desgasta, y el human-in-the-loop se transforma en aprobación mecánica — su recomendación es añadir, además del humano, salvaguardas no-IA capaces de pausar el trabajo del agente automáticamente, sin esperar un clic. Darren Kimura (AISquared) resume la prueba que separa un control real de una simple observación en tres preguntas: ¿puede el revisor detener la acción antes de que surta efecto? ¿Puede modificar el resultado? ¿Sus decisiones quedan registradas y realmente se aplican aguas abajo? Si la respuesta a cualquiera de estas preguntas es no, advierte Kimura, el humano solo está monitoreando la IA — no la controla.
Sobre las tres preguntas de Kimura, el gate de aprobación de AppManager responde claramente que sí a las tres. ¿Se puede detener la acción antes de que surta efecto? Sí — ninguna acción de agente con consecuencia real se ejecuta sin validación explícita del dueño o de un admin en el módulo Automations, no es una alerta informativa que se pueda ignorar. ¿Se puede modificar o rechazar? Sí, en la misma interfaz. ¿El override queda registrado y se aplica aguas abajo? Sí — cada decisión (aprobada, modificada, rechazada) deja una entrada en el registro de auditoría por actor y por módulo, consultable después. Sobre la fatiga de decisión, en cambio, AppH no pretende escapar de ella por arte de magia — es un riesgo real, también para nosotros. Nuestra respuesta no es contar con la vigilancia eterna del dueño, sino acotar por diseño cuántas decisiones le llegan: solo las acciones genuinamente consecuentes (aprobar un gasto, enviar un recordatorio a un cliente, confirmar un reembolso) disparan el gate — no cada micro-paso del agente. El volumen se mantiene bajo por diseño, no por disciplina humana. Lo que AppH no tiene todavía, con honestidad: la salvaguarda no-IA adicional que recomienda Blumofe, capaz de pausar un agente independientemente del clic humano — hoy, el gate de aprobación ES la única salvaguarda.
A favor de AppH
- Sobre las tres preguntas de Kimura — detener antes de ejecutar, modificar, registrar y aplicar aguas abajo — el gate de AppManager responde que sí a las tres: no es supervisión cosmética, es un control que bloquea de verdad, módulo por módulo.
- El número de decisiones que llegan a un humano está acotado por diseño a las acciones con consecuencia real (dinero, comunicación externa, reembolso) — no a cada micro-tarea del agente — lo que limita estructuralmente el riesgo de fatiga de decisión que describe Billingsley, sin depender únicamente de la vigilancia del dueño.
En contra / el límite honesto
- AppH no tiene una salvaguarda no-IA adicional (la recomendación de Blumofe) capaz de pausar un agente automáticamente si la aprobación humana se degrada en un sello — hoy, el clic de aprobación sigue siendo el único mecanismo, sin red detrás.
- Hoy nada mide si un aprobador concreto deriva hacia la aprobación automática con el tiempo (por ejemplo, una tasa de aprobación del 100% sin modificaciones durante varios meses) — el registro guarda cada decisión, pero todavía no detecta ese patrón de fatiga de forma proactiva.
Lo que nos marcó de esta pieza es que rechaza la respuesta fácil. Muchos artículos sobre human-in-the-loop se detienen en el primer problema — el botón que no bloquea nada — y ahí se quedan, satisfechos de tener una salvaguarda técnica. CIO.com señala un segundo problema que sobrevive incluso cuando el primero está resuelto: un control que sí bloquea de verdad puede igual desgastarse con el tiempo, si la persona que lo ejerce termina aprobando sin mirar. No vamos a pretender que AppH está inmunizado — sería exactamente el tipo de adjetivo sin prueba que esta pieza critica. Lo que podemos decir con honestidad es que nuestra respuesta no es pedirle al dueño que esté vigilante para siempre, es acotar por diseño lo que tiene que mirar a lo que realmente importa. Y sobre la salvaguarda no-IA que recomienda Blumofe, todavía no la tenemos — queda anotado, no escondido.
Verificado por un humano de AppH