GOBERNANZA

SolutionsReview lo dice sin rodeos el 3 de septiembre de 2026: un botón de aprobación no basta — lo que el clic de AppH construye detrás

El 3 de septiembre de 2026, SolutionsReview publicó «Why 'Human-in-the-Loop' Fails Agentic AI, and How to Build Institution-Level Safeguards»: la tesis es directa — un simple botón «aprobar» puesto delante de un agente no es una garantía de seguridad, es teatro de seguridad, si nada detrás de ese clic audita, limita el alcance o deja constancia de lo ocurrido. Es la primera pieza que cubrimos que critica el HITL superficial en sí mismo, en lugar del cumplimiento normativo (Uber/CNIL) o la validación de mercado (VentureBeat). La ocasión perfecta para mostrar, en detalle, qué hay realmente detrás del clic de aprobación de AppManager.

El argumento de SolutionsReview parte de una constatación simple: en la carrera por los agentes de IA en la empresa, «human-in-the-loop» se ha convertido en una casilla que marcar más que en una arquitectura. Un humano que hace clic en «aprobar» sin saber con precisión qué está aprobando, sin un historial consultable de lo que el agente ya hizo, sin un límite claro de a qué puede acceder el agente, no reduce el riesgo — solo le da a la organización la falsa sensación de estar cubierta. La pieza distingue el HITL «teatro» del HITL «a nivel institucional»: este último supone tres pilares que existen independientemente del propio clic — un registro de auditoría que sobrevive a la decisión (no solo al momento en que se toma), un alcance de acción acotado por rol y por sistema (el agente no puede físicamente superar ciertos límites, haya o no un humano de por medio), y una trazabilidad que permite reconstruir después por qué ocurrió una acción. Sin estos tres pilares, advierte SolutionsReview, el botón de aprobación es una fachada — la organización cree tener una salvaguarda, tiene un punto de fricción cosmético.

En AppH, el clic de aprobación existe desde el primer módulo — pero la pregunta honesta que plantea esta pieza es: ¿qué existe ALREDEDOR de ese clic? Tres respuestas concretas, no tres promesas. Primero, el clic realmente bloquea la acción, no se limita a señalarla: una factura que supera el umbral, un reembolso, el envío de una comunicación externa quedan en espera hasta que un humano valide — el agente no puede ejecutar «de todos modos» si nadie responde, a diferencia de una simple advertencia que se puede ignorar. Segundo, cada decisión (aprobada, rechazada, o la acción automática que nunca necesitó aprobación) deja una entrada en el mismo registro de auditoría que las acciones humanas, con la identidad de quién aprobó y cuándo — consultable módulo por módulo, no un archivo de log técnico que solo un ingeniero pueda leer. Tercero, el alcance de cada agente está acotado a su propio módulo desde el diseño: un agente que gestiona facturación no tiene acceso a historiales clínicos, un agente que responde mensajes no tiene acceso a transferencias — no es una regla que se le pide al agente que respete, es una frontera que el código no permite cruzar.

Lo que nos detuvo en esta pieza no fue la novedad del problema — el riesgo de un HITL cosmético lleva mucho tiempo documentado en seguridad informática — fue la precisión de la definición que propone. «Human-in-the-loop» no es bueno ni malo en sí mismo; lo que importa es qué hay detrás del clic. Podríamos haber escrito una pieza que se limitara a decir «nosotros tenemos un botón de aprobación» — eso no habría probado nada. La pregunta honesta que plantea SolutionsReview, y que intentamos responder aquí con detalles verificables en lugar de adjetivos, es: ¿su clic realmente bloquea algo, o es un paso más antes de que todo siga como estaba previsto? En AppH, la respuesta está en que una acción con consecuencia real queda realmente en espera hasta que un humano mira y decide — no en una casilla marcada en algún lugar.

Verificado por un humano de AppH