A SolutionsReview diz sem rodeios em 3 de setembro de 2026: um botão de aprovação não basta — o que o clique da AppH constrói por trás dele
Em 3 de setembro de 2026, a SolutionsReview publicou «Why 'Human-in-the-Loop' Fails Agentic AI, and How to Build Institution-Level Safeguards»: a tese é direta — um simples botão «aprovar» colocado à frente de um agente não é uma garantia de segurança, é teatro de segurança, se nada por trás desse clique audita, limita o alcance ou regista o que aconteceu. É a primeira peça que cobrimos que critica o HITL superficial em si, em vez do cumprimento regulatório (Uber/CNIL) ou da validação de mercado (VentureBeat). A ocasião para mostrar, em detalhe, o que há realmente por trás do clique de aprovação do AppManager.
O argumento da SolutionsReview parte de uma constatação simples: na corrida pelos agentes de IA na empresa, «human-in-the-loop» tornou-se uma caixa para marcar em vez de uma arquitetura. Um humano que clica em «aprovar» sem saber precisamente o que está a aprovar, sem um histórico consultável do que o agente já fez, sem um limite claro daquilo a que o agente pode aceder, não reduz o risco — só dá à organização a falsa sensação de que está coberta. A peça distingue o HITL «teatro» do HITL «ao nível institucional»: este último pressupõe três pilares que existem independentemente do próprio clique — um registo de auditoria que sobrevive à decisão (não só ao momento em que é tomada), um alcance de ação limitado por função e por sistema (o agente não consegue fisicamente ultrapassar certos limites, com ou sem humano), e uma rastreabilidade que permite reconstruir depois por que razão uma ação aconteceu. Sem estes três pilares, avisa a SolutionsReview, o botão de aprovação é uma fachada — a organização acredita ter uma salvaguarda, tem um ponto de fricção cosmético.
Na AppH, o clique de aprovação existe desde o primeiro módulo — mas a pergunta honesta que esta peça coloca é: o que existe À VOLTA desse clique? Três respostas concretas, não três promessas. Primeiro, o clique bloqueia mesmo a ação, não se limita a assinalá-la: uma fatura acima do limiar, um reembolso, o envio de uma comunicação externa ficam pendentes até um humano validar — o agente não pode executar «na mesma» se ninguém responder, ao contrário de um simples aviso que se pode ignorar. Segundo, cada decisão (aprovada, rejeitada, ou a ação automática que nunca precisou de aprovação) deixa uma entrada no mesmo registo de auditoria das ações humanas, com a identidade de quem aprovou e quando — consultável módulo a módulo, não um ficheiro de log técnico que só um engenheiro consegue ler. Terceiro, o alcance de cada agente está limitado ao seu próprio módulo desde a conceção: um agente que gere faturação não tem acesso a processos clínicos, um agente que responde a mensagens não tem acesso a transferências — não é uma regra que se pede ao agente para respeitar, é uma fronteira que o código não permite ultrapassar.
A favor da AppH
- Os três pilares que a SolutionsReview define como base do HITL «ao nível institucional» — bloqueio real, registo de auditoria persistente, alcance limitado por conceção — correspondem ao que a AppH construiu desde o início, não a um projeto de conformidade lançado depois para responder a esta peça.
- O bloqueio real da ação (não só um aviso ignorável) é a diferença mais concreta entre o HITL «teatro» que a SolutionsReview critica e o que a AppH faz — uma fatura que fica bloqueada sem validação não é uma funcionalidade que se possa contornar por acidente.
Contra / o limite honesto
- A AppH não tem uma certificação de terceiros (SOC 2, ISO 27001 ou equivalente) que validasse estes três pilares de forma independente e pública — a peça da SolutionsReview dirige-se sobretudo a grandes empresas que exigem esse tipo de auditoria externa, um terreno onde a AppH hoje só tem a sua própria palavra para oferecer.
- O alcance daquilo que dispara uma aprovação obrigatória continua a ser uma escolha de configuração feita com cada cliente, não uma regra universal gravada no produto — um cliente que configura esse limiar demasiado alto enfraquece a salvaguarda sem que a AppH o possa impedir tecnicamente.
O que nos deteve nesta peça não foi a novidade do problema — o risco de um HITL cosmético está documentado há muito tempo em segurança informática — foi a precisão da definição que propõe. «Human-in-the-loop» não é bom nem mau em si mesmo; o que importa é o que há por trás do clique. Poderíamos ter escrito uma peça que se limitasse a dizer «nós temos um botão de aprovação» — isso não teria provado nada. A pergunta honesta que a SolutionsReview coloca, e que tentamos responder aqui com detalhes verificáveis em vez de adjetivos, é: o seu clique bloqueia mesmo alguma coisa, ou é mais um passo antes de tudo continuar como estava previsto? Na AppH, a resposta está no facto de uma ação com consequência real ficar realmente pendente até um humano olhar e decidir — não numa caixa marcada algures.
Verificado por um humano da AppH