Um agente de IA pode "ter sucesso" na sua tarefa e mesmo assim produzir o resultado errado — a supervisão clássica não percebe
Publicado em 7 de setembro de 2026 por Callum Turner na TheNextWeb («AI agent reliability requires a new model of observability»), o artigo traz o argumento de Robert Hommes, fundador da startup de observabilidade Moyai: um agente pode fazer uma solicitação válida, receber uma resposta válida, e mesmo assim tomar a decisão errada — a infraestrutura técnica registra um sucesso enquanto o negócio sofre uma falha real, um ponto cego que as ferramentas de supervisão clássicas, pensadas para sistemas determinísticos e códigos de erro conhecidos, simplesmente não conseguem enxergar.
O ponto de partida de Hommes é concreto, não teórico: «O caso mais perigoso é um agente de IA que completa uma tarefa com sucesso enquanto na verdade produz o resultado errado.» Ele dá o exemplo de um agente de compras encarregado de adquirir um tipo específico de grão de café — a solicitação sai, a resposta chega, a tarefa se fecha como bem-sucedida, mas «do ponto de vista do negócio, o agente está produzindo sistematicamente o resultado errado». O artigo cita a mesma lógica num cenário de companhia aérea: um agente diz a um passageiro que seu voo foi remarcado, a reserva subjacente na realidade nunca se concretiza, e o passageiro só descobre ao chegar ao aeroporto. «Não temos um código de erro que diga: "cheguei ao endpoint, consultei com o parâmetro errado, e recebi algo diferente do que precisava." Tecnicamente nada falha, mas não funciona», resume Hommes — um código 200 pode assim mascarar tanto uma decisão inválida quanto uma correta.
O ponto mais útil do artigo, para nós, não é a descrição do problema — é o limite honesto que o próprio Hommes aponta na sua proposta de solução. Ele reconhece o valor das arquiteturas human-in-the-loop, que obrigam um funcionário a aprovar uma ação com consequências reais — exatamente o princípio sobre o qual o AppManager está construído desde seu primeiro módulo. Mas acrescenta uma nuance que não pode ser ignorada: «Quando você tem um impacto material, você o vê, mas já é tarde demais [...] teve que piorar antes de você perceber.» Sua proposta — detectar primeiro o que é diferente do comportamento habitual, e só depois verificar se isso é realmente um problema, em vez de empilhar uma regra para cada nova falha já observada (o que ele chama de "whack-a-mole") — ataca um problema distinto e mais difícil do que simplesmente conseguir que um humano aprove uma ação já identificada como arriscada.
Para a AppH
- O artigo dá um nome preciso a um princípio que a AppH já aplica sem chamá-lo assim: um trajeto técnico sem erros não garante um resultado de negócio correto — por isso uma automação do AppManager nunca se fecha sozinha, um humano confirma o resultado real, não apenas a ausência de uma exceção.
- O clique de aprovação obrigatório do AppManager antes de qualquer ação com consequências reais é exatamente o tipo de arquitetura human-in-the-loop que Hommes credita com proteção real e útil — validado aqui por um especialista do setor sem nenhuma relação com a AppH.
Contra / o limite honesto
- A própria crítica de Hommes ao human-in-the-loop se aplica em parte à AppH também: uma tela de aprovação vale o que vale o resumo que uma automação mostra antes do clique — a AppH não tem hoje uma camada dedicada de detecção de anomalias comportamentais como a que a Moyai propõe, apenas supervisão humana explícita sobre as ações que nós mesmos definimos como consequentes.
- Robert Hommes é fundador da Moyai, uma startup que vende exatamente a categoria de produto de observabilidade que ele descreve como ausente — um argumento crível e bem fundamentado, mas também o de um fundador explicando por que o mercado precisa do que a sua empresa vende.
O que nos deteve nessa peça não foi o alerta geral sobre agentes de IA — lemos muitos desses — foi a frase sobre o código 200. Um sistema que responde corretamente a uma solicitação mal formulada não sinaliza nada anormal para quem o supervisiona da forma clássica. É exatamente por isso que, na AppH, nunca deixamos uma automação se fechar sozinha sem que um humano confirme o resultado real. Dito isso, Hommes tem razão ao apontar que a aprovação humana sozinha tem seu próprio limite — ela protege a ação que pensamos em encaminhar para aprovação, não a que não identificamos como arriscada a tempo. Não afirmamos ter isso resolvido: a AppH não conta hoje com detecção de anomalias comportamentais como a que Hommes descreve, apenas supervisão humana explícita sobre o que nós mesmos definimos como uma ação consequente. Dizer isso claramente nos parece mais útil do que deixar alguém acreditar que o clique de aprovação resolve tudo, sozinho, para sempre.
Revisado por um humano da AppH