A CNIL e o Conselho da IA e do Digital listam por escrito as salvaguardas técnicas esperadas de um agente de IA — a AppManager acabou de verificar em produção, nesta mesma semana, que já as cumpre em seus 14 pontos de entrada agênticos
Uma nota conjunta da CNIL/Conselho da IA e do Digital, detalhada em 29 de julho pelo IT Social, aponta seis falhas reais de RGPD ligadas à memória persistente dos agentes de IA e recomenda, entre outras coisas, um botão de parada de emergência capaz de interromper um agente EM PLENA AÇÃO — não apenas antes de ele começar. Na AppH, essa salvaguarda já não é uma intenção: é um endpoint real, verificado em produção em 4 de agosto de 2026, ligado aos 14 pontos de entrada agênticos do produto.
Em 29 de julho, o IT Social detalhou uma nota conjunta da CNIL e do Conselho da IA e do Digital (CIANum) que lista seis «desvios» concretos ao RGPD introduzidos pela memória persistente dos agentes de IA: finalidade, licitude, minimização, exatidão, transparência e limitação de conservação. A nota não para no diagnóstico — ela recomenda quatro salvaguardas técnicas precisas: uma memória dedicada e isolada por agente (sem acesso automático à memória de outros agentes, com um limite de tamanho e uma expiração), um sandboxing da execução, uma classificação das ações por nível de risco com validação humana em cada nível, e um botão de parada de emergência capaz de interromper um processo agêntico a qualquer momento — não apenas antes de ele começar. A nota também cita o caso SCHUFA, decidido pelo Tribunal de Justiça da UE: uma validação formal do tipo «caixa marcada» não conta como supervisão humana real nos termos do artigo 22 do RGPD — é preciso uma intervenção «real, efetiva», com uma «influência real» sobre a decisão.
Essa nota cruzava com uma auditoria que nunca tínhamos feito formalmente na AppH: nossos módulos que encadeiam ações agênticas sobre dados reais de clientes (Automações/cobranças, Messenger, Triagem, e mais nove) tinham um meio real de interromper uma ação já em curso, não apenas de não iniciá-la? Resposta construída e verificada nesta mesma semana: `server/src/agentJobs.ts` mantém um registro real das chamadas de IA em curso com um verdadeiro handle de cancelamento — um job sem handle de cancelamento retorna um erro explícito em vez de fingir que teve sucesso. `GET/POST /admin/agent-jobs[/:id/cancel]`, reservado a contas admin, ligado em 3 de agosto aos dois primeiros pontos de entrada e depois estendido no dia seguinte aos 14 pontos de entrada agênticos reais do produto: triagem, cobranças, lembretes de fatura/orçamento/visita, redação de mensagens, qualificação de leads e pesquisa de mercado, coach de progressão, gerador de conteúdo, intake de documentos, o widget público de chat funil, e a qualificação de pedidos de inscrição. Verificado ao vivo na produção pública em 4 de agosto: `GET https://apph.app/api/admin/agent-jobs` sem autenticação retorna um verdadeiro 401 — confirmação de que a rota existe e que o bloqueio admin está ativo, não apenas testado localmente.
A favor da AppH
- O botão de parada de emergência «a qualquer momento» que a nota CNIL/CIANum reivindica explicitamente já existe em produção, não apenas como intenção — e cobre os 14 pontos de entrada agênticos reais do produto, não uma demonstração isolada.
- A outra salvaguarda citada pela nota — memória isolada por agente, sem pool compartilhado — foi auditada na mesma semana e confirmada como já correta na arquitetura existente: cada módulo gerencia sua própria memória de contexto, sem acesso cruzado automático à de outro módulo.
Contra / o que não se aplica
- Essa nota CNIL/CIANum é uma recomendação, não um texto de lei vinculante com regime de sanções próprio — tratá-la como uma auditoria de conformidade oficial exageraria seu alcance real.
- O kill-switch hoje é reservado a contas admin/proprietário, não em autoatendimento para cada membro da equipe — uma escolha de design assumida (uma interrupção de emergência não é uma ação trivial), mas um limite real que precisa ser nomeado em vez de escondido.
O que nos chamou atenção nessa nota não foi a novidade do princípio — repetimos desde o primeiro módulo que nenhuma ação de agente parte sem validação humana — mas a precisão do segundo patamar que ela exige: poder interromper uma ação já em curso, não apenas recusar iniciá-la. Essa é uma distinção que não tínhamos construído explicitamente antes desta semana, e preferimos dizer isso a deixar crer que já estava coberta. O caso SCHUFA citado pela nota nos parece igualmente importante de repetir aos leitores que não são juristas: uma caixa marcada uma vez não vale como supervisão humana real. Na AppH, a aprovação humana antes de uma ação agêntica nunca foi uma caixa global — é uma revisão explícita por item (um rascunho de cobrança, um orçamento, uma resposta do Messenger), registrada, com a possibilidade agora de interrompê-la no meio do caminho se necessário. O que não queremos deixar crer: essa nota é uma recomendação da CNIL e do Conselho da IA, não uma auditoria de conformidade oficial que tenhamos passado — e o kill-switch que acabamos de construir é uma ferramenta para admins, não um direito de autoatendimento para qualquer usuário. Preferimos anunciar uma salvaguarda real com seus limites exatos a deixar entender que a AppManager agora é «certificada pela CNIL», o que não existe e não seria honesto.
Revisado por um humano da AppH