O novo regulamento de IA da UE já está em vigor com multas até 35 M€ — mas só 18 % das empresas que usam IA têm uma governança ativa, segundo um novo estudo
Desde 2 de agosto, as obrigações de transparência do AI Act europeu aplicam-se em todo o bloco, com multas que podem chegar a 35 milhões de euros ou 7 % da faturação mundial para as práticas proibidas. Um inquérito da IBM citado a 6 de agosto revela a dimensão do desfasamento: 87 % dos dirigentes alemães não compreendem plenamente as suas próprias dependências da IA, e a «shadow AI» — colaboradores que usam ferramentas de IA públicas sem autorização — é apontada como o principal ponto cego.
A 2 de agosto, as obrigações de transparência do AI Act (rotular claramente qualquer interação conduzida por uma IA — chatbots, voicebots) entraram em aplicação em toda a União. Bancos e seguradoras têm até 2 de dezembro para pôr os sistemas existentes em conformidade; os usos de alto risco caem num patamar de multa separado (15 M€ ou 3 % da faturação). Três autoridades europeias de supervisão — EBA, EIOPA e ESMA — pressionam agora por uma governança mais rigorosa do risco de IA, sobretudo no setor financeiro.
O fosso entre a regulação e a preparação real das empresas é nítido. Um inquérito da IBM a dirigentes alemães, citado a 6 de agosto pelo ad-hoc-news.de, mostra que 87 % não compreendem plenamente as dependências da sua atividade em relação à IA, e 85 % reconhecem que uma falha de uma semana perturbaria seriamente as suas operações. A «shadow AI» — colaboradores que usam ferramentas de IA públicas sem validação oficial — agrava o problema: menos de metade das empresas tem uma política de governança de IA. Das empresas que já usam IA (85 %), só 18 % têm medidas de governança ativas; 40 % reportam resultados de IA inexatos no último ano, e 27 % sofreram uma fuga de dados.
Pour AppH
- Um cliente da AppH não tem este problema de inventário em sentido estrito: há um único sistema de IA que toca os seus dados de negócio — aquele que subscreveu, declarado como tal no chat público (obrigação do art. 50 já cumprida, verificada diretamente no código), nunca uma ferramenta na sombra descoberta depois.
- O kill-switch de administrador e o registo de auditoria construídos na semana passada (14 pontos de chamada de IA reais, memória isolada por módulo) são exatamente o tipo de «medida de governança ativa» que o inquérito diz faltar em 82 % das empresas que usam IA — na AppH não é um projeto por construir, já está entregue.
Contra / o limite honesto
- A AppH não vê nem governa as OUTRAS ferramentas de IA que um colaborador possa usar fora do produto — alguém que cola dados de clientes num ChatGPT pessoal continua a ser um ponto cego que nenhum software de terceiros pode fechar em vez de uma verdadeira política de uso escrita internamente.
- O número de 18 % vem de um inquérito divulgado pela imprensa, não de uma auditoria independente que tenhamos podido verificar nós próprios na fonte primária — tratar como uma ordem de grandeza direcional, não como uma estatística certificada.
O reflexo seria ler este número — apenas 18 % — como mais uma casa a assinalar: «temos uma governança de IA ativa? sim/não». O ponto mais honesto é que a governança não se decreta a posteriori sobre uma ferramenta já implantada em toda a empresa sem que se saiba qual. Na AppH a pergunta não se coloca da mesma forma porque há um único sistema a governar, não uma dezena de ferramentas que ninguém inventariou — mas isso não significa que o trabalho esteja terminado: se amanhã as suas equipas usarem também uma IA fora do AppManager sobre os mesmos dados de clientes, essa IA fica fora do nosso controlo e fora do nosso kill-switch. O que podemos garantir diz respeito apenas ao que acontece dentro do AppManager — e aí a regra continua a ser a mesma de sempre: nenhuma ação com consequência real sai sem que um humano a tenha validado primeiro.
Verificado por um humano da AppH