El AI Act europeo funciona a pleno rendimiento desde el 2 de agosto — y un vacío legal documentado sobre los agentes autónomos cae justo donde AppH ya había decidido
Todas las obligaciones del AI Act, incluidas las exigencias de «alto riesgo» del Anexo III, son ya exigibles — multas de hasta 35 M€ o el 7 % de la facturación mundial. Al mismo tiempo, un artículo de Waters Technology documenta un verdadero punto ciego del texto: se escribió para modelos estáticos, no para agentes que encadenan acciones de forma autónoma. Una zona gris que la decisión de diseño de AppH — nunca una acción sin validación humana — no esperó a la ley para zanjar.
El 2 de agosto, la aplicación completa del AI Act europeo se hizo real, no una fecha que tachar en un calendario. Todas las obligaciones están ya en vigor, incluidas las del Anexo III para los sistemas clasificados como «alto riesgo» — selección de personal, calificación crediticia, dispositivos médicos, entre otras categorías. Las multas llegan hasta 35 millones de euros o el 7 % de la facturación anual mundial, la cifra que sea mayor. La Comisión Europea lo confirmó en un comunicado a finales de julio, y las guías de cumplimiento para pymes — como la publicada por Delbion — empezaron a circular enseguida. Para la mayoría de los dueños de pymes, en concreto, nada cambió la mañana del 2 de agosto: ni notificación, ni auditoría sorpresa. Lo que cuenta es saber si el propio uso de la IA cae en una categoría vigilada — y el asistente conversacional que una pyme usa para responder a sus clientes, por lo general, no lo hace.
Ahí entra el segundo hecho, más discreto pero igual de real: un artículo de Waters Technology, citando un trabajo de especialistas en ética de la IA, documenta un vacío estructural del propio texto. El AI Act se redactó pensando en modelos que responden una vez a una petición — no en agentes que encadenan varias acciones de forma autónoma, decidiendo ellos mismos el siguiente paso. Para los sistemas agénticos clasificados como alto riesgo, la zona sigue siendo jurídicamente ambigua, según reconocen los propios expertos citados. AppH no pretende resolver ese vacío regulatorio — nadie lo ha resuelto, el sector entero navega a ciegas en este punto concreto. Pero la decisión de diseño que tomamos desde el primer día cae, por construcción, del lado correcto del debate que los reguladores todavía mantienen sobre el papel: en AppH, ningún agente ejecuta solo una acción con consecuencias reales. Un presupuesto sigue siendo un borrador hasta que el dueño pulsa «enviar». Una regla de Automatizaciones abre un evento a tratar, nunca un pedido cursado por sí solo. Un único agente corre por cuenta, nunca un enjambre que decida entre agentes. Dicho en llano, para quien nunca ha leído una línea del AI Act: un humano aprueba antes de que salga cualquier cosa importante — siempre, sin excepción configurable.
A favor de AppH
- La estructura de producto de AppH (validación humana antes de cualquier acción con consecuencias reales) ya cae del lado prudente del debate que los reguladores europeos todavía mantienen sobre el papel para los sistemas agénticos — sin haber necesitado esperar a una aclaración legal para decidir.
- El dueño de una pyme cliente nunca tiene que preguntarse «¿estoy en regla?» en la cuestión concreta de la aprobación de un agente — porque nada autónomo se ejecuta sin su clic, un principio de diseño, no un ajuste que se pudiera desactivar.
En contra / el límite honesto
- AppH no es un despacho de abogados y esto no es asesoramiento jurídico — la clasificación «alto riesgo» del Anexo III depende del uso real (la selección de personal o la gestión de RR. HH. están mucho más vigiladas que un borrador de presupuesto o de factura), y el vacío regulatorio que documenta Waters Technology significa que ni siquiera los expertos tienen todavía claridad completa.
- Una pyme con un caso de uso en la frontera (por ejemplo, si algún día usara la IA para filtrar candidaturas) debe consultar a un asesor jurídico de verdad, no tratar este artículo como una auditoría de cumplimiento.
El reflejo fácil sería escribir que AppH es «conforme al AI Act» desde siempre — sería a la vez falso y deshonesto, porque el cumplimiento depende del caso de uso concreto, no de una arquitectura general, y porque el vacío que documenta Waters Technology no lo ha resuelto nadie, nosotros incluidos. Lo que se puede decir con honestidad es más modesto y más sólido a la vez: cuando el propio texto legal aún no sabe cómo tratar a un agente que actúa en cadena de forma autónoma, la posición más defendible para una pyme no es apostar por la interpretación más permisiva — es mantener a un humano que aprueba antes de que ocurra nada con consecuencias. Es la decisión que tomamos antes de que la cuestión fuera regulatoria, no una respuesta al AI Act.
Revisado por un humano de AppH