El nuevo reglamento de IA de la UE ya está en vigor con multas de hasta 35 M€ — pero solo el 18 % de las empresas que usan IA tiene una gobernanza activa, según un nuevo estudio
Desde el 2 de agosto, las obligaciones de transparencia del AI Act europeo se aplican en todo el bloque, con multas que pueden llegar a 35 millones de euros o al 7 % de la facturación mundial por las prácticas prohibidas. Una encuesta de IBM citada el 6 de agosto revela el tamaño del desfase: el 87 % de los directivos alemanes no comprende del todo sus propias dependencias de la IA, y la «shadow AI» — empleados que usan herramientas de IA públicas sin autorización — aparece como el principal punto ciego.
El 2 de agosto entraron en aplicación en toda la Unión las obligaciones de transparencia del AI Act (etiquetar con claridad toda interacción conducida por una IA: chatbots, voicebots). Bancos y aseguradoras tienen hasta el 2 de diciembre para poner en conformidad sus sistemas existentes; los usos de alto riesgo caen en un tramo de multa aparte (15 M€ o el 3 % de la facturación). Tres autoridades europeas de supervisión — EBA, EIOPA y ESMA — presionan ahora por una gobernanza más estricta del riesgo de IA, sobre todo en el sector financiero.
La brecha entre la regulación y la preparación real de las empresas es nítida. Una encuesta de IBM a directivos alemanes, citada el 6 de agosto por ad-hoc-news.de, muestra que el 87 % no comprende del todo las dependencias de su actividad respecto a la IA, y el 85 % reconoce que una caída de una semana perturbaría seriamente sus operaciones. La «shadow AI» — empleados que usan herramientas de IA públicas sin validación oficial — agrava el problema: menos de la mitad de las empresas tiene una política de gobernanza de IA. De las empresas que ya usan IA (el 85 %), solo el 18 % tiene medidas de gobernanza activas; el 40 % reporta resultados de IA inexactos en el último año, y el 27 % sufrió una fuga de datos.
A favor de AppH
- Un cliente de AppH no tiene ese problema de inventario en sentido estricto: hay un solo sistema de IA que toca sus datos de negocio — aquel al que se suscribió, declarado como tal en el chat público (obligación del art. 50 ya cumplida, verificada directamente en el código), nunca una herramienta en la sombra descubierta después.
- El kill-switch de administrador y el registro de auditoría construidos la semana pasada (14 puntos de llamada a IA reales, memoria aislada por módulo) son exactamente el tipo de «medida de gobernanza activa» que la encuesta dice que falta en el 82 % de las empresas que usan IA — en AppH no es un proyecto por construir, ya está entregado.
Contra / el límite honesto
- AppH no ve ni gobierna las OTRAS herramientas de IA que un empleado pueda usar fuera del producto — alguien que pega datos de clientes en un ChatGPT personal sigue siendo un punto ciego que ningún software de terceros puede cerrar en lugar de una política de uso interna escrita de verdad.
- La cifra del 18 % viene de una encuesta difundida por la prensa, no de una auditoría independiente que hayamos podido verificar nosotros mismos en la fuente primaria — tratarla como un orden de magnitud direccional, no como una estadística certificada.
El reflejo sería leer esta cifra — solo el 18 % — como una casilla más por marcar: «¿tenemos una gobernanza de IA activa? sí/no». El punto más honesto es que la gobernanza no se decreta a posteriori sobre una herramienta ya desplegada por toda la empresa sin que nadie sepa cuál. En AppH la pregunta no se plantea igual porque hay un único sistema que gobernar, no una decena de herramientas que nadie inventarió — pero eso no significa que el trabajo esté terminado: si mañana sus equipos usan además una IA fuera de AppManager sobre los mismos datos de clientes, esa IA queda fuera de nuestro control y fuera de nuestro kill-switch. Lo que podemos garantizar concierne solo a lo que ocurre dentro de AppManager — y ahí la regla sigue siendo la misma de siempre: ninguna acción con consecuencia real sale sin que un humano la haya validado antes.
Verificado por un humano de AppH