La CNIL et le Conseil de l'IA et du Numérique listent noir sur blanc les garde-fous techniques attendus d'un agent IA — AppManager vient de vérifier en production, cette même semaine, qu'il les tient déjà sur ses 14 points d'entrée agentiques
Une note conjointe CNIL/Conseil de l'IA et du Numérique, détaillée le 29 juillet par IT Social, pointe six manquements RGPD réels liés à la mémoire persistante des agents IA et recommande, entre autres, un bouton d'arrêt d'urgence capable d'interrompre un agent EN COURS D'ACTION — pas seulement avant qu'il démarre. Chez AppH, ce garde-fou n'est plus une intention : c'est un endpoint réel, vérifié en production le 4 août 2026, câblé sur les 14 points d'entrée agentiques du produit.
Le 29 juillet, IT Social a détaillé une note conjointe de la CNIL et du Conseil de l'IA et du Numérique (CIANum) qui liste six « entorses » concrètes au RGPD introduites par la mémoire persistante des agents IA : finalité, licéité, minimisation, exactitude, transparence et limitation de conservation. La note ne s'arrête pas au diagnostic — elle recommande quatre garde-fous techniques précis : une mémoire dédiée et isolée par agent (sans accès automatique à la mémoire des autres agents, avec une limite de taille et une expiration), un sandboxing de l'exécution, une classification des actions par niveau de risque avec validation humaine à chaque niveau, et un bouton d'arrêt d'urgence capable d'interrompre un processus agentique à tout moment — pas seulement avant qu'il commence. La note cite aussi l'affaire SCHUFA, tranchée par la Cour de justice de l'UE : une validation formelle du type « case cochée » ne compte pas comme une supervision humaine réelle au sens de l'article 22 du RGPD — il faut une intervention « réelle, effective », avec une « influence réelle » sur la décision.
Cette note recoupait un audit qu'on n'avait jamais fait formellement chez AppH : nos modules qui enchaînent des actions agentiques sur des données clients réelles (Automations/relances, Messenger, Triage, et neuf autres) avaient-ils un moyen réel d'interrompre une action déjà en cours, pas seulement de ne pas la lancer ? Réponse construite et vérifiée cette même semaine : `server/src/agentJobs.ts` tient un registre réel des appels IA en cours avec un vrai handle d'annulation — un job sans handle d'annulation renvoie une erreur explicite plutôt que de faire semblant d'avoir réussi. `GET/POST /admin/agent-jobs[/:id/cancel]`, réservé aux comptes admin, câblé le 3 août sur les deux premiers points d'entrée puis étendu le lendemain aux 14 points d'entrée agentiques réels du produit : triage, relances, rappels de facture/devis/visite, rédaction de messagerie, qualification de prospects et étude de marché, coach de progression, générateur de contenu, intake de documents, le widget public de chat funnel, et la qualification des demandes d'inscription. Vérifié en direct sur la production publique le 4 août : `GET https://apph.app/api/admin/agent-jobs` sans authentification renvoie un vrai 401 — confirmation que la route existe et que le verrou admin est actif, pas seulement testé en local.
Pour AppH
- Le bouton d'arrêt d'urgence « à tout moment » que la note CNIL/CIANum réclame explicitement existe maintenant en production, pas seulement en intention — et couvre les 14 points d'entrée agentiques réels du produit, pas une démo isolée.
- L'autre garde-fou cité par la note — mémoire isolée par agent, sans pool partagé — a été audité la même semaine et confirmé déjà correct dans l'architecture existante : chaque module gère sa propre mémoire de contexte, sans accès croisé automatique à celle d'un autre module.
Contre / ce qui ne s'applique pas
- Cette note CNIL/CIANum est une recommandation, pas un texte de loi contraignant avec un régime de sanctions propre — la traiter comme un audit de conformité officiel exagérerait sa portée réelle.
- Le kill-switch est aujourd'hui réservé aux comptes admin/propriétaire, pas en libre-service pour chaque coéquipier — un choix de conception assumé (une interruption d'urgence n'est pas une action anodine), mais une limite réelle qu'il faut nommer plutôt que cacher.
Ce qui nous a frappés dans cette note, ce n'est pas la nouveauté du principe — on répète depuis le premier module qu'aucune action d'agent ne part sans validation humaine — mais la précision du deuxième étage qu'elle réclame : pouvoir arrêter une action déjà en cours, pas seulement refuser de la lancer. C'est une distinction qu'on n'avait pas construite explicitement avant cette semaine, et on préfère le dire plutôt que de laisser croire que c'était déjà couvert. Le cas SCHUFA cité par la note nous semble tout aussi important à répéter aux lecteurs qui ne sont pas juristes : une case cochée une fois ne vaut pas supervision humaine réelle. Chez AppH, l'approbation humaine avant une action agentique n'a jamais été une case globale — c'est une revue explicite par élément (un brouillon de relance, un devis, une réponse Messenger), journalisée, avec la possibilité désormais de l'interrompre en cours de route si besoin. Ce qu'on ne veut pas laisser croire : cette note est une recommandation du CNIL et du Conseil de l'IA, pas un audit de conformité officiel qu'on aurait passé — et le kill-switch qu'on vient de construire est un outil pour les admins, pas un droit self-service pour n'importe quel utilisateur. On préfère annoncer un garde-fou réel avec ses limites exactes que de laisser entendre qu'AppManager est désormais « certifié CNIL », ce qui n'existe pas et ne serait pas honnête.
Vérifié par un humain d'AppH