Le Forum économique mondial le dit sans détour : quand c'est un agent d'IA qui paie, savoir qui est le client ne suffit plus
Santander et Mastercard viennent d'exécuter le premier paiement européen de bout en bout initié par un agent d'IA dans un environnement bancaire régulé. L'avertissement du WEF : les banques ne doivent plus seulement vérifier l'identité — elles doivent comprendre l'intention, l'autorité et le contexte avant que l'argent ne bouge.
L'article (Deya Innab, Eastnets) décrit le même virage qu'on vit déjà dans le logiciel métier : l'IA agentique passe du conseil à l'action. Quand ce qu'elle exécute est un paiement, la conséquence est immédiate et difficile à annuler. L'EU AI Act et le régulateur britannique (CMA) sont déjà clairs : l'entreprise reste responsable de ce que fait son agent — impossible de déléguer cette responsabilité au logiciel.
Pour AppH
- Valide exactement la conception d'AppManager : chaque action d'un agent à conséquence réelle (un encaissement, un envoi, un changement de stock) est liée à une approbation humaine enregistrée — le même principe "intention + autorité + traçabilité" que le WEF décrit pour les banques, appliqué à l'échelle PME.
- Nous donne une référence externe de poids (banque régulée, Santander/Mastercard, EU AI Act) pour justifier que notre panneau d'approbation n'est pas de la bureaucratie en trop — c'est le même standard que l'industrie financière est déjà en train de se construire à elle-même.
Contre / ce qui ne s'applique pas
- Le cas réel cité par le WEF est un agent bancaire qui déplace de l'argent de bout en bout dans une banque régulée — AppManager ne laisse aujourd'hui aucun agent déplacer de l'argent de façon autonome (un paiement Stripe est toujours déclenché par le client ou le patron, jamais par un agent). Se comparer directement à Santander/Mastercard exagérerait ce qu'on fait vraiment aujourd'hui.
- Tout l'article est pensé pour la banque — il ne mentionne jamais le cas d'une petite entreprise (un garage, un opticien) où le volume et le risque sont différents. Le standard de "traçabilité de l'intention" doit être adapté à cette échelle, pas copié tel quel.
Avis AppH : on ne déplace pas d'argent de façon autonome et on n'a pas de plan pour le faire bientôt — mais le vocabulaire du WEF ("intention, autorité et contexte", pas seulement l'identité) est exactement ce qu'on essaie déjà de faire apparaître dans chaque approbation enregistrée sur notre panneau. Le jour où on construira un paiement automatique à un fournisseur ou un remboursement automatique, la première exigence, non négociable, sera la même trace d'audit que Santander et Mastercard ont déjà construite — pas une version allégée.
Vérifié par un humain d'AppH