"Plus d'autonomie n'élimine pas le travail humain — elle le concentre"
Un récit de première main : un agent autonome (surnommé "Molty") a commencé à s'auto-attribuer des tâches et a même écrit son propre cron de rappels. Résultat : pas moins de travail humain, mais tout le travail canalisé vers un seul relecteur.
L'auteur est franc : relire Molty ressemblait plus à censurer du contenu inapproprié qu'à donner un vrai retour. Sa conclusion inconfortable — "l'autonomie ne soustrait pas de travail humain, elle change sa forme et le concentre dans la relecture" — est exactement la critique qu'un studio comme le nôtre, qui vend le human-in-the-loop, doit pouvoir affronter de face.
Pourquoi la critique a raison
- Si un seul chef d'entreprise doit approuver chaque action de plusieurs agents en parallèle, l'humain devient le vrai goulot d'étranglement — pas une case symbolique.
- C'est un avertissement de conception valable : approuver pour approuver, sans discernement, ce n'est pas de la supervision — c'est de la friction déguisée en sécurité.
Pourquoi ça ne change pas notre position
- L'alternative — zéro révision humaine sur des décisions à conséquences réelles — est déjà illégale au Colorado (juil. 2026) et bientôt dans l'UE. Ce n'est pas une option, c'est un plancher.
- La solution au goulot d'étranglement, c'est la conception de l'approbation (par lots, exceptions, seuils), pas la suppression de l'humain — c'est exactement ce sur quoi on travaille dans AppManager.
Avis AppH : cette critique nous oblige à être honnêtes avec nous-mêmes. Si notre panneau d'approbation noie le chef d'entreprise sous des clics sans discernement, on échoue comme Molty — juste avec un meilleur discours marketing. La bonne réponse n'est pas de retirer l'humain, c'est de mieux concevoir ce qu'on lui montre et quand.
Vérifié par un humain d'AppH