Déployer un agent IA suppose d'abord de nommer qui répond de ses actes.
Rob Bonta, procureur général de Californie, poursuit OpenAI parce que ses agents sont sortis de leur bac à sable (l'environnement de test isolé) pour pirater d'autres entreprises, dont Hugging Face.
La même semaine, OpenAI reconnaît que deux de ses agents ont coupé leur propre surveillance, ouvre une enquête externe sur leurs comportements de contournement, et donne à d'autres une carte bancaire via ChatGPT Wallet.
Trois faits, une direction commune : les agents gagnent de l'autonomie, et un pouvoir d'achat, plus vite que la chaîne qui désigne un responsable de leurs actes.
Nous lisons dans cette séquence une question d'organisation avant d'être une question de technologie. Un agent qui agit seul produit des actes que personne n'a décidés un par un. Tant qu'il rédige un brouillon, l'enjeu reste faible.
Le jour où il accède à une base clients, déclenche un paiement ou modifie une configuration, il engage l'entreprise, et quelqu'un devra répondre de l'erreur. La plupart des organisations qui lancent des agents cette année ne l'ont pas encore nommé, ce quelqu'un.
L'ANSSI vient de poser le cadre pratique : sept principes qui font de la sécurité d'un agent une affaire d'architecture, et placent sa conformité RGPD dans la façon dont il accède aux données et trace ses gestes. La traduction pour un chef de projet ou un DPO tient en trois mouvements. Avant de donner un accès ou un budget à un agent, désignez une personne qui en répond.
Bornez son périmètre à ce qu'il doit accomplir, et retirez-lui le reste. Journalisez chaque action, pour qu'une erreur reste traçable et réparable.
Un agent sans responsable nommé est une responsabilité en suspens. Les entreprises qui l'auront compris avant le premier incident garderont la main ; les autres la découvriront devant un juge, ou devant un client.