Dès qu'un agent IA dispose d’outils (tools) pour interagir avec vos systèmes — créer une note, exporter un rapport financier ou supprimer un ticket support —, la question centrale n'est plus seulement « mon prompt est-il clair ? », mais « cette action est-elle autorisée ? ».
Pourtant, dans beaucoup de prototypes, l'erreur classique consiste à exposer toutes les fonctions de l'entreprise au modèle, puis à ajouter une consigne dans le prompt du type : « N'utilise la fonction de suppression que si l'utilisateur est administrateur ».
Si vous procédez ainsi en production, vous vous exposez à de graves failles de sécurité.
Le problème du « faux confort » du prompt
Un prompt sert à guider le comportement du LLM, pas à garantir la sécurité. Entre les risques de prompt injection, le jailbreaking ou simplement de mauvaises interprétations par le modèle, s'en remettre au LLM pour gérer vos autorisations est une hérésie architecturale.
Le rôle de l'agent est de choisir la meilleure option parmi des actions préalablement autorisées, pas de définir lui-même la politique d'accès aux données et ressources de l'entreprise.
La solution : Le filtrage de catalogue & le double verrou
Pour sécuriser un agent IA, il faut appliquer les principes du RBAC (Role-Based Access Control) dès sa conception :
-
UserContext -> Permissions -> Outils autorisés : On ne construit pas un agent omnipotent qu'on tente de brider ensuite. Le système évalue l'utilisateur courant, détermine ses permissions (ex: CanDeleteTicket) et ne fournit à l'agent que le catalogue de tools correspondant à son profil.
-
Le double verrou à l'exécution : Filtrer le catalogue en entrée ne suffit pas. Même si un tool sensible est présent dans le catalogue d'un administrateur, la fonction elle-même doit revérifier les droits et valider les paramètres au moment de son exécution dans le code métier.
Découvrez la mise en pratique dans ma nouvelle vidéo !
Dans l'Épisode 6 de notre série dédiée à l'architecture des agents IA, nous décortiquons ce pattern indispensable et montrons comment l'implémenter concrètement.
Au programme de la vidéo :
-
⚠️ Anti-patterns fréquents et pièges à éviter (les tools trop génériques comme ExecuteSql ou HttpPost).
-
📊 Exemple d'une Matrice RBAC adaptée aux agents.
-
💻 Démo technique Visual Studio : Illustration du filtrage de catalogue selon le rôle (anonymous vs admin).
-
⚙️ Transposition dans Microsoft Agent Framework : Comment injecter le UserContext et construire vos function tools de manière sécurisée.
-
📋 Checklist de production pour valider vos déploiements.
🎥 Visionnez dès maintenant la vidéo complète sur YouTube :
👉 Regarder l'épisode : Filtrer les tools selon les droits
Stay Tuned!