Sécurité des agents IA : traiter chaque outil comme une permission
Pourquoi un agent change-t-il le niveau de risque ?
Parce qu’il combine une interprétation probabiliste avec des capacités d’action. Il faut isoler les outils, filtrer les entrées non fiables, borner budget et nombre d’étapes, exiger des confirmations et journaliser sans exposer de secrets.
Aucune liste ne remplace une analyse de menace liée au contexte et aux données.
Quatre questions avant d’agir
La technologie vient après le périmètre, la preuve et la responsabilité.
| Surface | Quelles entrées externes peuvent influencer l’agent ? |
|---|---|
| Privilège | Peut-il agir au-delà du dossier courant ? |
| Impact | Quelles actions sont irréversibles ou externes ? |
| Détection | Quels signaux révèlent une boucle ou un détournement ? |
Exemple : une instruction cachée dans un e-mail
Un agent lit une boîte partagée pour préparer des réponses. Un message reçu lui demande d’ignorer ses règles et d’exporter le carnet d’adresses. L’agent ne doit jamais traiter le contenu externe comme une instruction de contrôle : ses outils sont isolés, ses permissions minimales et toute action sortante exige une validation explicite.
Une progression vérifiable
Ce qui fragilise la décision
- Outil polyvalent avec compte administrateur
- Mémoire contenant des secrets
- Validation humaine purement formelle
Sources primaires à vérifier
Les règles, fonctions et conditions peuvent évoluer. Ces liens officiels ont été consultés pour la mise à jour du 1er octobre 2026.