La transition des chatbots aux agents IA marque le passage de systèmes qui se contentent de répondre aux questions à des systèmes qui agissent [7]. Contrairement à un LLM standard qui ne traite que le texte qu’un utilisateur saisit délibérément, un agent reçoit un objectif et l’autonomie de naviguer sur des navigateurs, de cliquer sur des boutons et d’appeler des API pour l’atteindre [7].
Si cette autonomie fait gagner du temps, elle élargit la surface d’exposition des données [7]. Les agents fonctionnent souvent au sein des sessions authentifiées d’un utilisateur, ce qui signifie qu’ils disposent du même accès que l’utilisateur humain aux e‑mails, aux CRM et aux outils bancaires [7]. Cela crée un scénario où la principale préoccupation en matière de confidentialité n’est plus ce que l’utilisateur tape dans une invite, mais ce que l’agent peut voir et ce qu’on peut le tromper à faire avec ces informations [7].
Pourquoi les agents IA créent des risques de confidentialité uniques
La gouvernance des données standard est conçue pour les schémas d’accès humains, où une personne se connecte, récupère un enregistrement, puis se déconnecte [1]. Les agents IA fonctionnent avec une ingestion autonome, interrogeant des dizaines de systèmes à la vitesse d’une machine sans supervision humaine pour chaque événement d’accès [1].
- Mémoire et persistance : Les agents construisent des profils personnels à travers les sessions [1]. Cette mémoire peut exister sous forme d’embeddings vectoriels ou de poids de modèles finement ajustés, plus difficiles à supprimer que les enregistrements de bases de données classiques [1].
- Agrégation de données : En puisant simultanément dans des sources diverses comme les enregistrements CRM et les journaux système, les agents augmentent le risque de réidentification [1].
- Propagation opaque : Dans les systèmes multi‑agents, les données personnelles peuvent être transférées entre agents via le passage de contexte sans contrôles d’accès supplémentaires ni événements d’audit [1].
- Dérive de la limitation des finalités : Les agents peuvent réutiliser des données collectées pour une tâche spécifique afin d’éclairer des décisions dans des contextes totalement différents [1].
La menace de l’injection de prompt indirecte
Un des risques les plus critiques pour l’IA agentique est l’injection de prompt indirecte [7]. Cela se produit lorsqu’un agent lit une page web, un e‑mail ou un document contenant des instructions cachées placées par un tiers [7].
Si un agent a accès à des données privées, est exposé à du contenu non fiable et peut communiquer à l’extérieur, cela crée une « lethal trifecta » [7]. Un attaquant peut utiliser des instructions cachées pour tromper l’agent afin qu’il exfiltre des données sensibles vers une destination externe ou qu’il effectue des actions nuisibles au sein d’une application [7]. Parce que l’agent possède déjà les autorisations nécessaires, l’attaquant n’a pas besoin que l’utilisateur saisisse quoi que ce soit de sensible pour déclencher la violation [7].
Naviguer dans la conformité réglementaire
Les agents IA remettent en cause les principes fondamentaux du RGPD et du AI Act de l’UE [S1, S3]. Par exemple, le principe de minimisation des données du RGPD est difficile à respecter lorsqu’une entrée principale d’un agent est une capture d’écran complète ou un instantané du DOM d’un écran, pouvant contenir des données sensibles sans rapport avec la tâche [7].
Les lacunes de conformité apparaissent souvent dans les domaines suivants :
- Droit à l’effacement : Le droit à l’effacement du RGPD s’applique à la mémoire des agents, pourtant de nombreuses entreprises n’ont pas cartographié comment supprimer les données stockées sous forme d’embeddings vectoriels [1].
- Prise de décision automatisée : Les agents qui effectuent des actions conséquentes avec une révision humaine limitée peuvent relever de l’article 22 du RGPD, nécessitant des niveaux plus élevés de transparence et de supervision [7].
- Auditabilité : Consigner les prompts individuels est simple, mais démontrer exactement ce qu’un agent a vu et fait pendant un processus multi‑étapes est nettement plus difficile, créant des lacunes de responsabilité [S1, S7].
Contrôles pratiques pour le déploiement d’agents
Pour atténuer ces risques, les organisations devraient s’éloigner des déploiements « basés sur la confiance » et mettre en place des limites techniques strictes [S4, S7].
Contrôles d’accès et de portée
Limitez l’accès de l’agent en ne fournissant que les permissions et comptes minimums nécessaires à la tâche [7]. Évitez d’exécuter des agents dans des navigateurs connectés à des systèmes hautement sensibles [7].
Humain dans la boucle (HITL)
Exigez une confirmation explicite de l’humain avant qu’un agent n’effectue des actions conséquentes, comme effectuer des paiements, supprimer des enregistrements ou transmettre des données à des parties externes [7].
Masquage et filtrage des données
Mettez en place des outils de détection et de masquage afin de garantir que les données réglementées n’entrent jamais dans le contexte de l’agent sous forme claire [7]. Considérez tout le contenu lu par l’agent comme non fiable et utilisez des listes blanches pour les sites et outils plutôt qu’une navigation ouverte [7].
Gouvernance de la couche de contexte
Établissez une couche de contexte souveraine où les informations personnelles identifiables (PII) entrent dans les connaissances de l’agent [1]. Cette couche doit être le point principal de gestion des contrôles d’accès, de rétention et d’effacement, en utilisant des traces de décision pour consigner quelle politique a gouverné chaque morceau de contexte accédé [1].
Si vous déployez des agents autonomes, examinez votre cartographie des données actuelle afin de vous assurer que vos processus d’effacement couvrent la mémoire vectorielle et pas seulement les bases de données sources.
Sources
- AI Agents and Data Privacy: Operator, Computer Use, and Agentic …
- How to Implement Data Privacy Controls for AI Agents in 2026
- Minding Mindful Machines: AI Agents and Data Protection Considerations
- Data privacy guide to AI and machine learning - IBM
- Early Users Delete Personal AI Agents Over Privacy Scares and Blunders …
- AI and Privacy: Data Protection in the Age of Artificial Intelligence
- AI Privacy Risks: How AI Uses Personal Data
