Organisations
IA agentique: Quels risques pour les données personnelles ?
La CNIL (Commission nationale de l'informatique et des libertés) et le CIANUM (Le Conseil de l'intelligence artificielle et du numérique ) analysent les effets des systèmes d’IA capables d’agir de manière autonome, de mobiliser plusieurs services et de conserver durablement des informations sur leurs utilisateurs. Leur développement renouvelle les enjeux de transparence, de responsabilité et de contrôle des données personnelles.
Des données utilisées à une nouvelle échelle
Les IA agentiques ne se limitent plus à répondre à une demande. Elles peuvent coordonner plusieurs agents spécialisés, consulter des messageries, agendas, fichiers ou bases de données, puis accomplir différentes actions sans intervention humaine à chaque étape. Leur mémoire persistante leur permet aussi d’enrichir progressivement le profil de l’utilisateur.
Cette organisation multiplie les échanges de données entre agents et services extérieurs. Elle peut rendre plus difficile l’identification des informations utilisées, des finalités poursuivies, des durées de conservation et des destinataires. Les principes du RGPD relatifs à la minimisation, à l’exactitude, à la transparence et à l’effacement des données restent applicables, mais leur mise en œuvre devient plus complexe.
Renforcer la traçabilité et la supervision humaine
L’autonomie de ces systèmes peut entraîner des erreurs en cascade, des suppressions ou transmissions inadaptées et des décisions produisant des effets significatifs pour les personnes. L’article 22 du RGPD encadre les décisions reposant exclusivement sur un traitement automatisé. Une intervention humaine simplement formelle ne suffit pas : elle doit pouvoir influer réellement sur la décision finale.
La note propose de renforcer la traçabilité des actions, de permettre à l’utilisateur de choisir les données accessibles et d’imposer une validation humaine pour les opérations les plus sensibles. Elle évoque également le cloisonnement des mémoires, les environnements isolés, la surveillance en temps réel et un dispositif permettant d’interrompre immédiatement un processus agentique.
La publication : https://urls.fr/cUgDyo
Afficher les commentaires
IA agentique: De nouveaux défis pour la protection des données
L’IA ne se contente plus de répondre : elle peut désormais agir de manière autonome. Dans une note publiée en juillet 2026, la CNIL et le Conseil de l’IA et du numérique examinent les effets de cette « IA agentique », capable d’enchaîner des tâches, de solliciter plusieurs services et de conserver des informations sur l’utilisateur.
Des données qui circulent, un RGPD plus difficile à appliquer
Un système agentique peut puiser dans différentes sources, conserver des informations dans plusieurs mémoires et les transmettre à des services tiers. Dans un environnement de travail, il peut par exemple consulter une messagerie, un agenda ou des espaces documentaires pour exécuter une tâche, y compris lorsque toutes les données accessibles ne sont pas nécessaires.
Cette circulation plus diffuse complique l’application de plusieurs principes du RGPD : finalité, minimisation, exactitude, transparence ou limitation de la durée de conservation. Elle peut aussi rendre plus difficile l’exercice des droits d’accès, de rectification ou d’effacement lorsqu’une information a circulé entre plusieurs agents, mémoires ou services.
Du conseil à l’action
L’IA agentique peut aller au-delà de l’assistance et exécuter seule plusieurs étapes d’une action. Certaines décisions entièrement automatisées peuvent alors relever de l’article 22 du RGPD lorsqu’elles produisent des effets juridiques ou affectent significativement une personne. En cas d’erreur ou de fuite de données, la multiplicité des acteurs peut aussi compliquer l’identification des responsabilités.
Pour y remédier, la note préconise davantage de traçabilité, des accès limités et une intervention humaine pour les actions critiques. Ces pistes rejoignent les propositions de FO-Cadres : registre des systèmes d’IA accessible aux représentants du personnel, contrôle humain effectif et droit à l’explicabilité et à la contestation. Des lignes directrices européennes sur l’articulation entre RGPD et Règlement sur l’IA sont attendues d’ici fin 2026.
La note : urlr.me/rJFBSe