Agents IA : la CNIL pose les questions, Mistral publie un garde-fou ouvert
La CNIL publie une note sur l'IA qui agit à votre place, et Mistral un modèle ouvert qui filtre ce qui entre et sort d'un assistant. Deux pièces du même puzzle.
Les agents IA, ces systèmes qui ne se contentent plus de répondre mais agissent (envoyer un mail, remplir un logiciel, passer une commande), arrivent dans les entreprises. Deux publications récentes aident à les encadrer. Le 20 juillet, la CNIL et le Conseil de l'IA et du Numérique ont publié une note exploratoire sur l'IA agentique et les données personnelles. Le 4 août, Mistral AI a publié Shieldstral, un modèle ouvert qui sert de filtre de sécurité autour d'un assistant. L'une pose les bonnes questions, l'autre fournit un outil pour y répondre en partie.
Ce que dit la CNIL sur l'IA qui agit à votre place
La note de la CNIL et du CIANum part d'un constat : ces systèmes sont « désormais capables d'agir sur leur environnement à la place de leur utilisateur ». Ce n'est pas une IA générative de plus, c'est un changement d'échelle. La note identifie plusieurs enjeux pour les données personnelles :
- La circulation des données. Un agent accède à de gros volumes de données venant de plusieurs sources, et les fait circuler entre plusieurs services.
- La mémoire. L'historique des échanges et les mémoires persistantes augmentent la quantité de données conservées.
- Le profilage : ces mécanismes favorisent des profils très personnalisés et une autonomie de décision accrue.
- La perte de maîtrise. Les flux deviennent difficiles à suivre pour l'utilisateur, ce qui met en tension les principes du RGPD.
- Les responsabilités et la cybersécurité. Quand une tâche est déléguée et que le système fonctionne de façon décentralisée, il devient plus difficile de savoir qui est responsable. Et le risque s'étend à tous les services connectés à l'agent.
La CNIL rappelle que le RGPD et le règlement européen sur l'IA s'appliquent déjà, mais que l'autonomie, la mémoire et l'action au nom de l'utilisateur appellent à adapter la façon de les mettre en œuvre. Ce n'est pas une recommandation contraignante, c'est une grille de lecture.
Shieldstral : un filtre de sécurité que l'on peut héberger soi-même
Shieldstral est un classifieur de sécurité. Son rôle n'est pas de répondre, mais de juger : ce message d'utilisateur, cette réponse du modèle ou cette image respecte-t-elle la règle que vous avez fixée ? Ce qui le distingue, selon Mistral :
- Les règles s'écrivent en langage naturel, au moment de l'utilisation, sans réentraîner le modèle. Une même installation peut appliquer une politique différente selon le contexte.
- Il est multimodal : il analyse des textes, des images, ou les deux.
- Il est petit : environ 3 milliards de paramètres, et il tient sur une seule carte graphique de 16 Go.
- Il est ouvert, sous licence Apache 2.0, utilisable commercialement. La fiche du modèle liste douze langues, dont le français.
- Il renvoie un score continu, que l'on peut seuiller : bloquer au-dessus d'une valeur, demander une validation humaine dans une zone grise.
Mistral reste prudent sur ses limites : la fiabilité varie selon les langues et les domaines, et les contenus volontairement obscurcis ou les documents très longs peuvent tromper le filtre. C'est un garde-fou, pas une garantie.
Ce que ça change pour une PME
Mises bout à bout, ces deux publications dessinent ce qu'un agent IA raisonnable devrait avoir avant d'entrer en production dans une entreprise :
- Un périmètre écrit. Quelles données l'agent lit, dans quels outils il agit, ce qu'il n'a pas le droit de faire. C'est la réponse directe à la « perte de maîtrise » que décrit la CNIL.
- Des droits minimaux. Un compte dédié pour l'agent, avec les seuls accès nécessaires, plutôt que le compte d'un salarié.
- Une validation humaine pour les actions qui engagent : un mail client, une commande, une modification de fiche. L'agent prépare, une personne valide.
- Un journal de ce que l'agent a lu et fait, consultable. C'est ce qui permet de répondre à la question des responsabilités.
- Un filtre en entrée et en sortie. C'est là qu'un modèle comme Shieldstral trouve sa place : repérer une tentative de détournement dans un document reçu, ou une réponse qui sort des règles, avant qu'elle parte.
- Une mémoire limitée et une durée de conservation définie, comme pour n'importe quel traitement de données personnelles.
Le fait que Shieldstral soit ouvert et léger compte : un filtre de sécurité qui envoie chaque message à un service tiers pour l'analyser ajoute un flux de données de plus. Un filtre installé sur votre serveur, non.
Notre position
Les agents IA que nous construisons font une tâche de bout en bout et vous laissent valider avant toute action qui engage. Nous les installons, quand c'est pertinent, sur une IA locale chez vous, matériel compris : aucune donnée ne part chez un fournisseur d'IA. Le cadre réglementaire, lui, bouge : nous avons fait le point sur l'AI Act la semaine dernière dans notre article sur l'omnibus IA.