Cas d'usageGouvernance de l'IA
Le service client veut un assistant nourri de trois ans de courriers de réponse. Ils contiennent noms, adresses, IBAN. Qui vérifie les 18 400 ?
Chaque document est filtré avant que l'assistant puisse le lireDes règles validées par le DPO, versionnées, appliquées par lotDes tests de fuite journalisés et rejouables avant la mise en service
18 400 documents lus avec le jeu de règles v1.2. 15 630 copies masquées entrent dans la collection de l'assistant, 412 restent dehors.
source · 4 collections du référentielDonnées personnelles trouvées · la copie masquée entre
Que fait un assistant d'un courrier de réponse qui contient l'IBAN d'un client ? Il le cite, à qui le demande. Le modèle fonctionne comme prévu ; le problème vient d'un corpus que personne n'a filtré, jusqu'au modèle de courrier qui nomme encore le premier client pour qui il a été écrit. Aujourd'hui, l'équipe projet le découvre en recette, ou pire, par un conseiller.
Le filtrage passe d'abord, avant la moindre réponse. Le moteur d'opérations lit chaque document avec des règles validées par le DPO, masque ce qui ne doit pas être cité, écarte ce qui ne doit pas entrer et réserve le reste à une personne. L'assistant ne lit que la collection filtrée, et le DPO signe les tests de fuite avant que quiconque l'utilise.
Le courrier retenu et le journal des six jours relèvent d'une même discipline : les règles sont écrites avant qu'un document soit lu, les cas douteux attendent une personne, et l'assistant entre en service sur des tests signés par le DPO. Plus bas, le corpus se construit dans cet ordre, puis reste surveillé après la mise en service.
Avant qu'un seul document soit lu, l'équipe écrit ce qui entre dans le périmètre et ce que devient chaque type de donnée personnelle.
Rachid Benmoussa, le DSI, sélectionne quatre collections du référentiel : procédures, fiches produit, modèles de courrier et courriers de réponse envoyés depuis 2023. Soit 18 400 documents. Il laisse de côté les dossiers de réclamation et les espaces RH, et note pourquoi sur le projet.
Rachid et Isabelle Laurent, la DPO, fixent une action par catégorie de données. Les noms et adresses des courriers de réponse sont masqués. Les IBAN et numéros de carte sont masqués partout. Tout courrier qui parle de santé est écarté. Un document sur lequel l'IA hésite est réservé à une personne.
Le moteur d'opérations lit les 18 400 documents et applique à chacun le jeu de règles v1.2. Les documents sains entrent tels quels dans la collection de l'assistant. Ceux qui portent des données personnelles entrent en copie masquée. Les autres sont écartés ou retenus, avec leur motif. Les originaux du référentiel restent intacts.
Les règles tranchent la plupart des documents. Les 148 retenus demandent une personne, et Élodie commence par les modèles de courrier.
Élodie Marchal, responsable de la base de connaissances, ouvre la quarantaine. Un modèle de courrier, qui ne devrait contenir aucune donnée personnelle, porte encore le nom et l'adresse du client pour qui il a été écrit. Une procédure inclut une capture d'écran avec un numéro de compte. Elle commence par les modèles, que les conseillers réutiliseront le plus.
Élodie accepte les deux masques sur ML-204. La copie masquée entre dans la collection de l'assistant, et elle envoie une tâche de correction au responsable de la bibliothèque de modèles pour que l'original soit corrigé lui aussi.
Certaines demandes vont au-delà d'un masque. L'équipe sinistres demande d'inclure 40 courriers de réponse sur des frais médicaux, parce qu'ils expliquent bien une règle de remboursement. Isabelle refuse pour cette version, et propose à l'équipe d'écrire un modèle de courrier qui explique la règle sans aucune donnée de santé.
Sur le papier, la collection est propre. Avant que les conseillers y touchent, l'équipe fait tout pour la faire fuir.
Rachid lance 60 questions de test conçues pour faire sortir des données personnelles : l'IBAN d'un client, l'adresse derrière un numéro de contrat, qui a écrit au sujet d'une hospitalisation. Chaque appel est journalisé avec sa question, sa réponse, le modèle et l'heure. Isabelle lit les réponses. Aucune ne rend de donnée réelle, et elle signe le rapport de test.
Thomas Girard a au téléphone une cliente qui veut déplacer sa date de prélèvement. Il demande à l'assistant quoi faire et quoi envoyer. La réponse cite la procédure P-042 à sa page et le modèle de courrier ML-204. Thomas complète les coordonnées de la cliente depuis son propre dossier.
Après la mise en service, chaque nouveau courrier de réponse et chaque procédure mise à jour passent par le même jeu de règles avant que l'assistant puisse les lire. Le flux tourne aussi longtemps que vivent les collections, et les documents retenus arrivent dans la file d'Élodie.
Le jeu de règles v1.2 envoie chaque document sur l'une de trois voies. La voie décide si l'assistant le lit tel quel, en lit une copie masquée, ou s'il attend Élodie.
Une procédure, une fiche produit. Les règles ne trouvent rien à masquer.
Ensuite : le document entre tel quel dans la collection de l'assistant.Un nom, une adresse, un IBAN dans un courrier de réponse. Les masques suivent les règles validées.
Ensuite : la copie masquée entre, l'original reste entier dans le référentiel.Une confiance faible, une mention de santé possible, un scan illisible.
Ensuite : la responsable de la base de connaissances décide ; une exception remonte au DPO.Elle n'élargit aucune règle, ne libère aucun document retenu et n'a pas son mot à dire sur la mise en service. Isabelle a signé les règles, les exceptions et le rapport de test, et Élodie a accepté chaque masque sorti de quarantaine.
L'IA détecte, propose des masques et répond à partir de la collection filtrée. Le filtrage est inscrit dans le flux d'entrée, et un courrier écrit ce matin y passe aussi.
Compté sur les 18 400 documents du corpus du service client. D'autres collections et d'autres règles donneront d'autres chiffres.
D'où viennent ces chiffres. Ils sont comptés sur le scénario décrit sur cette page, avec des données d'exemple. Ce ne sont pas les résultats d'un client.
Le corpus demande trois signatures : celle de qui construit l'assistant, celle de qui répond de la protection des données, et celle de qui possède les courriers.
L'assistant est prêt, et personne ne veut signer pour le corpus.
On vous demande de valider une IA qui pourrait citer n'importe quel document du référentiel.
Les modèles de courrier qui aident le plus les conseillers sont justement ceux qui fuient.
Par une seule collection. Prenez celle que votre assistant utiliserait le plus, souvent les courriers de réponse, et lancez le filtrage sur elle seule. Vous verrez ce qui serait entré avant toute mise en service.
Le filtrage lit le référentiel, les collections et les droits que vous avez déjà, et l'assistant en hérite.
Le voir en vrai
Choisissez une collection que vous aimeriez confier à votre assistant. Nous y appliquons les règles de filtrage avec votre DPO et vous montrons ce qui entrerait.
UxoDay 2026
Rejoignez-nous à l'UxoDay, le 19 novembre à Paris
Une journée pour retrouver nos clients et nos partenaires : quatre témoignages, des démonstrations en direct et du temps pour échanger.
Je réserve ma place