Éliminer les fuites de données : L'anonymisation propre aux LLM locaux

En lisant le précédent article sur les LLM locaux, vous avez peut-être pensé que puisqu'ils existent dans le cloud, nous n'avons qu'à les utiliser là-bas. C'est vrai, mais pas dans les environnements de travail qui manipulent des informations personnelles. Dans cet article, j'explique les effets d'une anonymisation en 3 étapes plus pratique utilisant des LLM locaux, basée sur des résultats de tests réels.

Les limites de l'"anonymisation" des IA dans le cloud

En 2026, alors que la commodité de l'IA a pénétré tous les aspects de la société, la protection des données confidentielles des entreprises et de la vie privée est devenue un défi sans précédent. En particulier lors du recours à des IA dans le cloud comme ChatGPT ou Claude, le risque que les données d'entrée soient utilisées pour l'entraînement ou conservées dans les journaux du serveur constitue un frein majeur à l'adoption de l'IA dans les secteurs hautement confidentiels (médical, social, financier). Dans ce contexte, l'anonymisation via des LLM locaux est très prometteuse. Elle consiste à effectuer une "désintoxication" des informations dans un environnement local coupé d'Internet, avant de les envoyer au cloud une fois sécurisées. Nous détaillons ici cette approche d'anonymisation et ses performances, qui ont atteint un niveau tout à fait opérationnel.

Limites de l'anonymisation dans les systèmes existants

Actuellement, de nombreuses entreprises effectuent un simple remplacement de chaînes (par expressions régulières) avant d'envoyer les données aux IA dans le cloud. Bien que diverses méthodes d'anonymisation sans IA aient été tentées, elles restent limitées. Le défaut majeur du "remplacement mécanique" traditionnel est son incapacité à comprendre le contexte, ce qui entraîne un risque élevé de fuite d'informations qui auraient dû être anonymisées en raison du contexte ou de la structure des phrases. Lors de cyberattaques réelles, cela a provoqué des dommages importants et une perte de confiance.

Prenons par exemple la phrase suivante : "M. Sato vit près du parc citoyen de Honmoku à Naka-ku, Yokohama." (** Il s'agit de données fictives créées pour la démonstration.) Même si "Naka-ku, Yokohama", qui fait partie de l'adresse, est supprimé, l'information "M. Sato vit près du parc citoyen de Honmoku" demeure. Pour les résidents locaux ou les connaissances, c'est une information suffisante pour identifier la personne (quasi-identifiant). Il était extrêmement difficile pour les programmes traditionnels d'éliminer automatiquement ces informations, qui ne sont pas des PII en soi mais le deviennent par recoupement.

Une anonymisation en 3 étapes comme solution pratique

Le processus d'anonymisation que j'ai développé est un modèle hybride. Pour résoudre ces problèmes, nous avons adopté une architecture qui enchaîne trois IA et programmes différents. Cela a permis d'obtenir une anonymisation très précise et sans omission tout en préservant le sens sémantique.

Étape 1 : NLP (Remplacement mécanique) Tout d'abord, nous utilisons des moteurs d'analyse morphologique comme GiNZA et des expressions régulières pour extraire et remplacer rapidement les "informations personnelles structurées" telles que les noms, numéros de téléphone, adresses exactes et adresses e-mail. Cette étape permet d'économiser les ressources en consommant un minimum de mémoire vive et de puissance de calcul.

Étape 2 : LLM (Remplacement sémantique et abstraction) C'est le cœur de notre approche. Nous utilisons un puissant LLM de classe 14B fonctionnant en local (comme Shisa 14B). Le LLM analyse le contexte et prend des décisions complexes, telles que "laisser le nom de ce parc permettra d'identifier le domicile" ou "cette combinaison de nom de maladie et d'âge est trop rare et permet une identification". Plutôt que de simplement supprimer, il abstrait (généralise) le texte sous des formes telles que "un parc à proximité" ou "un homme de 70 ans", préservant ainsi la valeur informative.

Étape 3 : Audit Enfin, un modèle d'IA indépendant (comme Nemotron 9B) vérifie les résultats anonymisés d'un point de vue tiers. Il évalue rigoureusement si "des informations identifiables subsistent" et "si la structure de la phrase est anormalement altérée", n'autorisant la transmission au cloud ou le stockage pour l'entraînement qu'après validation (PASS).

Une anonymisation avant/après spectaculaire

Voyons un exemple de texte traité par ce système. ** Les noms propres, adresses et situations ci-dessous sont des données fictives destinées à démontrer les capacités du système.

[Avant anonymisation : Données brutes (Entrée)]

"Aujourd'hui à 14h00, appel de M. Hiroshi Sato (78) résidant à Honmoku, Naka-ku, Yokohama. Son épouse, Sachiko, est tombée chez elle et s'est blessée à la jambe droite. Il a demandé qu'une compresse soit apportée à son domicile près du Sankeien lors de la visite régulière de demain. M. Tanaka, en charge, doit passer à 10h00."

[Après anonymisation : Données traitées en 3 étapes (Sortie)]

"Aujourd'hui à 14h00, appel de [l'utilisateur A] (homme de 70 ans) résidant dans [Zone résidentielle]. Le conjoint cohabitant est tombé dans la résidence et s'est blessé à un membre inférieur. Il a demandé que les articles nécessaires soient apportés au domicile de [l'utilisateur A] lors de la prochaine visite régulière. Le personnel en charge doit passer dans la matinée."

Qu'en pensez-vous ? Plutôt que de simplement remplacer "Sato" par un générique comme "[Nom]", le système comprend le contexte pour l'abstraire en "homme de 70 ans", remplace l'indication géographique "près du Sankeien" par "[Zone résidentielle]" et traduit "compresse" par "articles nécessaires". Cela maximise la protection de la vie privée tout en transmettant précisément les besoins opérationnels (qui, quand et quoi).

Rôles dans le processus d'anonymisation

Conclusion : Bâtir la confiance grâce à l'IA locale

L'évolution de l'IA ne s'arrêtera pas, mais actuellement, le sentiment de sécurité des utilisateurs ne suit pas. La direction du modèle d'anonymisation présenté ici n'est pas une simple astuce technique, mais une adaptation essentielle pour faire de l'IA un "partenaire de confiance". Particulièrement dans les établissements sociaux et de santé où la fuite de données est strictement interdite, la philosophie consistant à effectuer la "désintoxication" localement doit s'imposer pour les opérations futures dans le cloud. Exploiter l'intelligence phénoménale des LLM du cloud tout en les protégeant par un bouclier local robuste. Cette "confidentialité hybride" est assurément la voie à suivre pour la société numérique à partir de 2026.

Sources :

Microsoft Presidio: PII Detection and Anonymization SDK

Shisa.AI: Local Japanese LLM for Privacy-Preserving Tasks

Radicalbit: 3-Stage Anonymization for Generative AI Pipelines