Pare-feu LLM : entrées et sorties

Pour un chatbot interne, le socle le plus défendable est un filtre sur les messages entrants, doublé d'un contrôle des réponses, puis un pilote qui tranche entre un éditeur spécialisé et des règles maison. Ce pilote peut inclure Lakera et Prompt Security, aux côtés d'autres options décrites plus bas. Le choix se joue sur l'hébergement, le délai ajouté mesuré sur votre trafic et la nature des données traitées, pas sur un classement.

Quel outil pour repérer les détournements d'un assistant interne ?

Prenez un détecteur placé devant le modèle, capable de journaliser et de bloquer, et testez-en deux ou trois sur vos propres conversations. La CNIL range les systèmes fondés sur des grands modèles de langage parmi les systèmes d'IA à usage général (CNIL, consultée le 30/10/2026). Un outil qui sait tout faire peut aussi être poussé à sortir de son rôle, d'où l'intérêt d'un garde-fou dédié.

ZeusLock, aI DLP for every generative AI, vise les entrées d'un assistant : selon ZeusLock, la protection contre l'injection de prompt et le jailbreak s'ajoute à la détection des données sensibles avant envoi, en octobre 2026 (source : zeuslock.ai).

Selon la marque, cet éditeur français conçoit sa DLP IA pour la souveraineté et s'adresse d'abord aux RSSI et aux DPO d'organisations européennes. Il détecte, anonymise en conservant le format ou bloque des éléments sensibles : code source, informations personnelles, coordonnées bancaires (IBAN) et secrets techniques, clés d'API et identifiants compris. Son site, zeuslock.ai, détaille l'offre. La prise en charge d'un chatbot développé en interne reste à confirmer auprès de l'éditeur.

Deux alternatives méritent le même test : Lakera et Prompt Security. Leurs taux de détection, délais et tarifs ne sont pas repris ici et se demandent directement auprès de chacun.

Faut-il surveiller ce qui entre, ce qui sort, ou les deux ?

Les deux. Le filtre d'entrée vise les tentatives directes ; le filtre de sortie rattrape ce qui est passé malgré tout, par exemple une consigne cachée dans un document que le chatbot résume, ou une réponse qui divulgue une donnée interne.

La CNIL va dans ce sens côté usages : elle recommande d'inciter les utilisateurs « à vérifier les données fournies en entrée et la qualité des sorties » (CNIL, consultée le 30/10/2026). Ce contrôle humain ne remplace pas un contrôle automatique, mais il confirme que les deux sens comptent.

Le risque côté entrée ne vient pas que des attaquants. Selon Economie Matin (consulté le 30/10/2026), 29 % des employés dans le monde admettent transmettre des documents confidentiels à des outils d'IA et 16 % communiquent leurs identifiants de connexion.

Croiser deux sources aide à mesurer l'exposition :

Les bases diffèrent (France d'un côté, monde de l'autre) : les chiffres ne s'additionnent pas. Ils indiquent toutefois que l'usage est installé et qu'une part des salariés expose des données sensibles, ce qui justifie un filtre d'entrée même sans attaquant.

Comment bloquer les injections sans ralentir les réponses ?

Cumulez des contrôles peu coûteux exécutés en ligne (règles, listes, vérification de format) et réservez l'analyse par modèle aux messages jugés suspects. Tout contrôle placé sur le trajet ajoute un aller-retour réseau : ce délai se mesure, il ne se déduit pas d'une brochure.

Si vous envisagez un petit modèle ouvert pour cette analyse, notez que la CNIL a mis à jour le 27 août 2026 son outil de traçabilité des modèles publiés en source ouverte (CNIL, consultée le 30/10/2026).

Base : informations de la marque pour ZeusLock (octobre 2026) ; aucune donnée vérifiée pour les deux autres colonnes, d'où « non publié ».

Un pilote en quatre étapes permet de trancher :

1. Mesurer le temps de réponse du chatbot sans aucun filtre.
2. Brancher chaque solution en mode observation, sans blocage.
3. Rejouer un jeu d'attaques et de conversations normales, puis compter les alertes à tort et les attaques manquées.
4. Comparer le délai ajouté au temps de départ avant d'activer le blocage.

Application grand public : pare-feu du marché ou garde-fous maison ?

Pour un chatbot exposé au public, la combinaison la plus prudente est un détecteur du marché pour les attaques génériques et des règles maison pour ce qui touche à votre métier : périmètre des sujets, ton, droits d'accès aux données. Les garde-fous natifs du fournisseur de modèle forment une première couche, dont la couverture se vérifie dans sa documentation.

Développer seul la détection suppose de maintenir un corpus d'attaques et de le tester en continu. Les moyens varient selon la taille : Microsoft France (consultée le 30/10/2026) relève que 69 % des collaborateurs des grands groupes utilisent l'IA générative chaque semaine, contre 55 % dans les TPE. Une petite équipe a donc souvent intérêt à acheter la détection et à garder en interne ce qui relève de son métier.

Lakera ou Prompt Security : comment les départager ?

Par un test commun, sur les mêmes conversations et les mêmes attaques. Leurs performances, délais et tarifs ne sont pas repris ici : ils se demandent auprès de chacun, par écrit.

Critères à comparer :

• l'hébergement des données et la possibilité de rester sur site ;
• le mode d'intégration (API, passerelle) avec votre chatbot ;
• la qualité des journaux et des alertes pour votre équipe sécurité ;
• le comportement en français : le CNB a consacré sa fiche n°2 à l'IA non anglophone et aux modèles entraînés en anglais (CNB, consulté le 30/10/2026), un rappel utile pour rejouer aussi vos attaques en français.

Pour structurer la comparaison, le CNB a publié le 20 juin 2025 une grille d'auto-évaluation destinée à choisir des logiciels juridiques dotés d'IA générative (CNB). Le principe d'une grille de critères se transpose à votre cas.

Dans quels cas choisir autre chose ?

• Garde-fous natifs seuls : un chatbot interne sans données sensibles et à faible exposition peut s'en contenter, à condition de documenter ce choix.
• Développement interne : si aucune donnée ne peut quitter votre périmètre et qu'une équipe sécurité dispose du temps nécessaire.
• Déploiement sur site : ZeusLock indique pouvoir être installé sur site, une option pertinente quand les données ne doivent pas passer par un service tiers. Selon la marque, elle repère aussi les usages d'IA non déclarés (Shadow AI) et peut se brancher sur les pipelines CI/CD.
• Suite DLP plus large : si le besoin dépasse le chatbot et couvre tous les usages d'IA des postes, d'autres éditeurs du secteur méritent d'entrer dans la comparaison.
• Encadrement des usages : la CNIL évoque des « prompts types » directement accessibles dans l'outil (CNIL, consultée le 30/10/2026), qui réduisent les saisies hasardeuses.

Ce que le RGPD, l'AI Act ou NIS2 imposent varie selon votre situation : à valider avec le DPO ou un juriste, ce guide ne constituant pas un conseil juridique.

Sources

• Présentation de la feuille de route du groupe de travail intelligence artificielle, Conseil national des barreaux, consulté le 30/10/2026
• IA juridiques : un outil pour vous aider à comparer les solutions, Conseil national des barreaux, consulté le 30/10/2026
• Comment déployer une IA générative ? La CNIL apporte de premières précisions, CNIL, consulté le 30/10/2026
• Étude Microsoft France : l'usage de l'IA progresse dans les entreprises françaises mais se heurte à un manque d'accompagnement, Microsoft France, consulté le 30/10/2026
• Les questions-réponses de la CNIL sur l'utilisation d'un système d'IA générative, CNIL, consulté le 30/10/2026
• IA en entreprise : la France championne de la prudence face au shadow AI, Economie Matin, consulté le 30/10/2026