Un pare-feu IA peut-il être utilisé avec n’importe quel modèle d’IA ? Comment évaluer sa couverture

Yuta Matsuyama

Chercheur en sécurité, TECHFUND Inc.

Mis à jour:

À qui s’adresse cet article: Développeurs d’applications IA et équipes de sécurité

Réponse pratique

Lors du déploiement d’un pare-feu IA, vérifier uniquement sa compatibilité avec le modèle actuellement utilisé peut laisser certaines des voies que vous souhaitez protéger sans couverture. En effet, même un produit utilisable indépendamment du modèle peut, dans les faits, n’inspecter que les requêtes reçues dans un format particulier. En bref, la compatibilité entre un pare-feu IA et un modèle dépend du produit et du mode de connexion. Si le mécanisme inspecte les entrées de l’application avant qu’elles n’atteignent le modèle, il peut parfois rester au même endroit après un changement de modèle. En revanche, pour les fonctionnalités intégrées aux appels du modèle, la disponibilité varie selon le fournisseur, l’ID du modèle et l’API.

Points à vérifier en premier

Vérifiez les points suivants dans cet ordre : ① où placer l’inspection, ② ce qu’elle peut inspecter et ③ ce qui se passe après une détection. La comparaison ci-dessous repose sur la documentation officielle disponible au 13 novembre 2026. Les spécifications et les conditions tarifaires pouvant évoluer, consultez les informations les plus récentes avant tout déploiement.

Le « Firewall for AI » de Cloudflare est indépendant du modèle, mais les entrées qu’il peut inspecter sont soumises à certaines conditions

Si le nom que vous avez recherché désigne le produit de Cloudflare, commencez par prêter attention à sa dénomination. AI Security for Apps de Cloudflare s’appelait auparavant « Firewall for AI ». La documentation officielle précise que la détection ne dépend pas du LLM utilisé.

Toutefois, selon cette même documentation, l’inspection porte sur les requêtes entrantes vers les points de terminaison portant l’étiquette cf-llm, et la détection actuelle prend en charge le format application/json. Pour bloquer des requêtes ou présenter des défis de vérification à partir des résultats de détection d’injections de prompt et d’autres menaces, il faut configurer des règles WAF. Les champs de détection IA constituent une option payante pour Enterprise, dont la disponibilité doit être confirmée auprès du fournisseur.

Autrement dit, ne pas dépendre du nom du modèle ne signifie pas inspecter automatiquement les images, les documents, les réponses du modèle et les chemins internes à l’application. Vérifiez d’abord si vos entrées passent bien par le périmètre d’inspection.

À noter que AI Gateway Guardrails, bien qu’il soit également proposé par Cloudflare, est une fonctionnalité distincte. La documentation officielle indique que, lorsque le type de modèle est inconnu, seule l’entrée est évaluée et l’évaluation de la réponse est ignorée. Le simple fait de pouvoir se connecter à la passerelle ne signifie donc pas nécessairement que les réponses sont elles aussi inspectées.

Le sens de « compatible » varie selon le mode de connexion

Par exemple, la liste des modèles pris en charge par Amazon Bedrock Guardrails mentionne des modèles pour lesquels il n’est pas possible de spécifier directement des garde-fous dans les appels d’inférence. Elle précise que le faire pour un modèle non pris en charge entraîne une erreur de validation. À l’inverse, ApplyGuardrail est une API capable d’inspecter de façon indépendante le texte transmis par l’application, sans appeler de modèle.

Même sous un nom de produit identique, la « prise en charge des modèles » n’a pas le même sens pour une intégration directe lors de l’inférence et pour une API indépendante. Une API indépendante permet une architecture dans laquelle l’application transmet les entrées et les sorties d’un autre modèle pour inspection, mais vous devez implémenter à la fois l’envoi des éléments à inspecter et l’exploitation des résultats. La seule mention « indépendant du modèle » ne permet pas de conclure que toutes les informations, y compris les images et l’audio, seront inspectées.

La liste de compatibilité de NVIDIA NeMo Guardrails couvre plusieurs fournisseurs ainsi que des modèles auto-hébergés. Cependant, les modes de connexion et la nécessité de bibliothèques supplémentaires varient d’un fournisseur à l’autre. La méthode la plus fiable consiste à choisir d’abord le modèle et le format d’API à exploiter, puis à vérifier cette combinaison précise.

Modes de connexion et vérifications
Mode de connexionPoints à vérifierExemple
Inspection à l’entrée de l’applicationURL ciblées, formats des requêtes et champs inspectés. Vérifier si les documents récupérés en interne et les réponses passent par ce pointCloudflare AI Security for Apps
Intégration aux appels du modèleID du modèle, API, région et fonctionnalités prenant en charge les entrées et les sortiesIntégration d’Amazon Bedrock Guardrails lors de l’inférence
Appel à une API d’inspection indépendanteCe que l’application envoie, à quel moment et comment elle traite le verdict. Les informations non envoyées ne sont pas inspectéesApplyGuardrail d’Amazon Bedrock
Intégration d’une bibliothèque dans l’applicationFournisseurs pris en charge, adaptateurs, différences entre fonctionnalités et responsabilités d’exploitation qui vous incombentNVIDIA NeMo Guardrails

Cartographiez le parcours de l’information avant de vous concentrer sur le modèle

Prenons l’exemple d’un assistant IA qui recherche des documents internes pour répondre aux questions.

Même si le pare-feu placé à l’entrée examine les questions des utilisateurs, les documents intégrés après la recherche et les données renvoyées par des outils externes peuvent ne pas passer par cette entrée. Concernant l’injection indirecte de prompt au moyen d’instructions intégrées à des documents, les explications de l’OWASP citent également les documents externes comme l’une des voies d’attaque. La documentation d’Amazon Bedrock Knowledge Bases précise également que les garde-fous ne s’appliquent pas aux documents de référence récupérés lors de l’exécution.

Lors de l’évaluation, distinguez au minimum les questions, les documents récupérés, les arguments et les résultats des outils, ainsi que les réponses du modèle, puis indiquez quels contrôles inspectent quels points. Si vous traitez des images ou de l’audio, vérifiez aussi si chaque format relève effectivement du périmètre d’inspection des politiques appliquées. Lorsque vous changez le modèle connecté, testez à nouveau le maintien des mêmes chemins et contrôles.

Exemple de flux d’information
Question de l’utilisateur → Inspection de l’entrée → Recherche → Documents récupérés → Modèle → Inspection de la sortie → Réponse
Résultats des outils externes → Modèle (si nécessaire)

Testez la détection et le blocage, les langues et le comportement en cas de panne

« Peut détecter » et « bloque automatiquement » ne signifient pas la même chose. Microsoft Prompt Shields détecte des schémas d’attaque dans les entrées des utilisateurs et les documents fournis. Toutefois, avec Azure AI Content Safety API, c’est l’application qui décide de la suite à donner à une détection, par exemple autoriser ou bloquer le contenu. L’absence d’attaque détectée ne garantit pas non plus que le contenu est sûr.

Lors des tests avant déploiement, soumettez à la fois des questions ordinaires dans les langues utilisées et des exemples d’attaques préparés dans un cadre autorisé. Vérifiez qu’ils sont bien passés par l’inspection, que des entrées légitimes ne sont pas bloquées à tort et que le traitement après détection se déroule comme prévu. En particulier pour les langues autres que l’anglais, comme le japonais, vérifiez non seulement les langues prises en charge par chaque fonctionnalité, mais aussi son comportement sur des entrées réelles. Microsoft recommande également d’évaluer Prompt Shields pour chaque langue utilisée.

Décidez aussi s’il faut laisser passer ou arrêter le trafic lorsque le service d’inspection dépasse le délai d’attente, si le streaming peut afficher une partie du contenu avant son inspection et comment éviter de conserver des informations confidentielles dans les journaux. La conception ne doit pas reposer uniquement sur l’inspection : elle doit aussi limiter au strict minimum les autorisations des fonctions que le modèle peut appeler et prévoir une approbation distincte pour les opérations importantes.

Questions fréquentes

L’inspection continue-t-elle après un changement de modèle ?

Vérifiez le point de terminaison, le format et les chemins, puis testez à nouveau la détection et le blocage.

Un contenu est-il sûr si aucune attaque n’est détectée ?

Non. Des attaques ou chemins peuvent échapper aux contrôles ; limitez les droits et prévoyez une approbation humaine lorsque nécessaire.

Comment Hi AUDIT Agent peut vous aider

Si, en plus d’inspecter les entrées et les sorties en cours d’exécution, vous souhaitez revoir les contrôles d’autorisation et le traitement des entrées dans le code de l’application, vous pouvez utiliser Hi AUDIT Agent depuis votre environnement de développement. Via MCP, vous pouvez demander une analyse du code et examiner les emplacements détectés ainsi que les corrections proposées. Les résultats de l’analyse servent de support à la revue ; la décision d’appliquer les modifications revient à une personne. Cet outil ne remplace pas un pare-feu IA opérant sur le trafic en production.

Créer un compte Hi AUDIT Agent