¿Se puede usar un firewall de IA con cualquier modelo de IA? Cómo evaluar su cobertura
Yuta Matsuyama
Investigador de seguridad, TECHFUND Inc.
Actualizado:
Para quién es: Desarrolladores de aplicaciones de IA y equipos de seguridad
Respuesta práctica
Al implementar un firewall de IA, comprobar únicamente si es compatible con el modelo que utiliza actualmente puede dejar sin cubrir algunas de las rutas que desea proteger. Esto se debe a que incluso un producto que funciona con independencia del modelo puede inspeccionar, en la práctica, solo las solicitudes que llegan en un formato concreto. En resumen, la compatibilidad entre un firewall de IA y un modelo depende del producto y del método de conexión. Si el mecanismo inspecciona las entradas de la aplicación antes de que lleguen al modelo, es posible que pueda seguir utilizándolo en el mismo punto aunque cambie de modelo. En cambio, cuando las funciones están integradas en las llamadas al modelo, su disponibilidad varía según el proveedor, el ID del modelo y la API.
Qué comprobar primero
Compruebe estos aspectos en este orden: ① dónde se sitúa la inspección, ② qué puede inspeccionar y ③ qué ocurre después de la detección. La siguiente comparación se basa en la documentación oficial disponible a fecha del 13 de noviembre de 2026. Las especificaciones y las condiciones de precios pueden cambiar, por lo que debe consultar la información más reciente antes de la implementación.
«Firewall for AI» de Cloudflare es independiente del modelo, pero impone condiciones sobre las entradas que puede inspeccionar
Si el nombre que ha buscado se refiere al producto de Cloudflare, lo primero es prestar atención a la denominación. AI Security for Apps de Cloudflare se llamaba anteriormente «Firewall for AI». La documentación oficial explica que la detección no depende del LLM utilizado.
Sin embargo, según esa misma documentación, la inspección abarca las solicitudes entrantes a endpoints con la etiqueta cf-llm, y la detección actual admite el formato application/json. Para bloquear solicitudes o presentar desafíos a partir de los resultados de detección de inyección de prompts y otras amenazas, es necesario configurar reglas del WAF. Los campos de detección de IA son un complemento de pago para Enterprise, y es necesario confirmar su disponibilidad con el proveedor.
Es decir, no depender del nombre del modelo no equivale a inspeccionar automáticamente imágenes, documentos, respuestas del modelo y rutas internas de la aplicación. Compruebe primero si sus entradas pasan por el ámbito de inspección.
Cabe señalar que AI Gateway Guardrails, aunque también es de Cloudflare, es una función distinta. La documentación oficial indica que, cuando se desconoce el tipo de modelo, solo se evalúa la entrada y se omite la evaluación de la respuesta. El mero hecho de poder conectarse a la puerta de enlace no significa necesariamente que también se inspeccionen las respuestas.
El significado de «compatible» cambia según el método de conexión
Por ejemplo, la lista de modelos compatibles con Amazon Bedrock Guardrails incluye modelos para los que no se pueden especificar guardrails directamente en las llamadas de inferencia. La documentación explica que hacerlo con un modelo no compatible produce un error de validación. Por su parte, ApplyGuardrail es una API que puede inspeccionar de forma independiente el texto que le envía la aplicación, sin llamar a un modelo.
Incluso bajo el mismo nombre de producto, la «compatibilidad con modelos» significa cosas distintas en la integración directa durante la inferencia y en una API independiente. Una API independiente permite una arquitectura en la que la aplicación envía las entradas y salidas de otro modelo para su inspección, pero debe implementar tanto el proceso de envío del contenido que se va a inspeccionar como el que utiliza los resultados. Que un producto se describa como independiente del modelo no basta para concluir que inspecciona toda la información, incluidas imágenes y audio.
La lista de compatibilidad de NVIDIA NeMo Guardrails abarca varios proveedores y modelos alojados por cuenta propia. No obstante, los métodos de conexión y la necesidad de bibliotecas adicionales varían según el proveedor. Lo más seguro es elegir primero el modelo y el formato de API que se utilizarán y, después, comprobar esa combinación concreta.
| Método de conexión | Qué comprobar | Ejemplo |
|---|---|---|
| Inspección en el punto de entrada de la aplicación | URL de destino, formatos de solicitud y campos que se inspeccionan. Si los documentos obtenidos internamente y las respuestas pasan por ese punto | Cloudflare AI Security for Apps |
| Integración en las llamadas al modelo | ID del modelo, API, región y funciones compatibles con entradas y salidas | Integración de Amazon Bedrock Guardrails durante la inferencia |
| Llamada a una API de inspección independiente | Qué envía la aplicación, cuándo lo envía y cómo trata el dictamen. La información que no se envía no se inspecciona | ApplyGuardrail de Amazon Bedrock |
| Incorporación de una biblioteca en la aplicación | Proveedores compatibles, adaptadores, diferencias entre funciones y responsabilidades operativas propias | NVIDIA NeMo Guardrails |
Dibuje el recorrido de la información antes de centrarse en el modelo
Piense, por ejemplo, en un asistente de IA que responde a preguntas buscando en documentos internos.
Aunque el firewall del punto de entrada revise las preguntas de los usuarios, los documentos incorporados después de la búsqueda y los datos devueltos por herramientas externas podrían no pasar por ese punto. Respecto a la inyección indirecta de prompts mediante instrucciones incrustadas en documentos, la explicación de OWASP también identifica los documentos externos como una de las rutas de ataque. La documentación de Amazon Bedrock Knowledge Bases también indica explícitamente que los guardrails de Amazon Bedrock no se aplican a los materiales de referencia recuperados durante la ejecución.
Durante la evaluación, distinga al menos entre preguntas, documentos recuperados, argumentos y resultados de herramientas, y respuestas del modelo, y anote qué controles inspeccionan cada punto. Si maneja imágenes o audio, compruebe también si cada formato está realmente incluido en el ámbito de inspección de las políticas aplicadas. Cuando cambie el modelo conectado, vuelva a probar si se mantienen las mismas rutas y controles.
Pregunta del usuario → Inspección de entrada → Búsqueda → Documentos recuperados → Modelo → Inspección de salida → Respuesta
Resultados de herramientas externas → Modelo (cuando sea necesario)Pruebe la detección y el bloqueo, los idiomas y el comportamiento ante fallos
«Puede detectar» y «bloquea automáticamente» no son lo mismo. Microsoft Prompt Shields detecta patrones de ataque en las entradas de los usuarios y en los documentos proporcionados. Sin embargo, con Azure AI Content Safety API, es la aplicación la que decide qué hacer después de la detección, como permitir o bloquear el contenido. Que no se haya detectado un ataque tampoco garantiza que el contenido sea seguro.
En las pruebas previas a la implementación, envíe tanto preguntas normales en los idiomas que vaya a utilizar como ejemplos de ataques preparados dentro de un ámbito autorizado. Compruebe si han pasado por la inspección, si se bloquean por error entradas legítimas y si el procesamiento posterior a la detección funciona según lo previsto. En particular, para idiomas distintos del inglés, como el japonés, no compruebe solo los idiomas compatibles con cada función, sino también su comportamiento con entradas reales. Microsoft también recomienda evaluar Prompt Shields para cada idioma utilizado.
Además, decida si permitirá o detendrá el tráfico cuando el servicio de inspección agote el tiempo de espera, si el streaming puede mostrar parte del contenido antes de inspeccionarlo y cómo evitar que quede información confidencial en los registros. El diseño no debe depender únicamente de la inspección: también debe reducir al mínimo los permisos de las funciones que puede llamar el modelo y exigir una aprobación independiente para las operaciones importantes.
Preguntas frecuentes
¿Continúa la inspección al cambiar de modelo?
Compruebe el punto de acceso, el formato y las rutas; vuelva a probar la detección y el bloqueo.
¿Es seguro el contenido si no se detecta un ataque?
No. Las comprobaciones pueden omitir ataques o rutas; limite permisos y exija aprobación humana cuando corresponda.
Cómo puede ayudar Hi AUDIT Agent
Si, además de inspeccionar las entradas y salidas durante la ejecución, también quiere revisar las comprobaciones de permisos y el procesamiento de entradas en el código de la aplicación, puede utilizar Hi AUDIT Agent desde su entorno de desarrollo. A través de MCP, puede solicitar un análisis del código y revisar las ubicaciones detectadas y las correcciones propuestas. Los resultados del análisis sirven como material de revisión; las personas deciden si se aplican los cambios. No sustituye a un firewall de IA que opera sobre el tráfico en vivo.
Crear una cuenta de Hi AUDIT Agent