AI 방화벽은 어떤 AI 모델에도 사용할 수 있을까? 지원 범위를 판단하는 방법

Yuta Matsuyama

TECHFUND 주식회사 보안 연구원

업데이트:

대상 독자: AI 애플리케이션 개발자와 보안팀

핵심 답변

AI 방화벽을 도입할 때 “지금 사용하는 모델을 지원하는가”만 확인하면 보호하려는 경로 일부가 보호되지 않은 채 남을 수 있습니다. 모델에 관계없이 사용할 수 있는 제품이라도 실제로 검사하는 대상은 특정 형식으로 들어오는 요청뿐일 수 있기 때문입니다. 결론부터 말하면, AI 방화벽과 모델의 호환 관계는 제품과 연결 방식에 따라 달라집니다. 입력이 모델에 도달하기 전에 앱의 입력을 검사하는 구조라면 모델을 바꾸더라도 같은 위치에서 계속 사용할 수 있는 경우가 있습니다. 반면 모델 호출에 통합된 기능은 제공업체, 모델 ID, API에 따라 사용 가능 여부가 달라집니다.

선택하기 전에 확인할 점

확인할 순서는 ① 검사를 어디에 배치할지, ② 무엇을 검사할 수 있는지, ③ 탐지 후 어떻게 동작하는지입니다. 아래 비교는 2026년 11월 13일 기준 공식 자료를 바탕으로 합니다. 사양과 요금 조건은 바뀔 수 있으므로 도입 전에 최신 정보를 확인하세요.

Cloudflare의 “Firewall for AI”는 모델에 종속되지 않지만, 검사할 수 있는 입력에는 조건이 있다

검색한 이름이 Cloudflare 제품을 가리킨다면 먼저 명칭에 주의해야 합니다. Cloudflare의 AI Security for Apps는 이전에 “Firewall for AI”라는 이름으로 불렸습니다. 공식 자료에서는 탐지가 사용하는 LLM에 종속되지 않는다고 설명합니다.

다만 같은 자료에 따르면 검사 대상은 cf-llm 라벨이 붙은 엔드포인트로 들어오는 요청이며, 현재 탐지는 application/json 형식을 처리합니다. 프롬프트 인젝션 등의 탐지 결과를 이용해 차단하거나 챌린지를 수행하려면 WAF 규칙을 설정해야 합니다. AI 탐지 필드는 Enterprise용 유료 추가 기능이며, 사용하려면 제공업체에 확인해야 합니다.

즉, 모델 이름에 종속되지 않는다는 것과 이미지, 문서, 모델 응답, 앱 내부 경로까지 자동으로 검사한다는 것은 별개의 문제입니다. 먼저 자사의 입력이 검사 범위를 통과하는지 확인하세요.

참고로, 같은 Cloudflare에서 제공하더라도 AI Gateway Guardrails는 별개의 기능입니다. 공식 문서에 따르면 모델 유형을 알 수 없는 경우 입력만 평가하고 응답 평가는 건너뜁니다. 게이트웨이에 연결할 수 있다는 사실만으로 응답까지 검사된다고 볼 수는 없습니다.

“사용할 수 있다”의 의미는 연결 방식에 따라 달라진다

예를 들어 Amazon Bedrock Guardrails의 지원 모델 목록에는 추론 호출에 가드레일을 직접 지정할 수 없는 모델이 나와 있습니다. 지원하지 않는 모델에 지정하면 유효성 검사 오류가 발생한다고 설명합니다. 한편 ApplyGuardrail은 모델을 호출하지 않고 앱이 전달한 텍스트를 독립적으로 검사할 수 있는 API입니다.

같은 제품명이라도 추론 시 직접 통합과 독립 API에서 말하는 “모델 지원”의 의미는 다릅니다. 독립 API는 앱이 다른 모델의 입력과 출력을 전달해 검사하는 구조로 구성할 수 있지만, 검사 대상을 보내는 처리와 결과를 활용하는 처리는 직접 구현해야 합니다. 모델에 종속되지 않는다는 설명만으로 이미지와 음성을 포함한 모든 정보가 검사된다고 판단할 수는 없습니다.

NVIDIA NeMo Guardrails의 지원 목록은 여러 제공업체와 자체 호스팅 모델을 다룹니다. 다만 연결 방식과 추가 라이브러리의 필요 여부는 제공업체마다 다릅니다. 운영할 모델과 API 형식을 정한 뒤 해당 조합을 확인하는 것이 확실합니다.

연결 방식별 확인 사항
연결 방식확인할 사항예시
앱 진입점에서 검사대상 URL, 요청 형식, 검사할 필드. 내부에서 가져오는 문서와 응답이 이 지점을 통과하는지Cloudflare AI Security for Apps
모델 호출에 통합모델 ID, API, 리전, 입력·출력을 지원하는 기능Amazon Bedrock Guardrails의 추론 시 통합
독립적인 검사 API 호출앱이 무엇을 언제 보내는지, 판정 결과를 어떻게 처리하는지. 보내지 않은 정보는 검사되지 않음Amazon Bedrock의 ApplyGuardrail
앱에 라이브러리 통합지원 제공업체, 어댑터, 기능별 차이, 자체 운영 책임NVIDIA NeMo Guardrails

모델보다 먼저 정보가 지나는 경로를 그린다

예를 들어 사내 문서를 검색해 답변하는 AI 어시스턴트를 생각해 보겠습니다.

진입점의 방화벽에서 사용자 질문만 검사하더라도, 검색 후 가져오는 문서나 외부 도구가 반환하는 데이터는 그 진입점을 통과하지 않을 수 있습니다. 문서에 삽입된 지시를 통한 간접 프롬프트 인젝션과 관련해서는 OWASP의 설명에서도 외부 문서를 공격 경로 중 하나로 꼽습니다. Amazon Bedrock Knowledge Bases 문서에도 실행 시 검색된 참조 자료에는 가드레일이 적용되지 않는다고 명시되어 있습니다.

검토할 때는 적어도 질문, 가져온 문서, 도구의 인수와 결과, 모델의 답변을 구분하고, 어느 지점을 어떤 통제가 검사하는지 적어 보세요. 이미지나 음성을 다룬다면 각 형식이 실제 정책에서 검사 대상에 포함되는지도 확인합니다. 연결된 모델을 변경하면 동일한 경로와 통제가 유지되는지 다시 테스트합니다.

정보 흐름 예시
사용자 질문 → 입력 검사 → 검색 → 가져온 문서 → 모델 → 출력 검사 → 답변
외부 도구 결과 → 모델 (필요한 경우)

탐지와 차단, 언어, 장애 시 동작을 테스트한다

“탐지할 수 있다”와 “자동으로 차단된다”는 같은 뜻이 아닙니다. Microsoft Prompt Shields는 사용자 입력이나 전달된 문서의 공격 패턴을 탐지합니다. 다만 Azure AI Content Safety API에서는 탐지 후 허용 또는 차단 등의 처리를 결정하는 주체가 앱입니다. 공격이 탐지되지 않았다는 사실이 해당 내용의 안전성을 보장하는 것도 아닙니다.

도입 전 테스트에서는 사용할 언어의 일반적인 질문과 허가된 범위 안에서 준비한 공격 예시를 모두 보내 봅니다. 검사 지점을 통과했는지, 정상 입력이 잘못 차단되지 않는지, 탐지 후 처리가 예상대로 동작하는지 확인하세요. 특히 일본어 등 영어 이외의 언어는 기능별 지원 언어뿐 아니라 실제 입력에서의 동작도 확인해야 합니다. Microsoft 역시 Prompt Shields를 사용하는 언어별로 평가할 것을 권장합니다.

또한 검사 서비스가 타임아웃될 때 통과시킬지 중단할지, 스트리밍에서 검사 전에 일부 내용이 표시될 수 있는지, 로그에 기밀 정보가 남지 않도록 할 방법을 정해야 합니다. 검사에만 의존하지 말고, 모델이 호출할 수 있는 기능의 권한을 최소화하며 중요한 작업에는 별도 승인을 두는 설계가 필요합니다.

자주 묻는 질문

모델을 바꿔도 검사가 계속되나요?

엔드포인트와 형식, 경로를 확인하고 탐지와 차단을 다시 테스트하세요.

공격이 탐지되지 않으면 안전한가요?

아니요. 검사에서 공격이나 경로가 빠질 수 있으므로 권한을 제한하고 필요한 작업은 사람이 승인해야 합니다.

Hi AUDIT Agent가 돕는 방법

운영 중인 입력·출력을 검사하는 체계에 더해 앱 코드에 있는 권한 검사와 입력 처리도 검토하고 싶다면 개발 환경에서 Hi AUDIT Agent를 사용할 수 있습니다. MCP를 통해 코드 분석을 요청하고 탐지된 위치와 수정 제안을 확인할 수 있습니다. 분석 결과는 검토를 위한 자료이며, 적용 여부는 사람이 판단합니다. 운영 중인 AI 방화벽을 대체하는 것은 아닙니다.

Hi AUDIT Agent 가입하기