AIファイアウォールはどのAIモデルにも使える? 対応範囲を見極める方法

松山 雄太

TECHFUND Inc. セキュリティ研究者

更新日:

対象読者: AIアプリの開発者、セキュリティ担当者

まず押さえるポイント

AIファイアウォールを導入するとき、「いま使っているモデルに対応しているか」だけを確認すると、守りたい経路が残ってしまうことがあります。モデルを選ばずに使える製品でも、実際に検査するのは特定の形式で届くリクエストだけ、という場合があるからです。 結論からいうと、AIファイアウォールとモデルの対応関係は製品と接続方法によります。アプリへの入力をモデルの手前で検査する仕組みなら、モデルを切り替えても同じ場所で使えることがあります。一方、モデル呼び出しに組み込まれた機能では、提供元、モデルIDやAPIによって利用可否が変わります。

選ぶ前に確認すること

確認する順番は、①どこに検査を置くか、②何を検査できるか、③検知後にどう動くか、です。以下は2026年11月13日時点の公式資料を基にした比較です。仕様や料金条件は変わるため、導入前に最新情報を確認してください。

Cloudflareの「Firewall for AI」はモデル非依存。ただし検査できる入力に条件がある

検索した名前がCloudflare製品を指している場合は、まず名称に注意が必要です。CloudflareのAI Security for Appsは、以前「Firewall for AI」と呼ばれていました。公式資料では、検知は使用するLLMに依存しないと説明されています。

ただし、同じ資料によると、検査対象はcf-llmラベルが付いたエンドポイントへの受信リクエストで、現時点の検知はapplication/json形式を扱います。プロンプトインジェクションなどの検知結果を使って遮断・チャレンジするには、WAFのルール設定が必要です。AI検知フィールドはEnterprise向けの有料アドオンで、利用には提供元への確認が必要です。

つまり、モデル名に依存しないことと、画像・文書・モデルの応答・アプリ内部の経路まで自動的に検査されることは別です。自社の入力がその対象を通るかを先に確認しましょう。

なお、同じCloudflareでもAI Gateway Guardrailsは別の機能です。公式資料では、モデル種別が不明な場合は入力だけを評価し、応答の評価を省略するとしています。ゲートウェイに接続できたことだけで、応答まで検査されるとは限りません。

「使える」の意味は接続方式で変わる

例えば、Amazon Bedrock Guardrailsの対応モデル一覧には、推論呼び出しに直接ガードレールを指定できないモデルが載っています。対応しないモデルに指定すると、検証エラーになると説明されています。一方、ApplyGuardrailはモデルを呼び出さず、アプリが渡したテキストを独立して検査できるAPIです。

同じ製品名でも、推論時の直接統合と独立APIでは「モデル対応」の意味が違います。独立APIは、別のモデルの入出力をアプリが渡して検査する構成にできますが、検査対象を送る処理と結果を使う処理は自分たちで組み込む必要があります。モデル非依存という説明だけでは、画像や音声を含む全ての情報が検査されるとは判断できません。

NVIDIA NeMo Guardrailsの対応一覧では、複数のプロバイダーや自前でホストするモデルを扱えます。ただし、接続方法や追加ライブラリの要否はプロバイダーごとに異なります。運用するモデルとAPI形式を決めてから、該当する組み合わせを確認するのが確実です。

接続方式ごとの確認点
接続方式確認すること例
アプリの入口で検査対象URL、リクエスト形式、検査する項目。内部から取得する文書や応答が通るかCloudflare AI Security for Apps
モデル呼び出しに統合モデルID、API、リージョン、入力・出力に対応する機能Amazon Bedrock Guardrailsの推論時の統合
独立した検査APIを呼ぶアプリが何をいつ送るか、判定をどう扱うか。未送信の情報は検査されないAmazon BedrockのApplyGuardrail
ライブラリをアプリに組み込む対応プロバイダー、アダプター、機能ごとの差、自分たちの運用責任NVIDIA NeMo Guardrails

モデルより先に、情報の通り道を描く

例えば、社内文書を検索して答えるAIアシスタントを考えてみます。

利用者の質問だけを入口のファイアウォールで調べても、検索後に取り込む文書や外部ツールから返るデータは、その入口を通らない可能性があります。文書に埋め込まれた指示による間接的なプロンプトインジェクションについては、OWASPの解説も外部文書を攻撃経路の一つとして挙げています。 Amazon Bedrock Knowledge Basesの資料にも、実行時に取得した参照資料にはガードレールが適用されないと明記されています。

検討時には、少なくとも質問、取得文書、ツールの引数と結果、モデルの回答を分けて、どこをどの制御が検査するかを書き出してください。画像や音声を扱う場合は、それぞれの形式が実際のポリシーで検査対象になるかも確認します。接続先のモデルを変更したら、同じ経路と制御が維持されているかを再テストします。

情報の通り道の例
利用者の質問 → 入力検査 → 検索 → 取得文書 → モデル → 出力検査 → 回答
外部ツールの結果 → モデル(必要な場合)

検知と遮断、言語、障害時の動作を試す

「検知できる」と「自動で遮断される」は同じではありません。Microsoft Prompt Shieldsは、ユーザーの入力や渡された文書に対する攻撃パターンを検出します。ただしAzure AI Content Safety APIでは、検出後に許可・遮断などの処理を決めるのはアプリ側です。攻撃が検出されなかったことは、その内容が安全である保証にもなりません。

導入前の試験では、利用する言語の通常の質問と、許可された範囲で用意した攻撃例の両方を流します。検査対象を通ったか、誤って遮断されないか、検知後の処理が期待どおりかを確認してください。特に日本語など英語以外では、機能ごとの対応言語だけでなく、実際の入力での挙動を確認します。MicrosoftもPrompt Shieldsについて、使用言語ごとの評価を勧めています。

さらに、検査サービスがタイムアウトした場合に通すのか止めるのか、ストリーミングでは検査前の一部が表示され得るのか、ログに機密情報を残さないかを決めます。検査だけに頼らず、モデルが呼べる機能の権限を最小限にし、重要な操作には別の承認を置く設計が必要です。

よくある質問

対応モデルが変わっても検査は続きますか?

接続先だけでなく形式と通り道が変わらないか確認し、検知と遮断を再テストしてください。

検知されなければ安全ですか?

いいえ。検査には見逃しや対象外の経路があるため、権限の制限や人による承認も必要です。

Hi AUDIT Agentなら

稼働中の入力・出力を検査する仕組みに加えて、アプリのコード側にある権限チェックや入力処理も見直したい場合は、Hi AUDIT Agentを開発環境から利用できます。MCPを通じてコード解析を依頼し、検出箇所と修正案を確認できます。解析結果はレビューの材料であり、適用の判断は人が行います。稼働中のAIファイアウォールを置き換えるものではありません。

Hi AUDIT Agentに登録する