AI BOMを作った後に更新し続けるには?モデル・RAG・エージェントの変更を追う

松山 雄太

TECHFUND Inc. セキュリティ研究者

更新日:

対象読者: 外部モデルAPI、RAG、エージェントを運用する開発・セキュリティ担当者

まず押さえるポイント

AI BOMは、一度生成したら終わりではありません。コードが変わらなくても、外部モデルの更新や検索用データの同期で、本番の構成は変わり得ます。設定した構成と実際に確認できた情報を区別し、変更時と定期的な照合の責任者を決めてください。不明な情報は空欄を安全と解釈せず、未確認として追跡します。

同じコードでも、使われるAIが変わる

リリース時の部品表が正確でも、その後にモデル、検索対象データ、接続先ツールが変われば、一覧は実態とずれていきます。CycloneDX ML-BOMはモデル、データセット、依存関係などを表現できますが、記述形式があるだけで、実行中の全構成が自動で見つかるわけではありません。

この記事の表は、チームがAI BOMや関連する運用記録を維持するための整理です。表の項目をCycloneDXの必須フィールドと主張するものではありません。対象と観測方法を決め、確認できないことも記録します。

モデルの指定と、実際に使われた版を分ける

まず、設定したモデルID、提供元、利用するAPI、環境、承認者を記録します。次に、提供元の管理画面やAPI、許可された実行時メタデータなどで確認できる範囲の実際のモデル版と確認日時を残します。表示されたIDが必ず内部モデルの重みや訓練履歴まで特定するとは限りません。確認できなければ未確認とし、モデル提供者に確認します。

Microsoft Foundry Modelsでは、モデル自体のバージョンとAPIのバージョンは別です。一部のデプロイは更新ポリシーによって既定版に自動更新されるため、アプリの設定差分だけでは変化を捉えられない可能性があります。利用するモデル・プラン・リージョンごとに実際のポリシーを確認し、更新通知と運用記録を照合してください。

モデル名のエイリアス、固定された版、フォールバック先、提供者の未公開情報を同じものとして扱わないことが大切です。外部モデルの訓練データやベースモデルについて、公開された声明を記録する場合も、実際の利用が独立に確認できた証拠とは分けます。

RAGのデータと、エージェントの接続先も追う

RAGでは、回答生成モデルだけでなく、検索対象のデータソース、権限、取り込みの時点、埋め込みモデル、インデックスの版や更新ジョブを管理対象にします。元文書が更新されても、検索インデックスに反映済みとは限りません。例えばAmazon Bedrock Knowledge Basesでは、データソースにファイルを追加・変更・削除した後、同期してインデックスに反映します。同期状況と、検索可能になった時点は別途確認してください。

RAGの検索文書を学習用データと混同しないことも大切です。CycloneDX v1.7 modelCard.datasets は、そのモデルの学習・評価に使われたデータを表します。検索時に参照する文書を、学習に使われたものと誤認させないよう、用途を区別した構成や別の運用記録として関連づけてください。

エージェントが外部ツールを呼び出す場合は、接続先、実行できる操作、使用する権限と担当者、設定の版を一覧に加えます。これはモデルの訓練データとは別の情報です。リポジトリから分かる設定と、本番で実際に有効な接続先は、権限のある情報源で照合します。

例:設定と実態の差を、確認待ちとして扱う

次は架空の運用例です。提供元やツールの実測値ではありません。デプロイ設定ではモデルの移動するエイリアスを指定し、RAGには社内文書と外部の検索ツールを接続しているとします。

新しい一覧を生成したところ、モデル指定は同じでも、実際の版を確認した日時が古く、文書は更新されたのに取り込み完了を確認できていません。生成コマンドが成功しても、この状態を『変更なし』や『安全』として承認せず、各担当者に根拠の確認を依頼します。

架空例:差分と確認する証拠
対象一覧に残す情報次に確認すること
モデル設定したID、確認できた版、確認日時。版が見えなければ未確認管理画面や利用可能な応答メタデータで確認し、変更時にテスト
RAGデータデータソースID、文書の版または更新日時、取り込みジョブの状態同期完了と検索できる版を確認。元文書とインデックスを区別
外部ツールツール識別子、接続先、許可する操作、担当者実際に有効な設定と権限を照合。変更時にアクセスを再評価

項目と判断は説明用の運用例です。利用中の形式・サービスに合わせて調整してください。

更新のきっかけと、未確認情報の担当者を決める

リリースや設定変更時に一覧を更新し、提供元の更新、データ同期、権限変更については別の通知や定期確認も用意します。前回の記録との差分には、変わった項目だけでなく、出典、取得時刻、確認者、次の確認期限を残します。情報を取得できなかった場合は、成功と同じ扱いにせず、未確認として担当者へ渡します。

公開資料に書かれた学習データと、実際の処理ログから確認できる検索用データは同じではありません。モデルカードの記載、設定値、観測結果、独立に確認できた証拠を混ぜずに記録してください。コードや設定のレビューでは参照先の変更を見つけられますが、外部APIで非公開のモデル内部やすべての実行経路を証明することはできません。

  1. リリース対象と環境ごとに、モデル・データ・ツールの責任者と情報源を決める。
  2. 取得できる識別子と時刻を記録し、前回との差分と未確認項目をレビューする。
  3. 変更に応じて評価・権限・検索結果への反映を確認し、結果と残るリスクを承認者に渡す。

一覧そのものにもアクセス制御をかける

インベントリには接続先や内部構成など、外部に出したくない情報が含まれます。APIキー、秘密情報、利用者のプロンプトや文書本文を無条件に記録せず、目的に必要な情報に絞り、閲覧権限、保存期間、削除方法を決めてください。ハッシュ化すれば必ず匿名になるとも限りません。OWASPは、機密情報の露出に対してアクセス制御やデータソースの制限を挙げています。

よくある質問

モデル名が同じなら、AI BOMは更新不要ですか?

いいえ。エイリアスや管理側の更新で実際の版が変わる場合があります。利用環境の更新ポリシーと確認できる版を調べてください。

外部モデルの学習データが分からない場合はどう記録しますか?

提供元の公開声明と、独立に確認できた事実を区別し、未公開・未確認として残します。推測で埋めないでください。

Hi AUDIT Agentなら

モデルや接続先を変更したときは、一覧の更新と合わせて、変更したアプリコードのセキュリティも確認したいところです。Hi AUDIT Agentなら、MCP対応の開発環境のチャットから対象コードの解析を依頼し、指摘箇所の根拠や修正案をその場で確認できます。修正後にもう一度解析を依頼できるので、変更を日々のレビューにつなげやすくなります。検出機能とCVE情報はサーバー側で更新されるため、Hi AUDIT Agentの検出ルールをローカルで更新する手間も抑えられます。実際に使われたモデルの版や本番での構成は、運用記録などで別途確認してください。

Hi AUDIT Agentに登録する