CycloneDXでAI BOMを作る:モデルとデータを記録し、検証する

松山 雄太

TECHFUND Inc. セキュリティ研究者

更新日:

対象読者: AIアプリの開発者、ML基盤とセキュリティの担当者。2026年11月13日時点の情報です。

まず押さえるポイント

まず、モデルと、根拠を確認できたデータセットを識別し、CycloneDXの部品として記録します。形式の検証に加え、IDの重複や参照切れ、記載内容と実際の構成が一致するかを別に確認してください。検証を通ったAI BOMは、それだけで網羅性や安全性を保証するものではありません。

何を記録するかを先に決める

たとえば社内向けの質問応答アプリなら、モデルの名称・バージョン、提供元、評価に使ったデータ、ソフトウェア依存関係、利用する環境と担当者を、目的に合わせて確認します。今回取り上げるのは、モデルとその評価データの関係を表現する最小限の例です。アプリ全体の構成を網羅したものではありません。

CycloneDXの仕様では、モデルをmachine-learning-model、データをdataという部品の種類で表せます。モデルのmodelCardには、確認できたデータセットへの参照などを記録できます。CycloneDX公式のモデルとデータセットの例は、これらをどう関連付けるかの参考になります。形式に欄があることと、その値が実際に入手できることは別です。

まずは架空の2部品を記録する

以下をai-bom.jsonとして保存してください。モデル名、バージョン、データ名はすべて架空です。この例では、架空のモデルが架空の評価データを使ったという前提を置いています。データの中身、学習データ、ライセンス、提供元は確認していないため記入していません。省略は「存在しない」ことを意味しません。

bom-refは文書内の部品を識別する値です。modelCard.modelParameters.datasetsのrefは、dataset-1を指しています。データをmodelCardに文章で書くだけではなく、別部品として定義して参照することで、関係を確認しやすくなります。

架空のCycloneDX 1.6 AI/ML-BOM例
{
  "bomFormat": "CycloneDX",
  "specVersion": "1.6",
  "version": 1,
  "components": [
    {
      "type": "machine-learning-model",
      "bom-ref": "model-1",
      "name": "fictional-model",
      "version": "1.0",
      "modelCard": {
        "modelParameters": {
          "datasets": [{ "ref": "dataset-1" }]
        }
      }
    },
    {
      "type": "data",
      "bom-ref": "dataset-1",
      "name": "fictional-evaluation-data",
      "version": "1.0",
      "data": [{ "type": "dataset" }]
    }
  ]
}

形式を検証し、参照も確認する

CycloneDX CLIのvalidateコマンドは、指定したファイルの形式を検証できます。以下はCLI 0.33.1を使う例です。2026年11月13日に、macOS arm64で同バージョンを使用し、例のJSONが正常に検証されることを確認しました。1.6のファイルとして--input-version v1_6を指定し、--fail-on-errorsで検証エラー時に非ゼロ終了する設定です。

続く2つの実験では、参照先を存在しないIDに変えた場合と、2部品のbom-refを重複させた場合を試します。私たちの同じ環境では、どちらも「BOM validated successfully.」と表示され、終了コードは0でした。CycloneDXの仕様ではbom-refは文書内で一意にする必要があります。形式検証の成功だけに頼らず、参照先が存在するかとIDが一意かを別途チェックしてください。この結果はCLI 0.33.1と示した入力での観察であり、他の検証器や将来の版についての結論ではありません。

検証と、参照切れ・ID重複を試すコマンド
cyclonedx-cli --version
cyclonedx-cli validate --input-file ai-bom.json --input-format json --input-version v1_6 --fail-on-errors

# 架空のデータ参照を存在しないIDに変更
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][0]["modelCard"]["modelParameters"]["datasets"][0]["ref"]="missing-reference"; print(json.dumps(d))' > dangling.json
cyclonedx-cli validate --input-file dangling.json --input-format json --input-version v1_6 --fail-on-errors

# 架空のデータIDをモデルIDと重複させる
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][1]["bom-ref"]="model-1"; print(json.dumps(d))' > duplicate.json
cyclonedx-cli validate --input-file duplicate.json --input-format json --input-version v1_6 --fail-on-errors

この例のIDと参照を点検する

次の小さなスクリプトをcheck-example.pyとして保存し、python3 check-example.py ai-bom.jsonで実行します。前の実験で作ったdangling.jsonとduplicate.jsonにも同じコマンドを実行すると、それぞれmissing-referenceとmodel-1の重複を表示し、終了コード1を返します。正常な例は両方空で終了コード0です。

これは今回の架空例の構造だけを対象にした説明用コードです。components直下のbom-refとmodelCard内のdatasets参照の存在だけを確認し、参照先の型、ネストした部品、BOM-Link、他の参照形式、実データの正しさは検証しません。実システムでは対象の構造と仕様に合う方法で別途確認してください。

今回の例に限った簡単な参照チェック
import collections
import json
import sys

data = json.load(open(sys.argv[1], encoding="utf-8"))
components = data.get("components", [])
ids = [item["bom-ref"] for item in components if "bom-ref" in item]
duplicates = [key for key, count in collections.Counter(ids).items() if count > 1]
refs = [
    dataset["ref"]
    for item in components
    for dataset in item.get("modelCard", {}).get("modelParameters", {}).get("datasets", [])
    if "ref" in dataset
]
missing = [ref for ref in refs if ref not in ids]
print("duplicates:", duplicates, "missing:", missing)
sys.exit(1 if duplicates or missing else 0)

「書けている」と「正しい」を分ける

実際のAI BOMでは、モデルの識別子とバージョンを設定や利用記録と照合し、評価データの関係はモデルカードや評価ジョブの記録など、根拠が確認できる場合に記入します。外部提供者のモデルカードの記載と、自分たちが直接観測した事実は分けて管理します。訓練データが非公開なら、存在しないと推測せず、別の管理表やチケットに未確認として残して提供者に確認します。

リポジトリの静的解析だけでは、環境変数や実行時のルーティングで選ばれる外部モデルを見落とすことがあります。構成と利用記録を突き合わせ、バージョンや提供先が変わったときに更新する担当者と契機を決めましょう。機密のプロンプトや利用者データを、そのまま共有用BOMに入れる必要はありません。

運用に組み込む前に

最初の1件で形式と参照を確かめたら、アプリやソフトウェア依存関係、外部サービスなど必要な対象を段階的に広げます。生成ツールを使う場合も、何を発見し、何を見落とすかを対象のリポジトリと運用に照らして確かめてください。既存のDevSecOpsパイプラインに接続する際のツール選定は、関連記事で扱っています。

よくある質問

JSONの検証に通ればAI BOMは完成ですか?

いいえ。構文・仕様への適合に加え、IDや参照の整合、記載内容の根拠、実際に稼働する構成との一致を別に確認します。

データセットが非公開なら架空の名前で埋めますか?

いいえ。未確認の値を作らず、確認できることだけを記載し、未確認事項を別途管理して提供者に確認してください。

Hi AUDIT Agentなら

BOMの形式を整えた後は、そこに記録したAI機能を支えるアプリのコードも確認したいところです。Hi AUDIT Agentなら、MCPにつないだ開発環境で、たとえばRAGアプリの検索APIのセキュリティ解析を依頼できます。指摘箇所の文脈と修正案をその場で確認し、チームのレビュー・修正に進められます。BOMの生成・仕様検証は別途行い、解析結果も人が確認してください。

Hi AUDIT Agentに登録する