CycloneDX로 AI BOM 만들기: 모델과 데이터를 기록하고 검증하기
Yuta Matsuyama
TECHFUND 주식회사 보안 연구원
업데이트:
대상 독자: AI 앱 개발자, ML 인프라 및 보안 담당자를 위한 글입니다. 2026년 11월 13일 기준 정보입니다.
핵심 답변
먼저 모델과 근거를 확인한 데이터셋을 식별하여 CycloneDX 구성 요소로 기록합니다. 형식 검증 외에도 ID 중복이나 끊어진 참조가 있는지, 기록한 내용이 실제 구성과 일치하는지 별도로 확인하세요. AI BOM이 검증을 통과했다는 사실만으로 완전성이나 안전성이 보장되지는 않습니다.
무엇을 기록할지 먼저 정하기
예를 들어 사내용 질의응답 앱이라면 모델 이름과 버전, 제공자, 평가에 사용한 데이터, 소프트웨어 의존성, 사용 환경과 담당자를 목적에 맞게 확인합니다. 여기서는 모델과 평가 데이터의 관계를 표현하는 최소한의 예제를 다룹니다. 앱 전체의 구성을 망라한 예제는 아닙니다.
CycloneDX 명세에서는 모델을 machine-learning-model, 데이터를 data라는 구성 요소 유형으로 표현할 수 있습니다. 모델의 modelCard에는 확인된 데이터셋에 대한 참조 등을 기록할 수 있습니다. CycloneDX 공식 모델 및 데이터셋 예제는 이들을 어떻게 연결할지 참고하는 데 도움이 됩니다. 형식에 필드가 있다는 것과 해당 값을 실제로 얻을 수 있다는 것은 별개의 문제입니다.
먼저 가상의 구성 요소 두 개 기록하기
다음을 ai-bom.json으로 저장하세요. 모델 이름, 버전, 데이터 이름은 모두 가상입니다. 이 예제는 가상의 모델이 가상의 평가 데이터를 사용했다고 가정합니다. 데이터 내용, 학습 데이터, 라이선스, 제공자는 확인하지 않았으므로 기입하지 않았습니다. 생략했다고 해서 '존재하지 않는다'는 뜻은 아닙니다.
bom-ref는 문서 안에서 구성 요소를 식별하는 값입니다. modelCard.modelParameters.datasets의 ref는 dataset-1을 가리킵니다. modelCard에 데이터를 글로만 설명하는 대신 별도의 구성 요소로 정의하고 참조하면 관계를 더 쉽게 확인할 수 있습니다.
{
"bomFormat": "CycloneDX",
"specVersion": "1.6",
"version": 1,
"components": [
{
"type": "machine-learning-model",
"bom-ref": "model-1",
"name": "fictional-model",
"version": "1.0",
"modelCard": {
"modelParameters": {
"datasets": [{ "ref": "dataset-1" }]
}
}
},
{
"type": "data",
"bom-ref": "dataset-1",
"name": "fictional-evaluation-data",
"version": "1.0",
"data": [{ "type": "dataset" }]
}
]
}형식을 검증하고 참조도 확인하기
CycloneDX CLI의 validate 명령은 지정한 파일의 형식을 검증할 수 있습니다. 다음은 CLI 0.33.1을 사용하는 예제입니다. 2026년 11월 13일에 macOS arm64에서 같은 버전을 사용하여 예제 JSON이 정상적으로 검증되는 것을 확인했습니다. --input-version v1_6으로 1.6 버전 파일임을 지정하고, --fail-on-errors로 검증 오류 발생 시 0이 아닌 종료 코드로 종료하도록 설정합니다.
이어지는 두 실험에서는 참조 대상을 존재하지 않는 ID로 바꾸는 경우와 두 구성 요소의 bom-ref를 중복시키는 경우를 테스트합니다. 저희의 동일한 환경에서는 두 경우 모두 'BOM validated successfully.'가 표시되었으며 종료 코드는 0이었습니다. CycloneDX 명세에 따르면 bom-ref는 문서 안에서 고유해야 합니다. 형식 검증 성공에만 의존하지 말고 참조 대상이 존재하는지, ID가 고유한지 별도로 확인하세요. 이 결과는 CLI 0.33.1과 제시된 입력에서 관찰한 내용이며, 다른 검증기나 향후 버전에 대한 결론은 아닙니다.
cyclonedx-cli --version
cyclonedx-cli validate --input-file ai-bom.json --input-format json --input-version v1_6 --fail-on-errors
# 架空のデータ参照を存在しないIDに変更
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][0]["modelCard"]["modelParameters"]["datasets"][0]["ref"]="missing-reference"; print(json.dumps(d))' > dangling.json
cyclonedx-cli validate --input-file dangling.json --input-format json --input-version v1_6 --fail-on-errors
# 架空のデータIDをモデルIDと重複させる
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][1]["bom-ref"]="model-1"; print(json.dumps(d))' > duplicate.json
cyclonedx-cli validate --input-file duplicate.json --input-format json --input-version v1_6 --fail-on-errors이 예제의 ID와 참조 점검하기
다음의 짧은 스크립트를 check-example.py로 저장하고 python3 check-example.py ai-bom.json으로 실행합니다. 이전 실험에서 만든 dangling.json과 duplicate.json에도 같은 명령을 실행하면 각각 missing-reference와 model-1 중복이 표시되며, 두 경우 모두 종료 코드 1을 반환합니다. 정상 예제에서는 두 결과가 모두 비어 있고 종료 코드는 0입니다.
이 코드는 설명용이며 이번 가상 예제의 구조만을 대상으로 합니다. components 바로 아래에 있는 최상위 구성 요소의 bom-ref ID와 modelCard 내 datasets 참조가 가리키는 ID의 존재 여부만 확인합니다. 참조 대상의 유형, 중첩된 구성 요소, BOM-Link, 다른 참조 형식, 실제 데이터의 정확성은 검증하지 않습니다. 실제 시스템에서는 대상 구조와 명세에 맞는 방법으로 별도로 확인하세요.
import collections
import json
import sys
data = json.load(open(sys.argv[1], encoding="utf-8"))
components = data.get("components", [])
ids = [item["bom-ref"] for item in components if "bom-ref" in item]
duplicates = [key for key, count in collections.Counter(ids).items() if count > 1]
refs = [
dataset["ref"]
for item in components
for dataset in item.get("modelCard", {}).get("modelParameters", {}).get("datasets", [])
if "ref" in dataset
]
missing = [ref for ref in refs if ref not in ids]
print("duplicates:", duplicates, "missing:", missing)
sys.exit(1 if duplicates or missing else 0)'기록되어 있다'와 '올바르다'를 구분하기
실제 운영용 AI BOM에서는 모델 식별자와 버전을 설정 및 사용 기록과 대조하고, 평가 데이터와의 관계는 모델 카드나 평가 작업 기록 등에서 근거를 확인할 수 있을 때 기입합니다. 외부 제공자의 모델 카드에 적힌 내용과 직접 관찰한 사실은 구분하여 관리합니다. 학습 데이터가 비공개라면 존재하지 않는다고 추측하지 말고, 별도의 관리표나 티켓에 미확인 사항으로 남겨 제공자에게 확인합니다.
저장소의 정적 분석만으로는 환경 변수나 런타임 라우팅으로 선택되는 외부 모델을 놓칠 수 있습니다. 구성과 사용 기록을 대조하고, 버전이나 서비스 대상이 변경될 때 누가 어떤 계기로 업데이트할지 정하세요. 기밀 프롬프트나 사용자 데이터를 공유용 BOM에 그대로 넣을 필요는 없습니다.
운영에 통합하기 전에
첫 번째 사례에서 형식과 참조를 확인했다면 앱, 소프트웨어 의존성, 외부 서비스 등 필요한 대상으로 범위를 단계적으로 넓힙니다. 생성 도구를 사용하더라도 대상 저장소와 운영 실태에 비추어 무엇을 발견하고 무엇을 놓치는지 확인하세요. 기존 DevSecOps 파이프라인에 연결할 때의 도구 선정은 관련 글에서 다룹니다.
자주 묻는 질문
JSON 검증을 통과하면 AI BOM이 완성된 건가요?
아니요. 구문 및 명세 준수 여부뿐 아니라 ID와 참조의 일관성, 기록 내용의 근거, 실제 가동 중인 구성과의 일치 여부를 별도로 확인해야 합니다.
데이터셋이 비공개라면 가상의 이름으로 채워야 하나요?
아니요. 확인하지 않은 값을 만들어 넣지 말고, 확인할 수 있는 내용만 기록하세요. 미확인 사항은 별도로 관리하고 제공자에게 확인해야 합니다.
Hi AUDIT Agent가 돕는 방법
BOM의 형식을 정리한 뒤에는 그 안에 기록된 AI 기능을 뒷받침하는 앱 코드도 확인해 보는 것이 좋습니다. Hi AUDIT Agent를 사용하면 MCP에 연결된 개발 환경에서, 예를 들어 RAG 앱의 검색 API에 대한 보안 분석을 요청할 수 있습니다. 지적된 부분의 맥락과 수정안을 그 자리에서 확인하고 팀의 검토와 수정으로 이어 갈 수 있습니다. BOM 생성과 규격 적합성 검증은 별도로 진행하고, 분석 결과도 사람이 확인해 주세요.
Hi AUDIT Agent 가입하기