Eine AI BOM mit CycloneDX erstellen: Modelle und Daten erfassen und validieren
Yuta Matsuyama
Sicherheitsforscher, TECHFUND Inc.
Aktualisiert:
Für wen: Für Entwickler von KI-Anwendungen sowie Verantwortliche für ML-Infrastruktur und Sicherheit. Informationsstand: 13. November 2026.
Die praktische Antwort
Identifizieren Sie zunächst das Modell und die Datensätze, für die Sie entsprechende Nachweise prüfen konnten, und erfassen Sie diese als CycloneDX-Komponenten. Prüfen Sie zusätzlich zur Formatvalidierung separat auf doppelte IDs, ungültige Referenzen und darauf, ob die erfassten Angaben mit der tatsächlichen Konfiguration übereinstimmen. Eine erfolgreich validierte AI BOM garantiert allein weder Vollständigkeit noch Sicherheit.
Zuerst festlegen, was erfasst werden soll
Bei einer internen Frage-Antwort-Anwendung prüfen Sie beispielsweise je nach Zielsetzung den Namen und die Version des Modells, den Anbieter, die zur Evaluierung verwendeten Daten, Softwareabhängigkeiten, die Einsatzumgebung und die verantwortlichen Personen. Hier behandeln wir ein minimales Beispiel, das die Beziehung zwischen einem Modell und seinen Evaluierungsdaten darstellt. Es bildet nicht die Konfiguration der gesamten Anwendung ab.
Die CycloneDX-Spezifikation erlaubt es, Modelle mit dem Komponententyp machine-learning-model und Daten mit dem Typ data darzustellen. In der modelCard eines Modells lassen sich unter anderem Referenzen auf überprüfte Datensätze erfassen. Die offiziellen CycloneDX-Beispiele für Modelle und Datensätze zeigen, wie diese miteinander verknüpft werden können. Dass das Format ein Feld vorsieht, bedeutet nicht, dass dessen Wert tatsächlich verfügbar ist.
Zunächst zwei fiktive Komponenten erfassen
Speichern Sie den folgenden Inhalt als ai-bom.json. Der Modellname, die Versionen und der Datenname sind sämtlich fiktiv. In diesem Beispiel wird angenommen, dass ein fiktives Modell fiktive Evaluierungsdaten verwendet hat. Dateninhalte, Trainingsdaten, Lizenzen und Anbieter wurden nicht überprüft und sind daher nicht eingetragen. Eine Auslassung bedeutet nicht, dass etwas nicht existiert.
bom-ref ist der Wert, der eine Komponente innerhalb des Dokuments identifiziert. Das ref in modelCard.modelParameters.datasets verweist auf dataset-1. Wenn Sie die Daten als eigene Komponente definieren und darauf verweisen, statt sie nur als Text in modelCard zu beschreiben, lässt sich die Beziehung leichter überprüfen.
{
"bomFormat": "CycloneDX",
"specVersion": "1.6",
"version": 1,
"components": [
{
"type": "machine-learning-model",
"bom-ref": "model-1",
"name": "fictional-model",
"version": "1.0",
"modelCard": {
"modelParameters": {
"datasets": [{ "ref": "dataset-1" }]
}
}
},
{
"type": "data",
"bom-ref": "dataset-1",
"name": "fictional-evaluation-data",
"version": "1.0",
"data": [{ "type": "dataset" }]
}
]
}Das Format validieren und auch die Referenzen prüfen
Der Befehl validate der CycloneDX CLI kann das Format einer angegebenen Datei validieren. Das folgende Beispiel verwendet CLI 0.33.1. Am 13. November 2026 haben wir diese Version unter macOS arm64 eingesetzt und bestätigt, dass die Beispiel-JSON erfolgreich validiert wird. --input-version v1_6 legt fest, dass es sich um eine Datei der Version 1.6 handelt. --fail-on-errors sorgt dafür, dass der Befehl bei Validierungsfehlern mit einem von null verschiedenen Exit-Code endet.
Die beiden folgenden Experimente testen, was passiert, wenn das Referenzziel auf eine nicht vorhandene ID geändert wird und wenn zwei Komponenten denselben bom-ref erhalten. In derselben Umgebung zeigten beide „BOM validated successfully.“ an und lieferten den Exit-Code 0. Laut CycloneDX-Spezifikation muss bom-ref innerhalb des Dokuments eindeutig sein. Verlassen Sie sich nicht allein auf eine erfolgreiche Formatvalidierung, sondern prüfen Sie separat, ob die Referenzziele existieren und die IDs eindeutig sind. Diese Ergebnisse sind Beobachtungen mit CLI 0.33.1 und den gezeigten Eingaben, keine Schlussfolgerungen über andere Validatoren oder künftige Versionen.
cyclonedx-cli --version
cyclonedx-cli validate --input-file ai-bom.json --input-format json --input-version v1_6 --fail-on-errors
# 架空のデータ参照を存在しないIDに変更
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][0]["modelCard"]["modelParameters"]["datasets"][0]["ref"]="missing-reference"; print(json.dumps(d))' > dangling.json
cyclonedx-cli validate --input-file dangling.json --input-format json --input-version v1_6 --fail-on-errors
# 架空のデータIDをモデルIDと重複させる
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][1]["bom-ref"]="model-1"; print(json.dumps(d))' > duplicate.json
cyclonedx-cli validate --input-file duplicate.json --input-format json --input-version v1_6 --fail-on-errorsIDs und Referenzen in diesem Beispiel prüfen
Speichern Sie das folgende kleine Skript als check-example.py und führen Sie es mit python3 check-example.py ai-bom.json aus. Führen Sie denselben Befehl auch mit den im vorherigen Experiment erstellten Dateien dangling.json und duplicate.json aus: Dabei werden missing-reference beziehungsweise ein Duplikat von model-1 gemeldet; beide Aufrufe liefern den Exit-Code 1. Beim gültigen Beispiel sind beide Ergebnisse leer, und der Exit-Code ist 0.
Dieser Code dient nur der Veranschaulichung und ist auf die Struktur dieses fiktiven Beispiels beschränkt. Er prüft ausschließlich die bom-ref-IDs der Komponenten auf oberster Ebene direkt unter components sowie, ob die datasets-Referenzen in modelCard auf vorhandene IDs verweisen. Zieltypen, verschachtelte Komponenten, BOM-Link, andere Referenzformate und die sachliche Richtigkeit tatsächlicher Daten werden nicht validiert. Führen Sie in realen Systemen gesonderte Prüfungen mit Methoden durch, die zur jeweiligen Struktur und Spezifikation passen.
import collections
import json
import sys
data = json.load(open(sys.argv[1], encoding="utf-8"))
components = data.get("components", [])
ids = [item["bom-ref"] for item in components if "bom-ref" in item]
duplicates = [key for key, count in collections.Counter(ids).items() if count > 1]
refs = [
dataset["ref"]
for item in components
for dataset in item.get("modelCard", {}).get("modelParameters", {}).get("datasets", [])
if "ref" in dataset
]
missing = [ref for ref in refs if ref not in ids]
print("duplicates:", duplicates, "missing:", missing)
sys.exit(1 if duplicates or missing else 0)Zwischen „erfasst“ und „korrekt“ unterscheiden
Gleichen Sie bei einer AI BOM für den tatsächlichen Einsatz die Modellkennungen und Versionen mit Konfigurationen und Nutzungsaufzeichnungen ab. Erfassen Sie Beziehungen zu Evaluierungsdaten nur dann, wenn sich die Nachweise etwa anhand von Modellkarten oder Aufzeichnungen zu Evaluierungsjobs überprüfen lassen. Verwalten Sie Angaben aus den Modellkarten externer Anbieter getrennt von selbst direkt beobachteten Tatsachen. Sind Trainingsdaten nicht öffentlich, schließen Sie daraus nicht, dass sie nicht existieren. Halten Sie sie in einer separaten Übersicht oder einem Ticket als ungeprüft fest und fragen Sie beim Anbieter nach.
Eine rein statische Analyse des Repositorys kann externe Modelle übersehen, die über Umgebungsvariablen oder Routing zur Laufzeit ausgewählt werden. Gleichen Sie Konfiguration und Nutzungsaufzeichnungen ab und legen Sie fest, wer die BOM bei Änderungen an Versionen oder Dienstzielen aktualisiert und wodurch die Aktualisierung ausgelöst wird. Vertrauliche Prompts oder Nutzerdaten müssen nicht unverändert in eine zur Weitergabe bestimmte BOM aufgenommen werden.
Vor der Einbindung in den Betrieb
Wenn Sie Format und Referenzen im ersten Fall geprüft haben, erweitern Sie den Umfang schrittweise um die erforderlichen Anwendungen, Softwareabhängigkeiten, externen Dienste und weitere relevante Elemente. Prüfen Sie auch beim Einsatz eines Generierungswerkzeugs anhand des betreffenden Repositorys und des tatsächlichen Betriebs, was es erkennt und was es übersieht. Die Werkzeugauswahl für die Anbindung an eine bestehende DevSecOps-Pipeline behandeln wir in einem verwandten Artikel.
Häufige Fragen
Ist eine AI BOM fertig, sobald ihr JSON die Validierung besteht?
Nein. Prüfen Sie neben Syntax und Spezifikationskonformität separat die Konsistenz von IDs und Referenzen, die Nachweise für die erfassten Angaben und die Übereinstimmung mit der tatsächlich laufenden Konfiguration.
Sollte ich einen fiktiven Namen eintragen, wenn ein Datensatz nicht öffentlich ist?
Nein. Erfinden Sie keine ungeprüften Werte. Erfassen Sie nur, was Sie bestätigen können, verwalten Sie ungeprüfte Punkte separat und fragen Sie beim Anbieter nach.
Wie Hi AUDIT Agent helfen kann
Nachdem Sie die BOM in das passende Format gebracht haben, lohnt es sich, auch den Anwendungscode zu prüfen, der die darin erfassten KI-Funktionen unterstützt. Mit Hi AUDIT Agent können Sie in einer an MCP angebundenen Entwicklungsumgebung eine Sicherheitsanalyse anfordern, beispielsweise für die Such-API einer RAG-Anwendung. Den Kontext der beanstandeten Stellen und die Korrekturvorschläge können Sie direkt dort prüfen und anschließend zur gemeinsamen Prüfung und Korrektur im Team übergehen. Die Erstellung der BOM und die Validierung anhand der Spezifikation müssen separat erfolgen. Auch die Analyseergebnisse sollten von einem Menschen überprüft werden.
Hi AUDIT Agent-Konto erstellen