Créer une AI BOM avec CycloneDX : consigner et valider les modèles et les données
Yuta Matsuyama
Chercheur en sécurité, TECHFUND Inc.
Mis à jour:
À qui s’adresse cet article: Pour les développeurs d’applications d’IA et les responsables de l’infrastructure ML et de la sécurité. Informations à jour au 13 novembre 2026.
Réponse pratique
Commencez par identifier le modèle et les jeux de données pour lesquels vous avez pu vérifier les éléments justificatifs, puis consignez-les en tant que composants CycloneDX. Outre la validation du format, vérifiez séparément les identifiants en double, les références rompues et la concordance entre les informations consignées et la configuration réelle. Le simple fait qu’une AI BOM passe la validation ne garantit ni son exhaustivité ni sa sûreté.
Définir d’abord ce qu’il faut consigner
Pour une application interne de questions-réponses, par exemple, vérifiez selon votre objectif le nom et la version du modèle, son fournisseur, les données utilisées pour l’évaluation, les dépendances logicielles, l’environnement d’utilisation et les personnes responsables. Nous présentons ici un exemple minimal qui exprime la relation entre un modèle et ses données d’évaluation. Il ne couvre pas la configuration de l’application dans son ensemble.
La spécification CycloneDX permet de représenter les modèles avec le type de composant machine-learning-model et les données avec le type data. Le champ modelCard d’un modèle peut notamment contenir des références à des jeux de données vérifiés. Les exemples officiels de modèles et de jeux de données de CycloneDX montrent comment les relier. L’existence d’un champ dans le format ne signifie pas que sa valeur soit réellement disponible.
Commencer par consigner deux composants fictifs
Enregistrez le contenu suivant dans ai-bom.json. Le nom du modèle, les versions et le nom des données sont tous fictifs. Cet exemple suppose qu’un modèle fictif a utilisé des données d’évaluation fictives. Le contenu des données, les données d’entraînement, les licences et les fournisseurs n’ont pas été vérifiés et ne sont donc pas renseignés. Une omission ne signifie pas une absence.
bom-ref est la valeur qui identifie un composant au sein du document. Le champ ref de modelCard.modelParameters.datasets pointe vers dataset-1. Définir les données comme un composant distinct puis y faire référence, plutôt que de simplement les décrire en texte dans modelCard, facilite la vérification de cette relation.
{
"bomFormat": "CycloneDX",
"specVersion": "1.6",
"version": 1,
"components": [
{
"type": "machine-learning-model",
"bom-ref": "model-1",
"name": "fictional-model",
"version": "1.0",
"modelCard": {
"modelParameters": {
"datasets": [{ "ref": "dataset-1" }]
}
}
},
{
"type": "data",
"bom-ref": "dataset-1",
"name": "fictional-evaluation-data",
"version": "1.0",
"data": [{ "type": "dataset" }]
}
]
}Valider le format et vérifier aussi les références
La commande validate de CycloneDX CLI permet de valider le format d’un fichier donné. L’exemple ci-dessous utilise CLI 0.33.1. Le 13 novembre 2026, nous avons utilisé cette version sur macOS arm64 et confirmé que le JSON de l’exemple passait la validation. --input-version v1_6 indique qu’il s’agit d’un fichier de version 1.6, et --fail-on-errors configure la commande pour qu’elle se termine avec un code non nul en cas d’erreur de validation.
Les deux expériences suivantes consistent à remplacer la cible d’une référence par un identifiant inexistant, puis à attribuer le même bom-ref à deux composants. Dans notre même environnement, les deux ont affiché « BOM validated successfully. » et renvoyé le code de sortie 0. La spécification CycloneDX impose que bom-ref soit unique au sein du document. Ne vous fiez pas uniquement à la réussite de la validation du format : vérifiez séparément l’existence des cibles des références et l’unicité des identifiants. Ces résultats sont des observations réalisées avec CLI 0.33.1 et les entrées présentées, et non des conclusions concernant d’autres validateurs ou des versions futures.
cyclonedx-cli --version
cyclonedx-cli validate --input-file ai-bom.json --input-format json --input-version v1_6 --fail-on-errors
# 架空のデータ参照を存在しないIDに変更
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][0]["modelCard"]["modelParameters"]["datasets"][0]["ref"]="missing-reference"; print(json.dumps(d))' > dangling.json
cyclonedx-cli validate --input-file dangling.json --input-format json --input-version v1_6 --fail-on-errors
# 架空のデータIDをモデルIDと重複させる
python3 -c 'import json; d=json.load(open("ai-bom.json")); d["components"][1]["bom-ref"]="model-1"; print(json.dumps(d))' > duplicate.json
cyclonedx-cli validate --input-file duplicate.json --input-format json --input-version v1_6 --fail-on-errorsVérifier les identifiants et les références de cet exemple
Enregistrez le petit script suivant sous le nom check-example.py et exécutez-le avec python3 check-example.py ai-bom.json. Exécutez également la même commande avec dangling.json et duplicate.json, créés lors de l’expérience précédente : ils signaleront respectivement missing-reference et un doublon de model-1, et renverront tous deux le code de sortie 1. Pour l’exemple valide, les deux résultats sont vides et le code de sortie est 0.
Ce code est fourni uniquement à titre d’illustration et ne couvre que la structure de cet exemple fictif. Il vérifie uniquement les identifiants bom-ref des composants de premier niveau directement dans components et si les références datasets dans modelCard pointent vers des identifiants existants. Il ne valide ni le type des cibles, ni les composants imbriqués, ni BOM-Link, ni les autres formats de référence, ni l’exactitude des données réelles. Dans les systèmes réels, effectuez des vérifications distinctes avec des méthodes adaptées à la structure et à la spécification concernées.
import collections
import json
import sys
data = json.load(open(sys.argv[1], encoding="utf-8"))
components = data.get("components", [])
ids = [item["bom-ref"] for item in components if "bom-ref" in item]
duplicates = [key for key, count in collections.Counter(ids).items() if count > 1]
refs = [
dataset["ref"]
for item in components
for dataset in item.get("modelCard", {}).get("modelParameters", {}).get("datasets", [])
if "ref" in dataset
]
missing = [ref for ref in refs if ref not in ids]
print("duplicates:", duplicates, "missing:", missing)
sys.exit(1 if duplicates or missing else 0)Distinguer « consigné » et « correct »
Dans une AI BOM utilisée en conditions réelles, recoupez les identifiants et les versions des modèles avec la configuration et les relevés d’utilisation. Ne renseignez les relations avec les données d’évaluation que lorsque des éléments justificatifs peuvent être vérifiés, par exemple dans les fiches de modèle ou les relevés des tâches d’évaluation. Gérez séparément les déclarations figurant dans les fiches de modèle des fournisseurs externes et les faits que vous avez directement observés. Si les données d’entraînement ne sont pas publiques, n’en déduisez pas qu’elles n’existent pas : consignez-les comme non vérifiées dans un tableau de suivi ou un ticket distinct, puis interrogez le fournisseur.
L’analyse statique du dépôt à elle seule peut manquer des modèles externes sélectionnés par des variables d’environnement ou par un routage à l’exécution. Recoupez la configuration avec les relevés d’utilisation et définissez qui effectuera les mises à jour, ainsi que les événements qui les déclencheront lorsque les versions ou les destinations des services changent. Il n’est pas nécessaire d’inclure tels quels des prompts confidentiels ou des données utilisateur dans une BOM destinée à être partagée.
Avant de l’intégrer aux opérations
Après avoir vérifié le format et les références du premier cas, élargissez progressivement le périmètre aux applications, aux dépendances logicielles, aux services externes et aux autres éléments nécessaires. Même si vous utilisez un outil de génération, vérifiez ce qu’il détecte et ce qu’il manque au regard du dépôt et des opérations concernés. Un article connexe aborde le choix des outils pour l’intégration à un pipeline DevSecOps existant.
Questions fréquentes
Une AI BOM est-elle terminée dès que son JSON passe la validation ?
Non. Outre la syntaxe et la conformité à la spécification, vérifiez séparément la cohérence des identifiants et des références, les éléments justifiant les informations consignées et leur concordance avec la configuration réellement en cours d’exécution.
Faut-il renseigner un nom fictif si un jeu de données n’est pas public ?
Non. N’inventez pas de valeurs non vérifiées. Consignez uniquement ce que vous pouvez confirmer, suivez séparément les points non vérifiés et interrogez le fournisseur.
Comment Hi AUDIT Agent peut vous aider
Après avoir mis le BOM au format approprié, il est également utile d’examiner le code de l’application qui prend en charge les fonctionnalités d’IA qui y sont consignées. Avec Hi AUDIT Agent, vous pouvez demander une analyse de sécurité depuis un environnement de développement connecté à MCP, par exemple celle de l’API de recherche d’une application RAG. Vous pouvez consulter sur place le contexte des emplacements signalés et les corrections proposées, puis passer à la revue et aux corrections en équipe. La génération du BOM et la validation de sa conformité à la spécification doivent être effectuées séparément, et les résultats de l’analyse doivent également être vérifiés par une personne.
Créer un compte Hi AUDIT Agent