Qu’est-ce qu’une AI BOM ? Différences avec la SBOM, les fiches de modèle et les fiches de données, et quand les utiliser
Yuta Matsuyama
Chercheur en sécurité, TECHFUND Inc.
Mis à jour:
À qui s’adresse cet article: Responsables du développement et professionnels de la sécurité qui développent et exploitent des fonctionnalités d’IA et doivent expliquer leur composition et leur sécurité à des partenaires commerciaux.
Réponse pratique
Une AI BOM regroupe des informations de composition qui structurent les modèles, les données associées, les logiciels et les autres éléments constituant un système d’IA, afin de pouvoir retracer leurs relations. Une SBOM décrit principalement la composition du logiciel, une fiche de modèle explique les usages et les évaluations du modèle, et une fiche de données explique la constitution d’un jeu de données et ses conditions d’utilisation. Certains champs se recoupent, mais les objectifs diffèrent : il convient donc de combiner les informations nécessaires.
Commencez par déterminer ce que vous souhaitez savoir
Supposons que l’on vous demande, à propos des fonctionnalités d’IA de votre entreprise : « Quels modèles sont utilisés, par quelles applications et avec quelles données ? » Même si vous connaissez le fournisseur du modèle, le même document ne décrit pas nécessairement les bibliothèques dont dépend l’application, les documents internes utilisés pour la recherche d’informations ni les chemins par lesquels les entrées parviennent au modèle.
L’AI BOM est une approche permettant de structurer ces composants et leurs liens. Les éléments à inclure varient selon l’usage et le format adopté. Définir d’abord la finalité — réponse aux problèmes de sécurité, fourniture d’informations lors des achats ou gestion interne des actifs, par exemple — facilite le choix des champs nécessaires.
Les quatre types de documentation répondent à des questions différentes
La ML-BOM de CycloneDX fournit un mécanisme permettant de représenter des modèles, des jeux de données, des dépendances et d’autres éléments. De leur côté, les travaux sur les fiches de modèle proposent une méthode pour rendre compte des usages prévus, des conditions d’évaluation et des limites d’un modèle. Les travaux sur les fiches descriptives de jeux de données proposent un cadre pour consigner la collecte, la composition, les finalités d’utilisation et d’autres informations.
Ces documents ne sont pas mutuellement exclusifs. Par exemple, CycloneDX comprend également des champs représentant le contenu des fiches de modèle. Des noms de documents différents n’impliquent pas nécessairement de créer des fichiers distincts.
| Document | Question principale | Exemples |
|---|---|---|
| AI BOM | Quels éléments et quelles relations constituent la fonctionnalité d’IA ? | Modèles utilisés, données associées, dépendances, lieux d’utilisation |
| SBOM | Quels composants constituent le logiciel ? | Bibliothèques, versions, dépendances |
| Fiche de modèle | À quoi le modèle peut-il servir, et quelles sont ses évaluations et ses limites ? | Usages prévus, résultats d’évaluation, contraintes connues |
| Fiche de données / fiche descriptive | Comment les données ont-elles été créées et à quoi peuvent-elles servir ? | Méthodes de collecte, composition, conditions d’utilisation, contraintes |
Les champs sont donnés à titre d’exemple. L’étendue réelle des informations fournies varie selon le format et le fournisseur.
Prenons une application qui utilise un modèle externe
Imaginons, par exemple, une application qui effectue une recherche dans des documents internes et transmet leur contenu à un modèle externe pour produire une réponse. Il s’agit d’un exemple fictif à des fins d’explication. Une AI BOM peut consigner les relations entre l’application, l’identifiant du modèle appelé, les données utilisées pour la recherche et les composants logiciels employés. La SBOM répertorie les bibliothèques utilisées par l’application ; les fiches de modèle et de données, si elles existent, permettent de consulter les usages et les contraintes.
Toutefois, si les données d’entraînement du modèle externe ne sont pas publiques, il ne faut pas renseigner les jeux de données réellement utilisés sur la base de suppositions. Marquez comme « non vérifiées » les informations que le fournisseur n’a pas divulguées, et consignez la date de réception d’une réponse ainsi que le contact pour les demandes de renseignements. Les documents internes utilisés pour la recherche sont des données employées par l’application et doivent être traités séparément des données ayant servi à entraîner le modèle.
Distinguez les informations déclarées de celles qui ont réellement été vérifiées
Une fiche publiée par le fournisseur d’un modèle, des dépendances détectées dans un dépôt et un identifiant de modèle confirmé dans les paramètres de production sont tous des « informations de composition », mais reposent sur des éléments de preuve différents. Conserver la source, la date de vérification, la personne responsable et les éléments non vérifiés permet de repérer ultérieurement les points nécessitant une mise à jour ou une demande de renseignements. Si un service externe ne divulgue pas suffisamment le modèle réellement utilisé ou sa version, consignez les informations dans les limites de ce qui est disponible.
Lors de l’examen de code en cours de développement, il est important de ne pas considérer que le seul nom du modèle inscrit dans un fichier de configuration permet de connaître tous les chemins utilisés en exploitation. Des variables d’environnement ou des basculements à l’exécution peuvent entraîner l’appel d’un autre modèle. Recoupez les références présentes dans le code avec les configurations et les journaux d’utilisation que vous êtes autorisé à consulter, puis demandez confirmation à la personne responsable en cas d’écart.
Commencez par une seule fonctionnalité d’IA
Définissez d’abord la fonctionnalité concernée et son responsable, puis organisez les informations sur le fournisseur et l’identifiant du modèle, les données utilisées, les principales dépendances et la destination du déploiement. Consignez ensuite les éléments de preuve pour chaque point et laissez les informations non divulguées marquées comme non vérifiées. Désigner également une personne chargée des mises à jour lors des changements de modèle ou de configuration permet d’éviter que l’inventaire reste un exercice ponctuel.
Par ailleurs, en mai 2026, CISA et les organismes concernés du G7 ont publié des orientations sur les éléments minimaux propres à l’IA à prendre en compte en complément des éléments minimaux généraux d’une SBOM. Ces orientations ne sont pas présentées comme une liste exhaustive ou obligatoire.
CycloneDX et SPDX sont des options pour traiter ces informations sous une forme lisible par machine. Vérifiez, à partir des outils effectivement utilisés et des conditions contractuelles, les formats et les champs que le destinataire peut prendre en charge. Une AI BOM éclaire les décisions ; le simple fait de consigner des informations ne prouve ni la sécurité, ni la conformité légale, ni la provenance des données d’entraînement. Une évaluation et une vérification humaine restent nécessaires séparément.
Questions fréquentes
Disposer d’une AI BOM rend-il la SBOM inutile ?
Pas nécessairement. Il est possible d’inclure les dépendances logicielles dans les informations de composition destinées à l’IA, mais la couverture de toutes les informations nécessaires dépend du format et des outils utilisés pour les produire. Vérifiez ce point en fonction de l’usage prévu.
Les données d’entraînement mentionnées dans une fiche de modèle constituent-elles une preuve vérifiée ?
La fiche contient des informations déclarées par le fournisseur. Distinguez l’existence ou non d’une vérification indépendante et l’étendue des informations divulguées, et traitez comme non vérifiés les éléments que vous ne pouvez pas confirmer.
Comment Hi AUDIT Agent peut vous aider
Une fois la configuration des modèles et des données organisée dans un BOM d’IA, il est également utile de vérifier la sécurité du code qui fait fonctionner ces fonctionnalités. Avec Hi AUDIT Agent, vous pouvez demander une analyse en langage naturel depuis un environnement de développement compatible avec MCP, par exemple : « Vérifie la sécurité de cette API ». Les emplacements signalés, les éléments justifiant les constats et les corrections proposées sont consultables sur un même écran, ce qui facilite le passage de l’inventaire à la revue du code. Les résultats de l’analyse doivent être validés par une personne ; la création du BOM d’IA et la vérification de l’exhaustivité de la configuration recensée doivent être traitées séparément.
Créer un compte Hi AUDIT Agent