Comment maintenir une AI BOM à jour après sa création ? Suivre les changements des modèles, du RAG et des agents

Yuta Matsuyama

Chercheur en sécurité, TECHFUND Inc.

Mis à jour:

À qui s’adresse cet article: Équipes de développement et de sécurité exploitant des API de modèles externes, du RAG et des agents

Réponse pratique

Une AI BOM n’est pas achevée une fois qu’elle a été générée. Même sans modification du code, la configuration de production peut changer à la suite de mises à jour de modèles externes ou de la synchronisation des données de recherche. Distinguez la configuration définie des informations effectivement vérifiées et désignez les responsables des rapprochements à effectuer lors des changements et à intervalles réguliers. N’interprétez pas les champs vides comme un signe de sécurité : suivez les informations inconnues comme non vérifiées.

L’IA utilisée peut changer même si le code reste identique

Même si la nomenclature est exacte au moment de la livraison, elle s’éloignera de la réalité si les modèles, les données interrogées ou les outils connectés changent ensuite. CycloneDX ML-BOM peut représenter des modèles, des jeux de données, des dépendances et d’autres éléments, mais l’existence d’un format de description ne signifie pas que toute la configuration en cours d’exécution est découverte automatiquement.

Le tableau de cet article propose un cadre permettant aux équipes de maintenir leur AI BOM et les enregistrements opérationnels associés. Il ne prétend pas que les éléments présentés sont des champs obligatoires de CycloneDX. Définissez le périmètre et les méthodes d’observation, et consignez également ce qui ne peut pas être vérifié.

Distinguer le modèle spécifié de la version réellement utilisée

Commencez par enregistrer l’ID du modèle configuré, le fournisseur, l’API utilisée, l’environnement et la personne chargée de l’approbation. Consignez ensuite la version réelle du modèle, dans la mesure où elle peut être vérifiée au moyen de la console d’administration ou de l’API du fournisseur, des métadonnées d’exécution autorisées ou de sources similaires, ainsi que la date et l’heure de vérification. L’ID affiché ne permet pas nécessairement d’identifier les poids internes du modèle ni son historique d’entraînement. Si ces éléments ne peuvent pas être vérifiés, indiquez qu’ils sont non vérifiés et interrogez le fournisseur du modèle.

Dans Microsoft Foundry Models, la version du modèle lui-même et celle de l’API sont distinctes. Certains déploiements sont automatiquement mis à jour vers la version par défaut selon leur politique de mise à jour ; les seuls écarts de configuration de l’application peuvent donc ne pas suffire à détecter les changements. Vérifiez la politique effective pour chaque modèle, offre et région utilisés, et rapprochez les notifications de mise à jour des enregistrements opérationnels.

Il est important de ne pas considérer comme équivalents les alias de noms de modèles, les versions figées, les cibles de repli et les informations non divulguées par le fournisseur. Même lorsque vous consignez des déclarations publiques sur les données d’entraînement ou le modèle de base d’un modèle externe, séparez-les des preuves permettant de vérifier indépendamment leur utilisation réelle.

Suivre aussi les données RAG et les connexions des agents

Pour le RAG, gérez non seulement le modèle de génération des réponses, mais aussi les sources de données de recherche, les autorisations, le moment de l’ingestion, le modèle d’embeddings, les versions de l’index et les tâches de mise à jour. La mise à jour d’un document source ne signifie pas nécessairement qu’elle est déjà répercutée dans l’index de recherche. Par exemple, dans Amazon Bedrock Knowledge Bases, après l’ajout, la modification ou la suppression de fichiers dans une source de données, une synchronisation permet de répercuter les changements dans l’index. Vérifiez séparément l’état de la synchronisation et le moment où les données sont devenues accessibles à la recherche.

Il est également important de ne pas confondre les documents de recherche du RAG avec les données d’entraînement. CycloneDX v1.7 modelCard.datasets représente les données utilisées pour entraîner et évaluer ce modèle. Pour éviter de laisser croire à tort que les documents consultés lors de la recherche ont été utilisés pour l’entraînement, associez-les au moyen d’une structure qui distingue leur usage ou de registres opérationnels distincts.

Lorsqu’un agent appelle des outils externes, ajoutez à l’inventaire les destinations de connexion, les opérations exécutables, les autorisations utilisées et les responsables, ainsi que la version de la configuration. Ces informations sont distinctes des données d’entraînement du modèle. Rapprochez la configuration visible dans le dépôt des connexions réellement actives en production, à l’aide de sources d’information auxquelles vous êtes autorisé à accéder.

Exemple : traiter les écarts entre configuration et réalité comme étant en attente de vérification

Voici un exemple d’exploitation fictif, et non des mesures réelles d’un fournisseur ou d’un outil. Supposons que la configuration du déploiement spécifie un alias de modèle dont la cible peut évoluer, et que le RAG soit connecté à des documents internes et à un outil de recherche externe.

Après avoir généré un nouvel inventaire, vous constatez que, bien que le modèle spécifié soit le même, la dernière vérification de sa version réelle est ancienne et que la fin de l’ingestion n’a pas été confirmée malgré la mise à jour des documents. Même si la commande de génération réussit, n’approuvez pas cet état comme « inchangé » ou « sûr » : demandez à chaque responsable de vérifier les éléments justificatifs.

Exemple fictif : écarts et preuves à vérifier
ÉlémentInformations à conserver dans l’inventaireProchaine vérification
ModèleID configuré, version vérifiée, date et heure de vérification. Si la version n’est pas visible, l’indiquer comme non vérifiéeVérifier dans la console d’administration ou les métadonnées de réponse disponibles, et effectuer des tests en cas de changement
Données RAGID de la source de données, version du document ou date et heure de mise à jour, état de la tâche d’ingestionConfirmer la fin de la synchronisation et la version accessible à la recherche. Distinguer les documents sources de l’index
Outils externesIdentifiant de l’outil, destination de connexion, opérations autorisées, responsableRapprocher les configurations et les autorisations réellement en vigueur. Réévaluer les accès en cas de changement

Les éléments et les décisions constituent un exemple d’exploitation à titre illustratif. Adaptez-les aux formats et aux services utilisés.

Définir les déclencheurs de mise à jour et les responsables des informations non vérifiées

Mettez l’inventaire à jour lors des livraisons et des changements de configuration, et prévoyez également des notifications distinctes ou des contrôles périodiques pour les mises à jour du fournisseur, la synchronisation des données et les changements d’autorisations. Dans les écarts par rapport à l’enregistrement précédent, conservez non seulement les éléments modifiés, mais aussi la source, l’heure de collecte, la personne ayant effectué la vérification et l’échéance de la prochaine vérification. Si une information n’a pas pu être obtenue, ne traitez pas cette situation comme un succès : transmettez-la au responsable avec le statut non vérifié.

Les données d’entraînement décrites dans la documentation publique ne sont pas les mêmes que les données de recherche vérifiables à partir des journaux réels de traitement. Consignez sans les confondre les mentions de la fiche du modèle, les valeurs de configuration, les observations et les preuves vérifiées indépendamment. Les revues de code et de configuration peuvent repérer des changements dans les cibles référencées, mais elles ne permettent pas de prouver les caractéristiques internes non divulguées des modèles ni l’ensemble des chemins d’exécution d’une API externe.

  1. Pour chaque cible de livraison et chaque environnement, définissez les responsables et les sources d’information concernant les modèles, les données et les outils.
  2. Consignez les identifiants et les horodatages disponibles, puis examinez les écarts par rapport à l’enregistrement précédent et les éléments non vérifiés.
  3. Selon le changement, vérifiez les évaluations, les autorisations et sa répercussion dans les résultats de recherche, puis transmettez les résultats et les risques restants à la personne chargée de l’approbation.

Appliquer aussi des contrôles d’accès à l’inventaire lui-même

L’inventaire contient des informations que vous ne souhaitez peut-être pas divulguer à l’extérieur, telles que les destinations de connexion et la configuration interne. N’enregistrez pas sans discernement les clés d’API, les secrets, les prompts des utilisateurs ou le corps des documents. Limitez-vous aux informations nécessaires à l’objectif visé, et définissez les droits de consultation, la durée de conservation et les méthodes de suppression. Le hachage ne garantit pas non plus l’anonymat. OWASP cite les contrôles d’accès et les restrictions des sources de données parmi les mesures contre l’exposition d’informations sensibles.

Questions fréquentes

Si le nom du modèle reste identique, peut-on se passer de mettre à jour l’AI BOM ?

Non. Les alias ou les mises à jour effectuées côté administration peuvent modifier la version réelle. Vérifiez la politique de mise à jour de votre environnement et la version que vous pouvez confirmer.

Comment consigner les données d’entraînement d’un modèle externe lorsqu’elles sont inconnues ?

Distinguez les déclarations publiques du fournisseur des faits vérifiés indépendamment et conservez ces informations comme non divulguées ou non vérifiées. Ne comblez pas les lacunes par des suppositions.

Comment Hi AUDIT Agent peut vous aider

Lorsque vous changez de modèle ou de destination de connexion, il est également utile de vérifier la sécurité du code modifié de l’application, en parallèle de la mise à jour de l’inventaire. Avec Hi AUDIT Agent, vous pouvez demander l’analyse du code concerné depuis le chat d’un environnement de développement compatible avec MCP et consulter sur place les éléments justifiant les problèmes signalés ainsi que les corrections proposées. Vous pouvez demander une nouvelle analyse après les corrections, ce qui facilite l’intégration des changements aux revues quotidiennes. Hi AUDIT Agent met à jour ses fonctions de détection et ses données CVE côté serveur, ce qui réduit le travail nécessaire pour actualiser localement les règles de détection du produit. Vérifiez séparément les versions des modèles réellement utilisées et la configuration en production, à l’aide des registres d’exploitation ou d’autres sources.

Créer un compte Hi AUDIT Agent