Cómo elegir una herramienta AI BOM para DevSecOps

¿Se quiere comprobar la licencia de un modelo, rastrear dependencias vulnerables o detectar que ha cambiado el modelo en uso? Los campos y las herramientas necesarios dependen del objetivo. Para empezar, incluya en el inventario el identificador y la versión del modelo, el proveedor, las dependencias de software, dónde se utiliza y quién es su responsable, además de los conjuntos de datos y las licencias cuando sea necesario.

ML-BOM de CycloneDX es un formato que permite representar modelos, conjuntos de datos y otros elementos. Sin embargo, que el formato disponga de un campo no significa que una herramienta pueda obtener su valor del entorno de la empresa.

cdxgen es una opción para generar una BOM a partir del código fuente y otras fuentes. Dependency-Track recibe BOM de CycloneDX y puede utilizarse para registrarlas desde CI/CD y analizar componentes. La generación que realiza el primero y la recepción y gestión que realiza el segundo cumplen funciones distintas, por lo que conviene evaluar también su uso combinado.

Las herramientas de generación también difieren en lo que analizan. AIBoMGen CLI genera una AI BOM en formato CycloneDX a partir del uso de modelos de Hugging Face en el repositorio, y también se ofrece una GitHub Action. xgrep examina sin conexión el uso de SDK y modelos de IA en el código y genera resultados en formato CycloneDX 1.6. Sin embargo, la salida de xgrep para IA no incluye las dependencias de software generales, por lo que es necesario generar una SBOM por separado.

Aunque ya utilice un generador de SBOM, no necesariamente podrá obtener información específica de los modelos. Busque también otros candidatos en CycloneDX Tool Center y compruebe no solo los formatos compatibles, sino también los campos de información del modelo que se generan, la CLI o API, la autenticación y el flujo de trabajo existente con tickets.

El siguiente es un ejemplo oficial de cdxgen v13.6.0. Genere la BOM sobre un objetivo que no contenga información confidencial y contraste el identificador del modelo, la versión y la licencia con la configuración original. Se trata de un ejemplo de comando, no del resultado de ejecutarlo en este entorno.

Los conjuntos de datos y los modelos base que figuran en una ficha de modelo son declaraciones del proveedor. No los trate como prueba de su uso real en el entrenamiento: compruebe por separado lo que indica la ficha, las dependencias observadas y las evidencias de los trabajos de entrenamiento.

cdxgen -r --include-formulation -o aibom.json --bom-audit --bom-audit-categories ai-bom .

Los modelos seleccionados en tiempo de ejecución mediante variables de entorno o API externas pueden pasar inadvertidos si solo se realiza un análisis estático del repositorio. Si nos correspondiera revisar el código, contrastaríamos el inventario generado con la configuración de la aplicación y los registros de uso, e investigaríamos las referencias que no figuraran en él. El análisis de código por sí solo no siempre permite conocer la totalidad del uso de modelos externos.

Una vez integrado en CI, cambie la versión del modelo y compruebe si el siguiente artefacto refleja la diferencia y si los campos necesarios se conservan en el sistema receptor. Que el comando de generación se ejecute correctamente no garantiza que CI falle cuando se detecte un problema. Es necesario configurar por separado las condiciones de fallo y el tratamiento de los códigos de salida, y establecer un proceso que no considere aprobados los casos pendientes de comprobación manual.