什么是 AI BOM?与 SBOM、模型卡、数据卡的区别及使用方式
Yuta Matsuyama
TECHFUND 株式会社 安全研究员
更新日期:
适合谁阅读: 开发和运营 AI 功能,并需要应业务合作方的要求说明其组成及安全性的开发负责人和安全人员。
简要回答
AI BOM 是一种组成信息,用于梳理构成 AI 系统的模型、相关数据、软件等,并使它们之间的关系可追溯。SBOM 主要说明软件的组成,模型卡说明模型的用途和评估,数据卡说明数据集的形成过程和使用条件。虽然部分内容有所重叠,但各自目的不同,因此需要组合使用所需的信息。
首先确定想了解什么
假设有人就贵公司的 AI 功能询问:“哪些应用使用了哪些模型,又搭配使用了哪些数据?”即使知道模型提供方,同一份资料中也不一定会写明应用所依赖的库、检索所用的内部文档,以及输入到达模型的路径。
AI BOM 是一种梳理这些组成要素及其联系的思路。应包含哪些内容,会因用途和采用的格式而异。先确定用于什么场景,例如安全响应、采购时的信息提供或内部资产管理,就更容易选择所需的字段。
四类资料要回答的问题各不相同
CycloneDX 的 ML-BOM 提供了表达模型、数据集、依赖关系等信息的机制。另一方面,模型卡研究提出了一种报告模型预期用途、评估条件及局限性的方法。数据集数据表研究则提供了记录数据收集、组成、使用目的等信息的框架。
这些资料并不是互斥的。例如,CycloneDX 也包含用于表达模型卡内容的字段。资料名称不同,并不意味着一定要创建单独的文件。
| 资料 | 主要问题 | 示例 |
|---|---|---|
| AI BOM | AI 功能由哪些要素及关系构成 | 使用的模型、相关数据、依赖关系、使用位置 |
| SBOM | 软件由哪些组件构成 | 库、版本、依赖关系 |
| 模型卡 | 模型可用于什么,有哪些评估和局限性 | 预期用途、评估结果、已知限制 |
| 数据卡/数据表 | 数据如何生成,可用于什么 | 收集方法、组成、使用条件、限制 |
所列字段仅为示例。实际记载范围因格式和提供方而异。
以使用外部模型的应用为例
例如,设想一个检索内部文档,并将其内容传给外部模型来生成回答的应用。这是一个用于说明的虚构示例。AI BOM 可以记录应用、被调用模型的 ID、检索用数据和所用软件组件之间的关系。SBOM 列出应用使用的库;如果有模型卡或数据卡,则可以从中确认用途和限制。
但是,如果外部模型的训练数据未公开,就不能靠推测填写实际使用的数据集。将提供方未公开的信息标为“未确认”,并记录收到答复的日期和咨询联系人。用于内部文档检索的数据是该应用使用的数据,应与用于训练模型的数据分开处理。
区分资料中记载的信息与实际确认的信息
模型提供方发布的卡片、从代码仓库中检测到的依赖关系,以及在生产配置中确认的模型 ID,虽然都属于“组成信息”,但依据各不相同。保留信息来源、确认日期、负责人和未确认项,有助于日后识别哪些地方需要更新或咨询。如果外部服务没有充分公开实际使用的模型或版本,也请在可获知的范围内记录。
在审查开发中的代码时,重要的是不要仅凭配置文件中写明的模型名称,就认为已经掌握了运行中的所有路径。环境变量或运行时切换也可能导致调用其他模型。应将代码中的引用与获得授权后可以查看的配置和使用记录进行核对,如有差异,向负责人确认。
先从一个 AI 功能开始
首先确定目标功能和负责人,梳理模型提供方与标识符、使用的数据、主要依赖关系及部署位置。然后记录各项信息的依据,将未公开的内容保留为未确认状态。同时明确模型或配置发生变化时由谁负责更新,就能避免盘点只做一次。
此外,2026年5月,CISA与G7相关机构发布了针对AI的最低要素指南,供在通用SBOM最低要素之外加以考虑。该指南并非详尽无遗或强制性的清单。
CycloneDX 和 SPDX 是以机器可读形式处理此类信息的可选方案。接收方能够处理哪些格式和字段,需要根据实际工具和合同条款确认。AI BOM 是辅助判断的材料,仅仅记录信息并不能证明安全性、法律合规性或训练数据的来源。还需要另行开展评估和人工确认。
常见问题
有了 AI BOM,就不需要 SBOM 了吗?
不一定。可以在面向 AI 的组成信息中包含软件依赖关系,但是否覆盖所有必要信息,取决于创建时采用的格式和工具。请结合使用目的进行确认。
模型卡中记载的训练数据是已核实的证据吗?
卡片中的内容是提供方记载的信息。请区分是否经过独立核实,以及披露到了什么程度,并将无法确认的项目视为未确认。
Hi AUDIT Agent 如何帮助您
通过 AI BOM 梳理模型和数据的构成后,也值得检查支撑这些功能运行的代码是否安全。使用 Hi AUDIT Agent,可以在支持 MCP 的开发环境中用自然语言请求分析,例如“请检查这个 API 的安全性”。由于可以在同一界面查看检出位置、判断依据和修改建议,因此更容易从清单盘点衔接到代码审查。分析结果应由人工验证,AI BOM 的创建及配置覆盖的完整性则请另行确认。
注册 Hi AUDIT Agent