O que é uma AI BOM? Diferenças em relação à SBOM, aos cartões de modelo e aos cartões de dados, e quando usar cada um
Yuta Matsuyama
Pesquisador de segurança, TECHFUND Inc.
Atualizado:
Para quem é: Líderes de desenvolvimento e profissionais de segurança que desenvolvem e operam funcionalidades de IA e precisam explicar sua composição e segurança a parceiros comerciais.
Resposta prática
Uma AI BOM reúne informações de composição que organizam os modelos, os dados relacionados, o software e outros elementos que compõem um sistema de IA, permitindo rastrear suas relações. Uma SBOM descreve principalmente a composição do software; um cartão de modelo explica os usos e as avaliações do modelo; e um cartão de dados explica como um conjunto de dados foi criado e suas condições de uso. Embora alguns campos se sobreponham, os objetivos são diferentes, por isso as informações necessárias devem ser combinadas.
Primeiro, defina o que você quer saber
Imagine que alguém pergunte sobre as funcionalidades de IA da sua empresa: “Quais modelos são usados, por quais aplicativos e com quais dados?”. Mesmo que você conheça o fornecedor do modelo, o mesmo documento não necessariamente descreve as bibliotecas das quais o aplicativo depende, os documentos internos usados na recuperação de informações ou os caminhos pelos quais as entradas chegam ao modelo.
A AI BOM é uma abordagem para organizar esses componentes e suas conexões. O que deve ser incluído varia conforme a finalidade e o formato adotado. Definir primeiro como ela será usada — por exemplo, para resposta a questões de segurança, fornecimento de informações durante aquisições ou gestão interna de ativos — facilita a escolha dos campos necessários.
Os quatro tipos de documentação respondem a perguntas diferentes
A ML-BOM do CycloneDX oferece um mecanismo para representar modelos, conjuntos de dados, dependências e outros elementos. Já a pesquisa sobre cartões de modelo propõe um método para relatar os usos previstos, as condições de avaliação e as limitações de um modelo. A pesquisa sobre fichas técnicas para conjuntos de dados oferece uma estrutura para documentar a coleta, a composição, as finalidades de uso e outros detalhes.
Esses documentos não são mutuamente exclusivos. Por exemplo, o CycloneDX também inclui campos que representam o conteúdo de cartões de modelo. Nomes de documentos diferentes não significam necessariamente que seja preciso criar arquivos separados.
| Documento | Pergunta principal | Exemplos |
|---|---|---|
| AI BOM | Quais elementos e relações compõem a funcionalidade de IA? | Modelos utilizados, dados relacionados, dependências, locais de uso |
| SBOM | Quais componentes compõem o software? | Bibliotecas, versões, dependências |
| Cartão de modelo | Para que o modelo pode ser usado e quais avaliações e limitações ele tem? | Usos previstos, resultados de avaliação, restrições conhecidas |
| Cartão de dados / ficha técnica | Como os dados foram criados e para que podem ser usados? | Métodos de coleta, composição, condições de uso, restrições |
Os campos são exemplos. O escopo efetivo das informações incluídas varia conforme o formato e o fornecedor.
Considere um aplicativo que usa um modelo externo
Por exemplo, imagine um aplicativo que pesquisa documentos internos e envia seu conteúdo a um modelo externo para gerar uma resposta. Este é um exemplo fictício para fins de explicação. Uma AI BOM pode registrar as relações entre o aplicativo, o ID do modelo chamado, os dados usados na recuperação de informações e os componentes de software utilizados. A SBOM lista as bibliotecas usadas pelo aplicativo e, se houver cartões de modelo ou de dados, eles podem ser consultados para verificar usos e restrições.
No entanto, se os dados de treinamento do modelo externo não forem públicos, não preencha os conjuntos de dados efetivamente utilizados com base em suposições. Marque as informações não divulgadas pelo fornecedor como “não verificadas” e registre a data em que recebeu uma resposta e o contato para consultas. Os documentos internos usados na recuperação de informações são dados utilizados pelo aplicativo e devem ser tratados separadamente dos dados usados no treinamento do modelo.
Separe as informações declaradas das que foram efetivamente verificadas
Um cartão publicado pelo fornecedor de um modelo, as dependências detectadas em um repositório e um ID de modelo confirmado nas configurações de produção são todos “informações de composição”, mas têm evidências de apoio diferentes. Registrar a fonte, a data de verificação, a pessoa responsável e os itens não verificados ajuda a identificar, posteriormente, os pontos que precisam de atualização ou esclarecimento. Se um serviço externo não divulgar suficientemente o modelo efetivamente utilizado ou sua versão, registre as informações dentro desses limites.
Ao revisar código em desenvolvimento, é importante não presumir que o nome do modelo em um arquivo de configuração permite conhecer todos os caminhos em operação. Variáveis de ambiente ou mudanças em tempo de execução podem fazer com que outro modelo seja chamado. Compare as referências no código com as configurações e os registros de uso que você tem autorização para consultar e, se houver diferenças, confirme com a pessoa responsável.
Comece com uma única funcionalidade de IA
Primeiro, defina a funcionalidade em questão e a pessoa responsável, e organize as informações sobre o fornecedor e o identificador do modelo, os dados utilizados, as principais dependências e o destino da implantação. Em seguida, registre as evidências de cada item e mantenha as informações não divulgadas marcadas como não verificadas. Definir também quem fará as atualizações quando os modelos ou as configurações mudarem ajuda a evitar que o inventário seja uma atividade feita uma única vez.
Além disso, em maio de 2026, CISA e os órgãos pertinentes do G7 publicaram orientações sobre os elementos mínimos para IA a serem considerados além dos elementos mínimos gerais de uma SBOM. Essas orientações não são apresentadas como uma lista exaustiva nem obrigatória.
CycloneDX e SPDX são opções para lidar com essas informações em formato legível por máquina. Verifique nas ferramentas efetivamente utilizadas e nas condições contratuais quais formatos e campos o destinatário consegue processar. Uma AI BOM fornece subsídios para decisões; o simples registro das informações não comprova segurança, conformidade legal ou a proveniência dos dados de treinamento. A avaliação e a verificação humana continuam sendo necessárias separadamente.
Perguntas frequentes
Ter uma AI BOM torna a SBOM desnecessária?
Não necessariamente. É possível incluir dependências de software nas informações de composição voltadas à IA, mas a cobertura de todas as informações necessárias depende do formato e das ferramentas usados para criá-las. Verifique isso de acordo com a finalidade de uso.
Os dados de treinamento indicados em um cartão de modelo são evidências verificadas?
O cartão contém informações declaradas pelo fornecedor. Distinga se houve verificação independente e até que ponto as informações foram divulgadas, e trate como não verificados os itens que não puder confirmar.
Como o Hi AUDIT Agent pode ajudar
Depois de organizar a configuração dos modelos e dos dados em um BOM de IA, também vale verificar a segurança do código que coloca essas funcionalidades em operação. Com o Hi AUDIT Agent, você pode solicitar uma análise em linguagem natural em um ambiente de desenvolvimento compatível com MCP, por exemplo: “Verifique a segurança desta API”. Os trechos sinalizados, os fundamentos dos apontamentos e as sugestões de correção podem ser consultados na mesma tela, facilitando a passagem do inventário para a revisão do código. Os resultados da análise devem ser validados por uma pessoa; a criação do BOM de IA e a verificação de que a configuração esteja representada por completo devem ser tratadas separadamente.
Criar uma conta no Hi AUDIT Agent