AI BOM이란? SBOM·모델 카드·데이터 카드와의 차이 및 활용 방법
Yuta Matsuyama
TECHFUND 주식회사 보안 연구원
업데이트:
대상 독자: AI 기능을 개발·운영하며 거래처로부터 구성과 안전성에 대한 설명을 요청받는 개발 책임자와 보안 담당자.
핵심 답변
AI BOM은 AI 시스템을 구성하는 모델과 관련 데이터, 소프트웨어 등을 정리하고 이들 사이의 관계를 추적할 수 있도록 하는 구성 정보입니다. SBOM은 주로 소프트웨어의 구성을, 모델 카드는 모델의 용도와 평가를, 데이터 카드는 데이터셋의 형성 과정과 이용 조건을 설명합니다. 일부 항목은 겹치지만 목적이 다르므로 필요한 정보를 조합해 사용합니다.
먼저 무엇을 알고 싶은지 정하기
자사의 AI 기능에 대해 “어떤 모델이 어떤 앱에서 어떤 데이터와 함께 사용되고 있나요?”라는 질문을 받았다고 가정해 보겠습니다. 모델 제공자를 알고 있더라도 앱의 의존 라이브러리, 검색에 사용하는 사내 문서, 모델로 입력이 전달되는 경로까지 같은 자료에 적혀 있다고는 할 수 없습니다.
AI BOM은 이러한 구성 요소와 연결 관계를 정리하기 위한 접근 방식입니다. 무엇을 포함해야 하는지는 용도와 채택한 형식에 따라 달라집니다. 보안 대응, 조달 시 정보 제공, 사내 자산 관리 등 어디에 사용할지 먼저 정하면 필요한 항목을 선택하기 쉬워집니다.
네 가지 자료는 답하려는 질문이 다릅니다
CycloneDX의 ML-BOM은 모델, 데이터셋, 의존 관계 등을 표현할 수 있는 체계입니다. 한편 모델 카드 연구는 모델의 예상 용도, 평가 조건, 한계를 보고하는 방법을 제안합니다. 데이터셋 데이터시트 연구는 수집, 구성, 이용 목적 등을 기록하기 위한 프레임워크입니다.
이 자료들은 상호 배타적이지 않습니다. 예를 들어 CycloneDX에는 모델 카드의 내용을 표현하는 항목도 있습니다. 자료 이름이 다르다고 반드시 별도의 파일을 만들어야 하는 것은 아닙니다.
| 자료 | 주요 질문 | 예시 |
|---|---|---|
| AI BOM | AI 기능을 구성하는 요소와 관계는 무엇인가 | 사용 모델, 관련 데이터, 의존 관계, 사용 위치 |
| SBOM | 소프트웨어를 구성하는 부품은 무엇인가 | 라이브러리, 버전, 의존 관계 |
| 모델 카드 | 모델은 어디에 사용할 수 있으며 어떤 평가와 한계가 있는가 | 예상 용도, 평가 결과, 알려진 제약 |
| 데이터 카드·데이터시트 | 데이터는 어떻게 만들어졌으며 어디에 사용할 수 있는가 | 수집 방법, 구성, 이용 조건, 제약 |
항목은 예시입니다. 실제 기재 범위는 형식과 제공자에 따라 다릅니다.
외부 모델을 사용하는 앱을 예로 생각하기
예를 들어 사내 문서를 검색하고 그 내용을 외부 모델에 전달해 답변하는 앱을 생각해 보겠습니다. 이는 설명을 위한 가상의 예시입니다. AI BOM에는 앱, 호출 대상 모델 ID, 검색용 데이터, 사용하는 소프트웨어 부품 간의 관계를 기록할 수 있습니다. SBOM에는 앱이 사용하는 라이브러리를 기재하고, 모델 카드나 데이터 카드가 있다면 해당 자료에서 용도와 제약을 확인합니다.
다만 외부 모델의 학습 데이터가 비공개라면 실제로 사용된 데이터셋을 추측해서 채워 넣어서는 안 됩니다. 제공자가 공개하지 않은 정보는 ‘미확인’으로 표시하고, 답변을 받은 날짜와 문의처를 기록합니다. 사내 문서 검색에 쓰이는 데이터는 해당 앱이 사용하는 데이터이며, 모델 학습에 사용된 데이터와는 별도로 취급합니다.
기재된 정보와 실제로 확인한 정보를 구분하기
모델 제공자가 공개한 카드, 저장소에서 탐지한 의존 관계, 운영 환경 설정에서 확인한 모델 ID는 모두 같은 ‘구성 정보’이지만 근거가 다릅니다. 정보 출처, 확인일, 담당자, 미확인 항목을 남겨 두면 나중에 어디를 업데이트하거나 문의해야 하는지 알 수 있습니다. 외부 서비스가 실제 사용 모델이나 버전을 충분히 공개하지 않는 경우에도 확인할 수 있는 범위 내에서 기록하세요.
개발 중인 코드를 검토하는 입장에서는 설정 파일에 적힌 모델 이름만으로 운영 중인 모든 경로를 파악했다고 생각하지 않는 것이 중요합니다. 환경 변수나 런타임 전환으로 인해 다른 모델이 호출될 수도 있습니다. 코드상의 참조를 권한을 얻어 확인할 수 있는 설정·이용 기록과 대조하고, 차이가 있으면 담당자에게 확인합니다.
처음에는 하나의 AI 기능부터 시작하기
먼저 대상 기능과 책임자를 정하고, 모델 제공자와 식별자, 사용하는 데이터, 주요 의존 관계, 배포 위치를 정리합니다. 다음으로 각 항목의 근거를 기록하고, 공개되지 않은 내용은 미확인 상태로 남겨 둡니다. 모델이나 설정이 변경될 때 업데이트할 담당자도 정해 두면 현황 파악이 일회성으로 끝나지 않습니다.
또한 2026년 5월, CISA와 G7 관계 기관은 일반적인 SBOM 최소 요소에 더해 검토할 AI용 최소 요소 지침을 발표했습니다. 이는 망라적이거나 의무적인 목록으로 제시된 것은 아닙니다.
CycloneDX와 SPDX는 이러한 정보를 기계 판독 가능한 형태로 다루기 위한 선택지입니다. 수신자가 어떤 형식과 항목을 처리할 수 있는지는 실제 도구와 계약 조건을 통해 확인하세요. AI BOM은 판단을 위한 자료이며, 기록하는 것만으로 안전성, 법규 준수, 학습 데이터의 출처와 이력을 증명하는 것은 아닙니다. 평가와 사람에 의한 확인은 별도로 필요합니다.
자주 묻는 질문
AI BOM이 있으면 SBOM은 필요 없나요?
반드시 그렇지는 않습니다. AI용 구성 정보에 소프트웨어 의존 관계를 포함하는 방법도 있지만, 필요한 정보를 모두 포함하는지는 작성 형식과 도구에 따라 달라집니다. 이용 목적에 비추어 확인하세요.
모델 카드에 적힌 학습 데이터는 검증된 증거인가요?
카드는 제공자가 기재한 정보입니다. 독립적인 확인이 이루어졌는지, 어느 범위까지 공개되었는지를 구분하고, 확인할 수 없는 항목은 미확인으로 취급하세요.
Hi AUDIT Agent가 돕는 방법
AI BOM으로 모델과 데이터의 구성을 정리했다면, 해당 기능을 구동하는 코드의 보안도 확인해 보는 것이 좋습니다. Hi AUDIT Agent를 사용하면 MCP를 지원하는 개발 환경에서 “이 API의 보안을 확인해 줘”와 같이 자연어로 분석을 요청할 수 있습니다. 탐지된 위치와 근거, 수정안을 같은 화면에서 확인할 수 있어 구성 요소 목록 정리에서 코드 검토로 이어 가기 쉬워집니다. 분석 결과는 사람이 검증해야 하며, AI BOM 작성과 구성의 빠짐없는 반영 여부는 별도로 확인해 주세요.
Hi AUDIT Agent 가입하기