建立 AI BOM 後如何持續更新?追蹤模型、RAG 與代理的變更

Yuta Matsuyama

TECHFUND 株式会社 資安研究員

更新日期:

適合誰閱讀: 維運外部模型 API、RAG 與代理的開發及資安人員

簡要回答

AI BOM 並不是產生一次就結束了。即使程式碼沒有變更,外部模型的更新或檢索資料的同步,也可能改變正式環境的組態。請區分已設定的組態與實際查證的資訊,並指定發生變更時及定期核對的負責人。對於未知資訊,不要將空白解讀為安全,而應以尚未確認的狀態持續追蹤。

即使程式碼相同,使用的 AI 也會改變

即使發布時的物料清單正確,若之後模型、檢索對象資料或連接的工具有所變動,清單也會逐漸偏離實際狀況。CycloneDX ML-BOM 可以描述模型、資料集、相依關係等,但有了描述格式,並不代表能自動找出執行中的所有組成配置。

本文的表格是供團隊維護 AI BOM 與相關維運紀錄的整理架構,並非聲稱表中的項目是 CycloneDX 的必填欄位。請決定追蹤對象與觀測方法,也要記錄無法確認的事項。

區分指定的模型與實際使用的版本

首先,記錄設定的模型 ID、供應商、使用的 API、環境及核准人。接著,在供應商的管理介面、API、獲准使用的執行階段中繼資料等可確認的範圍內,記錄實際模型版本與確認時間。顯示的 ID 不一定能識別內部模型的權重或訓練歷程。如果無法確認,應標記為尚未確認,並向模型供應商查證。

在 Microsoft Foundry Models 中,模型本身的版本與 API 版本是分開的。部分部署會依更新原則自動更新至預設版本,因此僅靠應用程式的組態差異,可能無法掌握變化。請針對使用的模型、方案與區域分別確認實際原則,並核對更新通知與維運紀錄。

重要的是,不要將模型名稱的別名、固定版本、備援目標及供應商未公開的資訊視為相同事物。即使記錄了外部模型訓練資料或基礎模型的公開聲明,也應與可獨立確認實際使用情況的證據分開。

也要追蹤 RAG 資料與代理的連線目標

對於 RAG,除了產生回答的模型,也應將檢索資料來源、權限、擷取時間、嵌入模型、索引版本及更新作業納入管理。來源文件更新後,不代表檢索索引已反映該更新。例如,在 Amazon Bedrock Knowledge Bases 中,新增、修改或刪除資料來源中的檔案後,需透過同步將變更反映至索引。請分別確認同步狀態,以及資料何時變得可供檢索。

同樣重要的是,不要將 RAG 檢索文件與訓練資料混淆。CycloneDX v1.7 modelCard.datasets 表示用於該模型訓練與評估的資料。為避免讓人誤以為檢索時參考的文件曾用於訓練,請透過區分用途的結構或獨立的運作紀錄來關聯這些文件。

代理呼叫外部工具時,應將連線目標、可執行的操作、使用的權限與負責人、組態版本加入清單。這些資訊與模型的訓練資料不同。請透過有權存取的資訊來源,核對儲存庫中可知的組態與正式環境中實際啟用的連線目標。

範例:將組態與實際狀況的差異視為待確認事項

以下是虛構的維運範例,並非供應商或工具的實測數值。假設部署組態指定了指向會變動的模型別名,且 RAG 連接了內部文件與外部搜尋工具。

產生新清單後發現,雖然指定的模型相同,但上次確認實際版本的時間已久,而且文件雖已更新,卻尚未確認擷取是否完成。即使產生指令成功,也不要將此狀態核准為「無變更」或「安全」,而應請各負責人確認佐證。

虛構範例:差異與需確認的證據
對象清單中保留的資訊接下來需確認的事項
模型設定的 ID、已確認的版本、確認時間。無法看到版本時標記為尚未確認透過管理介面或可用的回應中繼資料確認,並在變更時進行測試
RAG 資料資料來源 ID、文件版本或更新時間、擷取作業狀態確認同步完成情況與可檢索的版本。區分來源文件與索引
外部工具工具識別碼、連線目標、允許的操作、負責人核對實際生效的組態與權限。變更時重新評估存取權限

這些項目與判斷僅為說明性的維運範例。請依使用中的格式與服務調整。

訂定更新時機,並指定尚未確認資訊的負責人

在發布或組態變更時更新清單,並針對供應商更新、資料同步及權限變更,另行安排通知或定期檢查。記錄與上次紀錄的差異時,不只要保留變更項目,還應保留出處、取得時間、確認人及下次確認期限。若無法取得資訊,不要視同成功,而應以尚未確認的狀態交給負責人。

公開資料中描述的訓練資料,與可從實際處理日誌確認的檢索資料並不相同。請分別記錄模型卡的記載、設定值、觀測結果及獨立確認的證據,不要混為一談。程式碼或組態審查可以找出參照目標的變更,但無法證明外部 API 中未公開的模型內部情況或所有執行路徑。

  1. 針對各發布對象與環境,指定模型、資料及工具的負責人與資訊來源。
  2. 記錄可取得的識別碼與時間,並審查相較於上次的差異及尚未確認的項目。
  3. 依變更確認評估、權限及是否已反映至搜尋結果,並將結果與剩餘風險交給核准人。

對清單本身也實施存取控制

資產清單包含連線目標、內部組態等不希望對外揭露的資訊。不要無條件記錄 API 金鑰、機密資訊、使用者提示或文件本文,應將範圍限縮為達成目的所需的資訊,並訂定檢視權限、保存期限及刪除方式。雜湊處理也不一定能使資訊匿名化。OWASP 將存取控制與限制資料來源列為因應敏感資訊暴露的措施。

常見問題

模型名稱相同,就不需要更新 AI BOM 嗎?

不是。別名或管理端的更新可能改變實際版本。請查明使用環境的更新原則與可確認的版本。

不知道外部模型的訓練資料時,應如何記錄?

請區分供應商的公開聲明與獨立確認的事實,並保留為未公開或尚未確認的狀態。不要用推測填補。

Hi AUDIT Agent 如何協助您

更換模型或連線目標時,除了更新清單,也值得檢查修改後的應用程式碼是否安全。使用 Hi AUDIT Agent,可以透過支援 MCP 的開發環境中的聊天功能要求分析目標程式碼,並當場查看所指出問題的依據與修改建議。修改後還可以再次要求分析,因此更容易將變更納入日常檢視。Hi AUDIT Agent 的偵測功能和 CVE 資料由伺服器端更新,能減少在本機更新該產品偵測規則的工作。實際使用的模型版本及正式環境中的組態,請透過維運紀錄等另行確認。

註冊 Hi AUDIT Agent