Was ist eine AI BOM? Unterschiede zu SBOM, Model Cards und Data Cards und wann sie eingesetzt werden

Yuta Matsuyama

Sicherheitsforscher, TECHFUND Inc.

Aktualisiert:

Für wen: Entwicklungsverantwortliche und Sicherheitsfachkräfte, die KI-Funktionen entwickeln und betreiben und von Geschäftspartnern um Auskunft über deren Zusammensetzung und Sicherheit gebeten werden.

Die praktische Antwort

Eine AI BOM enthält Zusammensetzungsinformationen, die Modelle, zugehörige Daten, Software und weitere Bestandteile eines KI-Systems strukturieren und ihre Beziehungen nachvollziehbar machen. Eine SBOM beschreibt vor allem die Zusammensetzung der Software, eine Model Card erläutert die Einsatzmöglichkeiten und Bewertungen eines Modells, und eine Data Card beschreibt die Entstehung eines Datensatzes und seine Nutzungsbedingungen. Einige Angaben überschneiden sich, doch die Zwecke unterscheiden sich. Deshalb werden die benötigten Informationen kombiniert.

Zuerst festlegen, was Sie wissen möchten

Angenommen, Sie werden zu den KI-Funktionen Ihres Unternehmens gefragt: „Welche Modelle werden von welchen Anwendungen und mit welchen Daten genutzt?“ Selbst wenn der Modellanbieter bekannt ist, sind die Bibliotheksabhängigkeiten der Anwendung, die für die Suche verwendeten internen Dokumente und die Eingabepfade zum Modell nicht unbedingt im selben Dokument beschrieben.

Eine AI BOM ist ein Ansatz, um solche Bestandteile und Verbindungen zu strukturieren. Was sie enthalten sollte, hängt vom Einsatzzweck und vom gewählten Format ab. Wenn Sie zuerst festlegen, wofür sie genutzt werden soll – etwa für die Reaktion auf Sicherheitsprobleme, die Bereitstellung von Informationen bei der Beschaffung oder die interne Bestandsverwaltung –, lassen sich die benötigten Felder leichter auswählen.

Die vier Dokumentationsarten beantworten unterschiedliche Fragen

Die ML-BOM von CycloneDX bietet einen Mechanismus zur Darstellung von Modellen, Datensätzen, Abhängigkeiten und weiteren Elementen. Die Forschung zu Model Cards schlägt dagegen eine Methode vor, um die vorgesehenen Einsatzbereiche, Bewertungsbedingungen und Grenzen eines Modells zu dokumentieren. Die Forschung zu Datenblättern für Datensätze bietet einen Rahmen zur Erfassung von Datenerhebung, Zusammensetzung, Verwendungszwecken und weiteren Angaben.

Diese Dokumente schließen sich nicht gegenseitig aus. Beispielsweise enthält CycloneDX auch Felder zur Darstellung von Model-Card-Inhalten. Unterschiedliche Dokumentbezeichnungen bedeuten nicht zwangsläufig, dass separate Dateien erstellt werden müssen.

Zusammensetzungsinformationen und erläuternde Dokumentation nach Zweck
DokumentationZentrale FrageBeispiele
AI BOMWelche Elemente und Beziehungen bilden die KI-Funktion?Verwendete Modelle, zugehörige Daten, Abhängigkeiten, Einsatzorte
SBOMAus welchen Komponenten besteht die Software?Bibliotheken, Versionen, Abhängigkeiten
Model CardWofür kann das Modell eingesetzt werden, und welche Bewertungen und Grenzen gibt es?Vorgesehene Einsatzbereiche, Bewertungsergebnisse, bekannte Einschränkungen
Data Card / DatenblattWie wurden die Daten erstellt, und wofür können sie genutzt werden?Erhebungsmethoden, Zusammensetzung, Nutzungsbedingungen, Einschränkungen

Die Felder sind Beispiele. Der tatsächliche Umfang der Angaben variiert je nach Format und Anbieter.

Eine Anwendung mit einem externen Modell als Beispiel

Betrachten wir beispielsweise eine Anwendung, die interne Dokumente durchsucht und deren Inhalte an ein externes Modell übergibt, um eine Antwort zu erzeugen. Dies ist ein fiktives Beispiel zur Veranschaulichung. Eine AI BOM kann die Beziehungen zwischen der Anwendung, der ID des aufgerufenen Modells, den für die Suche verwendeten Daten und den eingesetzten Softwarekomponenten erfassen. Die SBOM führt die von der Anwendung verwendeten Bibliotheken auf. Falls Model Cards oder Data Cards vorliegen, lassen sich daraus Einsatzmöglichkeiten und Einschränkungen entnehmen.

Sind die Trainingsdaten des externen Modells jedoch nicht öffentlich, dürfen die tatsächlich verwendeten Datensätze nicht anhand von Vermutungen eingetragen werden. Kennzeichnen Sie vom Anbieter nicht offengelegte Informationen als „nicht verifiziert“ und erfassen Sie das Datum einer erhaltenen Antwort sowie die Kontaktstelle für Rückfragen. Die für die Suche genutzten internen Dokumente sind Daten, die von der Anwendung verwendet werden, und müssen getrennt von den Trainingsdaten des Modells behandelt werden.

Angegebene Informationen von tatsächlich verifizierten Informationen trennen

Eine vom Modellanbieter veröffentlichte Card, in einem Repository erkannte Abhängigkeiten und eine in den Produktionseinstellungen bestätigte Modell-ID sind allesamt „Zusammensetzungsinformationen“, beruhen aber auf unterschiedlichen Nachweisen. Wenn Sie Informationsquelle, Prüfdatum, verantwortliche Person und nicht verifizierte Punkte festhalten, wird später erkennbar, wo Aktualisierungen oder Rückfragen nötig sind. Auch wenn ein externer Dienst das tatsächlich verwendete Modell oder dessen Version nicht ausreichend offenlegt, sollten Sie die Informationen im Rahmen des Verfügbaren dokumentieren.

Bei der Prüfung von Code in der Entwicklung ist es wichtig, nicht allein aus dem Modellnamen in einer Konfigurationsdatei zu schließen, dass damit alle im Betrieb genutzten Pfade bekannt sind. Umgebungsvariablen oder Umschaltungen zur Laufzeit können dazu führen, dass ein anderes Modell aufgerufen wird. Gleichen Sie Referenzen im Code mit den Konfigurationen und Nutzungsprotokollen ab, die Sie mit entsprechender Berechtigung einsehen können, und klären Sie Abweichungen mit der verantwortlichen Person.

Mit einer einzelnen KI-Funktion beginnen

Legen Sie zunächst die betrachtete Funktion und die verantwortliche Person fest und erfassen Sie den Modellanbieter und die Modellkennung, die verwendeten Daten, die wichtigsten Abhängigkeiten und das Bereitstellungsziel. Dokumentieren Sie anschließend die Nachweise für jeden Punkt und lassen Sie nicht offengelegte Informationen als nicht verifiziert gekennzeichnet. Wenn Sie außerdem festlegen, wer bei Änderungen an Modellen oder Einstellungen für die Aktualisierung zuständig ist, bleibt die Bestandsaufnahme keine einmalige Maßnahme.

Darüber hinaus veröffentlichten CISA und die zuständigen G7-Stellen im Mai 2026 Leitlinien zu Mindestelementen für KI, die zusätzlich zu den allgemeinen SBOM-Mindestelementen berücksichtigt werden können. Diese werden nicht als erschöpfende oder verpflichtende Liste dargestellt.

CycloneDX und SPDX sind Optionen, um solche Informationen maschinenlesbar zu verarbeiten. Prüfen Sie anhand der tatsächlich eingesetzten Werkzeuge und der Vertragsbedingungen, welche Formate und Felder der Empfänger verarbeiten kann. Eine AI BOM dient als Entscheidungsgrundlage. Das bloße Erfassen von Informationen weist weder Sicherheit noch Rechtskonformität oder die Herkunft der Trainingsdaten nach. Bewertungen und eine Prüfung durch Menschen sind zusätzlich erforderlich.

Häufige Fragen

Wird eine SBOM überflüssig, wenn eine AI BOM vorhanden ist?

Nicht unbedingt. Softwareabhängigkeiten können in die Zusammensetzungsinformationen für KI aufgenommen werden. Ob alle benötigten Informationen abgedeckt sind, hängt jedoch vom Erstellungsformat und den verwendeten Werkzeugen ab. Prüfen Sie dies anhand des vorgesehenen Einsatzzwecks.

Sind die in einer Model Card angegebenen Trainingsdaten ein verifizierter Nachweis?

Eine Card enthält Angaben des Anbieters. Unterscheiden Sie, ob eine unabhängige Prüfung stattgefunden hat und wie weit die Offenlegung reicht, und behandeln Sie nicht überprüfbare Punkte als nicht verifiziert.

Wie Hi AUDIT Agent helfen kann

Nachdem Sie die Modell- und Datenkonfiguration in einer KI-BOM erfasst haben, lohnt es sich, auch die Sicherheit des Codes zu prüfen, der diese Funktionen ausführt. Mit Hi AUDIT Agent können Sie in einer MCP-kompatiblen Entwicklungsumgebung eine Analyse in natürlicher Sprache anfordern, zum Beispiel: „Prüfe die Sicherheit dieser API.“ Die markierten Stellen, die Begründungen der Befunde und die Korrekturvorschläge lassen sich in derselben Ansicht prüfen. So fällt der Übergang von der Bestandsaufnahme zur Codeprüfung leichter. Lassen Sie die Analyseergebnisse von einem Menschen validieren. Die Erstellung der KI-BOM und die Prüfung, ob die Konfiguration vollständig erfasst ist, müssen separat erfolgen.

Hi AUDIT Agent-Konto erstellen