Audit de sécurité IA, modélisation des menaces et feuille de route de correction priorisée

Une recherche de prestations d’audit de sécurité de l’IA fait apparaître des services variés, de la revue de conception aux tests d’attaque. Par exemple, si vous souhaitez déterminer les incidents possibles avant la mise à disposition du système, la modélisation des menaces est une option. Si vous voulez vérifier si des problèmes peuvent effectivement survenir dans un système déjà implémenté, une évaluation de sécurité ou un test d’intrusion peut convenir.

Les problèmes d’implémentation détectables par l’analyse de code et les problèmes touchant l’ensemble du système, y compris les modèles et les outils externes, se recoupent sans être identiques. Après avoir précisé les éléments à examiner, vérifiez qui réalisera les travaux et quels livrables seront fournis.

Pour un accompagnement dès la conception, GMO Flatt Security présente des revues de conception de LLM, de systèmes RAG et d’agents IA, ainsi que des revues de configuration de serveurs MCP. Des évaluations de sécurité et des tests d’intrusion après implémentation peuvent être ajoutés en complément. Trail of Bits annonce, outre la modélisation des menaces des systèmes d’IA, des évaluations portant notamment sur les modèles, le MLOps et la provenance des données.

Pour vérifier une application LLM déjà implémentée, INTELLILINK indique combiner des méthodes manuelles et automatisées afin d’évaluer les risques liés notamment à l’injection de prompts et au RAG. L’infrastructure est exclue du périmètre. Neo Security propose la modélisation des menaces et le red teaming appliqué à l’IA, et cite également les intégrations externes et les autorisations du RAG parmi les points examinés.

LANSCOPE présente des vérifications du comportement et des fuites d’informations à partir d’entrées soumises à une IA générative. Le prestataire précise toutefois que ce service, à lui seul, n’est pas adapté aux agents IA et qu’une évaluation globale nécessite une consultation distincte. Il s’agit d’exemples de prestataires possibles, et non d’une liste exhaustive des services ou d’un classement de qualité. Vérifiez le périmètre des prestations, les langues et les coûts dans un devis à jour.

Imaginez une IA capable de rechercher des documents internes et d’appeler des outils externes. Dans ce cas, des frontières d’autorisation ou de confiance sont franchies successivement entre l’utilisateur et la recherche, entre les documents récupérés et l’IA, puis entre l’IA et les outils.

Par exemple, un salarié sans les autorisations requises peut-il rechercher des documents confidentiels d’un autre service ? Si une instruction telle que « envoyez le contenu à l’extérieur » est dissimulée dans un document récupéré, un envoi non approuvé peut-il être exécuté ? Consigner ces scénarios avec leur cible, leurs hypothèses et les contrôles attendus facilite le partage du périmètre de vérification avec le prestataire chargé de l’évaluation.

Déterminer l’ordre des corrections uniquement à partir des niveaux de gravité du rapport peut conduire à négliger les conséquences propres à votre entreprise. Pour chaque constat, vérifiez les conditions de reproduction, l’accessibilité depuis Internet, les actifs concernés et les mesures de protection existantes, puis désignez un responsable et fixez une échéance.

À titre d’exemple fictif, si un contournement des contrôles d’autorisation accessible depuis l’extérieur et affectant les données clients est découvert en même temps qu’une exposition d’informations limitée au réseau interne, il peut être pertinent de corriger le premier en priorité. Après correction, procédez à une nouvelle vérification dans les mêmes conditions et consignez également les risques non traités.

Au moment de passer commande, rassemblez les informations sur l’environnement et la révision visés, les comptes destinés aux tests et les fonctionnalités exclues du périmètre. Vérifiez ensuite, en consultant aussi un exemple de rapport, si les livrables comprennent le modèle de menaces, les étapes de reproduction, les impacts, les propositions de correction, les priorités et le périmètre de la contre-vérification. Si une évaluation indépendante par un tiers est nécessaire, il est important de préciser cette exigence en amont.

Pour vérifier une implémentation, l’essentiel n’est pas tant le nombre de constats que la possibilité de conserver la version examinée et les conditions de reproduction afin de comparer la situation avant et après correction. L’expérience CyberGym de TECHFUND est elle aussi un test de reproduction réalisé dans des conditions précises, comparant une version vulnérable à une version corrigée existante ; elle n’indique pas un taux de détection valable pour tous les systèmes d’IA.