MITRE ATLAS : Réponse aux Menaces de Cybersécurité pour l'IA

L’intelligence artificielle (IA) est devenue essentielle dans de nombreux secteurs. Mais son adoption rapide expose les systèmes IA à des cyberattaques. Ces systèmes, bien qu’innovants, présentent des vulnérabilités inédites et les attaquants en profitent avec des techniques sophistiquées. Face à ces menaces, MITRE Atlas et la cybersécurité de l'IA sont des ressources clés. Elles permettent de détecter et de contrer les attaques spécifiquement dirigées contre l’IA. La plateforme fournit une vue d’ensemble des tactiques malveillantes. Elle propose aussi des techniques de défense adaptées. Cela aide les entreprises à protéger leurs infrastructures.

Qu'est-ce que MITRE Atlas ?

MITRE ATLAS, lancé en 2021, est une initiative dédiée à la cybersécurité de l’IA. Il se concentre sur les menaces cybernétiques visant ces systèmes. MITRE ATLAS fait partie de MITRE ATT&CK®, une base de connaissances qui documente les tactiques, techniques et procédures (TTPs) des attaquants. Contrairement à ATT&CK®, MITRE ATLAS cible les vulnérabilités propres aux systèmes IA et propose des moyens d’y répondre.

Le projet repose sur la collaboration entre experts en sécurité, chercheurs et professionnels de l’industrie pour partager leurs connaissances sur les menaces observées dans les environnements IA. Cela permet à la communauté de tirer des leçons des incidents réels. Grâce à ces informations, les défenses collectives s’améliorent.

Les nouvelles menaces dans l'IA : Exemples concrets

MITRE ATLAS se distingue par l’analyse des attaques spécifiques aux systèmes IA. En 2023, une faille a été découverte dans un plugin de ChatGPT. Les attaquants pouvaient injecter des sites web malveillants pour contrôler une session de chat et récupérer l’historique des conversations.

Un autre cas, connu sous le nom de PoisonGPT, a montré comment un modèle de langage pré-entraîné peut être modifié pour diffuser de fausses informations. Dans cette démonstration, le modèle empoisonné a été téléchargé sur un référentiel public accessible à tous, illustrant les risques potentiels pour la chaîne d'approvisionnement en IA. Ces incidents soulignent l'importance de sécuriser les systèmes IA tout au long de leur cycle de vie, depuis leur entraînement jusqu'à leur déploiement​.

L'IA face à sa propre sécurité

Les systèmes IA posent des défis particuliers en cybersécurité. Ils sont vulnérables aux attaques classiques (injections de code ou dénis de service) et aux attaques qui exploitent leurs spécificités. Par exemple, une attaque contre un modèle de langage comme MathGPT a permis de manipuler des variables d’environnement et des clés d’API. Cela a mis en danger la sécurité et les ressources financières des utilisateurs.

Pour répondre à ces menaces, MITRE ATLAS documente ces incidents réels et propose des stratégies de mitigation. Cela permet aux professionnels de la cybersécurité d’être mieux préparés face à des attaques qui ciblent spécifiquement des systèmes alimentés par l'IA.

La réponse de MITRE : Stratégies de défense et collaboration

MITRE ATLAS ne se limite pas à la simple documentation des attaques. L'initiative propose également des mesures concrètes pour renforcer la sécurité des systèmes IA. Une collaboration active entre chercheurs, gouvernements, et entreprises permet de partager des données d'incidents en temps réel, contribuant à un enrichissement constant de la base de connaissances.

MITRE ATLAS encourage aussi l’adoption de pratiques de sécurité rigoureuses pour les chaînes d’approvisionnement en IA. Cela inclut la création de "factures d'ingrédients IA" et des meilleures pratiques en matière de provenance des modèles. L’objectif est de s’assurer que les modèles ne soient pas compromis.

MITRE ATLAS et l'avenir de la cybersécurité IA

Les récentes avancées en 2024 montrent que MITRE ATLAS continue d'évoluer pour répondre aux défis émergents dans l'espace IA. En intégrant des menaces liées à des systèmes tels que les modèles génératifs (comme ChatGPT) et en documentant des stratégies de défense, l'initiative se positionne comme un leader dans le domaine de la sécurité IA.

L’intégration des techniques d’Atlas avec le cadre plus large de MITRE ATT&CK est essentielle. Cette fusion permet de suivre les TTPs des attaquants plus précisément. Elle aligne également les techniques de détection et de réponse. Avec la montée en puissance des modèles IA dans des secteurs critiques (santé, industrie, infrastructures), MITRE ATLAS fournit des outils indispensables pour sécuriser ces environnements.

L'IA est un atout précieux, mais elle ouvre aussi la voie à de nouvelles menaces. Avec des initiatives comme MITRE ATLAS, la communauté de la cybersécurité dispose d'outils et de connaissances pour anticiper, détecter et contrer ces attaques sophistiquées. Alors que les systèmes IA deviennent omniprésents, la sécurité de ces systèmes doit être une priorité, et MITRE ATLAS joue un rôle clé dans cette défense.

Sources : MITRE Engenuity, Industrial Cyber, Center for Threat-Informed Defense