'Deceptive Delight', une nouvelle méthode pour contourner les restrictions de modèles d'IA

"Deceptive Delight", où comment contourner les restrictions de modèles d'IA. Les chercheurs en cybersécurité de Unit 42 de Palo Alto Networks ont dévoilé une méthode d’attaque sophistiquée baptisée "Deceptive Delight". Cette technique insidieuse vise les modèles d'IA en exploitant des limitations contextuelles, introduisant discrètement des commandes nuisibles durant une interaction. Son taux de succès élevé (64,6 % en trois échanges) démontre la vulnérabilité des IA aux attaques subtiles, en particulier lorsqu’elles doivent analyser des intentions déguisées dans un cadre conversationnel.

Fonctionnement de "Deceptive Delight"

Plutôt qu’une approche frontale, "Deceptive Delight" intègre des commandes malveillantes de façon cachée, permettant de manipuler le modèle d’IA sans déclencher d’alerte. En injectant des requêtes malicieuses via des prompts déguisés, cette technique tire parti de la compréhension limitée des modèles, mettant en évidence les risques de manipulation lorsque les IA ne disposent pas de mécanismes de détection contextuelle poussés.

« Cette approche méthodologique consiste à filtrer et à extraire les termes clés de la cible, à construire des scénarios contextuels autour de ces termes, à intégrer dynamiquement la cible dans les scénarios, à remplacer les termes clés malveillants au sein de la cible et à dissimuler ainsi l'intention malveillante directe », 
a déclaré un groupe de chercheurs de l'Université Xidian et du 360 AI Security Lab dans un article publié en août 2024.

IBM Guardium AI Security : une protection de bout en bout pour l’IA

Face aux risques accrus pour les déploiements IA, IBM Guardium AI Security fournit une surveillance continue et automatisée des interactions avec les modèles d'IA. Cette solution aide les entreprises à anticiper les attaques et à répondre aux exigences de conformité grâce à des fonctionnalités avancées telles que l'évaluation des risques en temps réel, la gestion des modèles non recensés, et la génération de scores de criticité.

Guardium AI Security s’intègre également avec les outils de gouvernance d'IA, comme IBM watsonx.governance, pour offrir une vue unifiée de la sécurité des modèles. Conformément aux standards comme l'OWASP Top 10 pour les modèles de langage, Guardium permet de renforcer la sécurité et la conformité des IA dans des environnements complexes et souvent décentralisés. En détectant proactivement les risques et en proposant des mesures correctives, cette solution aide les organisations à minimiser les impacts potentiels des cyberattaques.

La nécessité d’une sécurité IA renforcée

Dans un contexte où des menaces comme « Deceptive Delight » révèlent des failles de sécurité significatives, l’intégration d’une solution comme IBM Guardium AI Security devient cruciale. En offrant une protection contre les manipulations subtiles et les accès non autorisés aux données, Guardium répond aux besoins actuels des entreprises face aux attaques sophistiquées, assurant ainsi la sécurité et l'intégrité des modèles d'IA.