DeepSeek : Une Intelligence Artificielle sous le Feu des Critiques

DeepSeek, une application d’intelligence artificielle développée par les entreprises chinoises Hangzhou DeepSeek Artificial Intelligence et Beijing DeepSeek Artificial Intelligence, est actuellement au cœur d’une polémique internationale. Plusieurs pays et organisations ont exprimé des inquiétudes majeures concernant la protection des données personnelles et la sécurité des utilisateurs, conduisant à des interdictions et des enquêtes officielles :

Pourquoi DeepSeek suscite l’inquiétude

Le modèle d’IA DeepSeek a été développé avec un budget annoncé de seulement 6 millions de dollars, un chiffre étonnamment bas en comparaison aux 100 millions investis dans ChatGPT, le célèbre LLM d'OpenAI. Cette disparité a semé le doute chez les investisseurs, qui s’interrogent sur la nécessité de tels montants dans l’entraînement des modèles d’intelligence artificielle.

Cependant, Alexander Wang, PDG de Scale AI, a affirmé que DeepSeek aurait en réalité utilisé plus de 50 000 puces Nvidia, un volume bien supérieur à celui annoncé par la startup. Si cette information se confirme, elle soulèverait une autre controverse : la possible violation des restrictions d’exportation de ces composants vers la Chine. DeepSeek aurait-il contourné les réglementations en vigueur, ou assistons-nous à une surrévaluation des coûts par d’autres acteurs de l’IA ? En l’absence de preuves concrètes, le débat reste ouvert.

L’Italie bloque DeepSeek pour non-transparence

En Italie, l’Autorité de protection des données personnelles a ordonné le blocage immédiat de DeepSeek. Cette décision radicale fait suite au refus des entreprises responsables de l’application de fournir des informations précises sur les types de données collectées et utilisées pour entraîner leur intelligence artificielle.

L’organisme italien a exprimé des inquiétudes quant à la possibilité que DeepSeek puisse accéder à des informations sensibles sans le consentement explicite des utilisateurs. Cette opacité a mené au lancement d’une enquête approfondie afin de déterminer si l’application respecte les réglementations européennes en matière de protection des données, notamment le RGPD. En attendant les résultats, l’accès à DeepSeek est suspendu sur le territoire italien.

(Source)

Taïwan met en garde contre DeepSeek pour des raisons de sécurité nationale

À Taïwan, le ministère des Affaires numériques a officiellement recommandé aux différentes agences gouvernementales de ne pas utiliser DeepSeek. Cette mise en garde repose sur des préoccupations sécuritaires liées à la transmission transfrontalière des données.

Les autorités taïwanaises craignent que l’application, en raison de son développement en Chine, puisse être exploitée pour collecter des informations sensibles sur les utilisateurs et les transmettre à des entités extérieures. Ces inquiétudes s’inscrivent dans un contexte géopolitique tendu entre Taïwan et la Chine, où la cybersécurité est un enjeu stratégique de premier plan. Cette décision s’aligne sur une politique plus large visant à limiter la dépendance aux technologies chinoises suspectées de représenter un risque pour la souveraineté des États.

(Source)

Une plainte déposée en France pour violation du droit à la vie privée

En France, l’organisation de défense des consommateurs Testachats a déposé une plainte officielle contre DeepSeek auprès de l’Autorité de protection des données (APD). L’association reproche à l’entreprise chinoise de ne pas respecter plusieurs principes fondamentaux du droit à la vie privée.

Parmi les points soulevés figurent le manque de transparence sur le transfert des données des utilisateurs, l’absence de garanties claires sur la protection des mineurs et des pratiques de profilage jugées abusives. Testachats estime que ces manquements pourraient contrevenir aux exigences du RGPD et demande des mesures immédiates pour contraindre DeepSeek à se conformer aux règles en vigueur dans l’Union européenne.

(Source)

L’Union Européenne se mobilise contre les IA jugées dangereuses

Face à la multiplication des inquiétudes autour des technologies d’intelligence artificielle, l’Union européenne a intensifié ses efforts pour encadrer les systèmes susceptibles de compromettre la sécurité, la santé ou la confidentialité des citoyens.

Bruxelles a récemment fixé une échéance aux entreprises développant des IA jugées potentiellement dangereuses : elles ont jusqu’au 2 février pour retirer ces systèmes du marché sous peine de sanctions financières. Cette initiative s’inscrit dans une volonté de durcir la régulation du secteur, à l’heure où les modèles d’IA se démocratisent rapidement et peuvent parfois échapper aux contrôles éthiques et juridiques.

(Source)

Gestion des données et responsabilités légales : une zone grise

DeepSeek semble avoir réduit ses coûts en ne filtrant pas systématiquement certaines informations lors du traitement des données.

Il est important de souligner que si les modèles DeepSeek R1 Zero et R1 sont en “open weights”, ce n’est pas le cas de DeepSeek V3, leur modèle d'entraînement principal. 

Quelle différence entre Open Source 🟢 et Open Weights ⚖️ ?

1. Open Source 🟢

Un modèle open source signifie que son code, ses poids et souvent ses données d’entraînement sont publiquement accessibles. Cela permet à tout le monde de :

• Modifier le code du modèle.
• Réentraîner le modèle sur de nouvelles données.
• L’utiliser librement, parfois sous certaines conditions de licence.

Exemple : Meta Llama 2 (dans sa version 7B et 13B) est un modèle open source, car Meta a publié non seulement ses poids, mais aussi le code permettant de l’exécuter.

2. Open Weights ⚖️

Un modèle open weights signifie que seuls les poids du modèle sont accessibles, mais pas forcément son code source ou ses données d'entraînement.
Cela permet :

• D’exécuter le modèle sans avoir à l’entraîner soi-même.
• De l’intégrer dans des applications, tant que cela respecte la licence.
• Mais pas de l’adapter facilement ni de comprendre comment il a été entraîné.

Cependant, un modèle open weights peut toujours être soumis à certaines restrictions, comme l'interdiction de l'utiliser pour certains usages commerciaux.

Exemple : DeepSeek R1 est un modèle open weights, car ses poids sont disponibles sous licence MIT, mais ses données d’entraînement restent inconnues.

DeepSeek V3 repose sur une licence propriétaire précisant que le modèle peut contenir des informations personnelles ainsi que des œuvres protégées par des droits d’auteur. La licence stipule également que la responsabilité du respect des réglementations, notamment le RGPD et les droits d’auteur, incombe aux utilisateurs de DeepSeek V3, et non à l’entreprise elle-même. Cette situation pose un risque, car des éléments protégés pourraient se retrouver indirectement dans les modèles R1, dont le code et les poids sont sous licence MIT, bien que les données utilisées pour leur entraînement ne le soient pas.

Enfin, le développement de DeepSeek V3 et R1 s’appuie sur le travail de plus de 200 chercheurs, dont les noms apparaissent dans les publications scientifiques associées. Même en supposant que leurs salaires soient inférieurs à ceux pratiqués aux États-Unis, le financement d’une telle équipe représente un coût significatif qui doit être pris en compte dans le modèle économique de la startup.

(Source)

DeepSeek accusé de plagiat par OpenAI

En parallèle des accusations de non-respect de la confidentialité des données, DeepSeek se retrouve également sous le feu des critiques pour une affaire de plagiat. OpenAI, l’entreprise derrière ChatGPT, a publiquement accusé DeepSeek d’avoir copié ses modèles d’intelligence artificielle.

Les détails techniques de cette accusation ne sont pas encore entièrement dévoilés, mais OpenAI affirme que certaines structures algorithmiques et comportements des réponses générées par DeepSeek présentent des similarités troublantes avec ses propres modèles propriétaires. Cette affaire soulève d’importantes questions sur la protection de la propriété intellectuelle dans le domaine de l’IA et pourrait conduire à des actions en justice.

(Source)

Les risques d’utiliser DeepSeek : Ce que les utilisateurs doivent savoir

L’utilisation de DeepSeek comporte plusieurs risques majeurs, qui concernent à la fois les particuliers et les professionnels.

1. Risques pour les utilisateurs lambdas

• Fuite de données personnelles : DeepSeek pourrait collecter des informations sensibles, telles que des historiques de conversation, des adresses IP et des préférences personnelles, sans réelle transparence sur l’usage qui en est fait.
• Profilage abusif : L’IA pourrait analyser les habitudes et comportements des utilisateurs pour créer des profils détaillés à des fins commerciales ou de surveillance.
• Absence de garanties sur la confidentialité : Contrairement à d’autres modèles conformes au RGPD, DeepSeek ne fournit pas d’assurance sur l’anonymisation des données.

2. Risques pour les professionnels et les entreprises

• Exposition des informations sensibles : Les entreprises utilisant DeepSeek pour le traitement de données confidentielles (RH, juridique, finance) courent un risque de fuite d’informations stratégiques.
• Potentielles failles de cybersécurité : En cas d’exploitation malveillante, des hackers pourraient intercepter des communications et récupérer des informations critiques.
• Non-conformité au RGPD et aux réglementations locales : L’utilisation d’une IA non conforme aux standards européens peut exposer une entreprise à des sanctions juridiques et financières.

Conclusion et recommandations : Faut-il utiliser DeepSeek ?

Au vu des risques et des controverses entourant DeepSeek, nous recommandons d’adopter une approche prudente.

• Pour les particuliers : Privilégiez des alternatives reconnues et conformes aux réglementations en vigueur. Évitez de partager des informations personnelles ou sensibles avec l’application.
• Pour les professionnels : Évitez d’utiliser DeepSeek dans un cadre professionnel, en particulier pour la gestion de données stratégiques ou confidentielles. Optez pour des solutions d’IA certifiées et sécurisées.
• Restez informé : Les réglementations et ce dossier évoluent rapidement. Suivez les mises à jour des autorités de protection des données pour savoir si DeepSeek devient conforme aux exigences internationales.