Les problèmes d'intimité et de sécurité continuent de s'accumuler pour des IA chinois bourdonnants en profondeur. Après avoir bloqué l'accès pour les législateurs et les employés fédéraux dans plusieurs pays, tout en faisant des alarmes sur sa censure et ses garanties, il a maintenant attiré un avis officiel de l'agence d'espionnage de la Corée du Sud.
Le National Intelligence Service (NIS) du pays a ciblé la société d'IA sur une collecte excessive et des réponses douteuses pour des sujets sensibles à l'héritage coréen, selon Reuters.
« Contrairement à d'autres services génératifs d'IA, il a été confirmé que les enregistrements de chat sont transférables car il comprend une fonction pour collecter des modèles de saisie du clavier qui peuvent identifier les individus et communiquer avec les serveurs des sociétés chinoises telles que VolceApplog.com », a été cité que l'agence a été citée comme indiquant .
Cela vient après un avis gouvernemental demandant à différentes agences et ministères de bloquer l'accès des employés à Deepseek sur les alarmes de sécurité. L'Australie et Taiwan ont déjà mis en place de telles restrictions, et davantage de pays devraient emboîter le pas.
Le problème de base est que Deepseek offrait à ses partenaires publicitaires un accès ouvert aux données des utilisateurs, sur lesquels le gouvernement chinois peut également mettre la main, conformément aux lois locales. Selon le Korea Herald, le chatbot renvoyait également des réponses controversées aux questions sur des sujets géopolitiques culturellement sensibles et controversés.
Notamment, le chatbot fournit des réponses différentes lorsqu'on lui a posé la même question dans les langues coréennes et chinoises. Selon le Korea Times, l'agence effectuera d'autres tests pour évaluer les aspects de sécurité et de sécurité dans un avenir proche.
Bien que les problèmes de sécurité aient fait les gros titres comme la plus grande préoccupation de Deepseek, les experts s'inquiètent également des réponses qu'elle peut générer. Dans une analyse du Wall Street Journal, l'AI a craché des informations inquiétantes telles que la recette pour cuisiner des armes à bio, un manifeste de défense nazie et des encouragements d'automutilation.
Dans une analyse de son collègue géant d'IA Anthropic, le PDG de la société Dario Amodei a mentionné que Deepseek s'est avéré être le pire modèle d'IA dans leurs tests lorsqu'il s'agit de générer des informations extrêmement inquiétantes telles que la création de BioWear.
Il y a un peu plus d'une semaine, les chercheurs de Cisco l'ont également testé contre les outils de jailbreaking dans six catégories différentes, et il n'a pas bloqué chaque attaque. Dans une autre série de tests de Qualys, l'IA n'a pu rassembler qu'un taux de réussite de 47%.
Ensuite, il y a des préoccupations concernant la fuite de données sensibles et les partager sans aucune retenue. Les chercheurs en cybersécurité de Wiz ont récemment découvert plus d'un million de lignes d'historique de chat contenant des informations sensibles accessibles au public.
Deepseek a branché le défaut, mais son adoption commerciale reste un sujet de débat à chaud. Aux États-Unis, la NASA a déjà interdit aux employés d'utiliser Deepseek, tout comme la marine américaine. De plus, un projet de loi recherchant une interdiction profonde des appareils fédéraux est également sur la table.
