L'industrie de l'IA est en effervescence avec des bavardages sur un nouveau modèle de grande langue qui porte le combat aux meilleurs chiens de l'industrie comme Openai et Anthropic. Mais non sans sa généreuse part de surprises. Le nom est Deepseek.
Il sort de la Chine. C'est open source. Plus important encore, il a été développé à une fraction du coût par rapport à ce que les leaders actuels de l'industrie d'Openai, de Meta et de Google ont brûlé.
Les open source et les coûts à faible coût sont une concoction d'IA irrésistible.
Dans le sillage du bavardage d'experts et du buzz Wall Street, Nvidia – le suzerain du matériel AI – a vu près de 600 milliards de dollars essuyé sa part de marché. Openai Backer et Microsoft Chief, Satya Nadella, parle du paradoxe des Jevons.
L'arrivée Deepseek est même assimilée au moment Spoutnik, mais pas sans doutes plus profonds. La plus grande préoccupation est de savoir comment l'entreprise stockait une énorme partie de données utilisateur dans les serveurs basés en Chine, une stratégie qui a trempé Tiktok dans l'enfer d'une interdiction nationale.
Il existe cependant un autre aspect de Deepseek qui imite la version chinoise d'un Internet étroitement contrôlé. Censure.
«La modélisation des récompenses dans le modèle est fortement influencée par les lois sur la censure chinoise», ajoute Hunt, qui a travaillé chez Engineering Powerhouses comme la NASA, SpaceX, Amazon et Meta.
Comment Deepceek embrasse la censure
« Désolé, c'est au-delà de ma portée actuelle. »
« Parlons d'autre chose. »
«Je ne sais pas encore comment aborder ce type de question. Discutons à la place des problèmes de mathématiques, de codage et de logique! »
Ce sont quelques-unes des réponses que vous obtenez lorsque vous abordez des sujets tels que les droits de l'homme ouïghour, la secte religieuse de Falun Gong, le retrait de l'ancien chef Hu Jintao, la provocation des troupes dans le territoire de Galwan en Inde, ou les moines tibétains qui se battent pour la liberté.
Ce sont tous des sujets fortement censurés sur l'écosystème Internet chinois et les sites de médias sociaux. Le grand pare-feu de Chine, comme ils l'appellent.
Des événements comme le massacre de Tiananmen sont interdits. Même des mentions indirectes, comme «l'homme qui se tenait devant les réservoirs», se référant à l'image emblématique d'un manifestant bloquant la marche des réservoirs, renvoie un non-réponse.
La stratégie n'est pas surprenante. En octobre de l'année dernière, les régulateurs Internet chinois ont même commencé une répression contre les mèmes, les jeux de mots, les blagues, les jeux de mots et les homophones essayant de contourner des sujets interdits.
La mention de sujets comme Winnie the Pooh – fortement censuré en Chine en raison d'un vieux mème qui a attiré la similitude du personnage avec le premier ministre Xi Jinping – sont strictement interdits.
Cela peut faire une blague sur le président américain Donald Trump et son amour pour l'argent. Il ne fera pas de même même si vous essayez «Xi Dada» dans la même invite de demande. « Parlons d'autre chose », revient Deepseek.
Mais contrairement au grand pare-feu, nous avons affaire à un grand modèle de langue ici. Il n'effectue pas toujours des mots ou des hachages pour détecter et bloquer automatiquement les conditions d'infraction. La situation avec Deepseek est un peu délicate.
Sur la base de son ensemble de données de formation, il refuse carrément de répondre à quelques sujets. Dans quelques cas, cependant, il commencerait à composer une longue réponse comme un chatbot typique, mais s'arrête à mi-chemin et renvoie son message d'erreur répétitif. Comme nous l'avons vu avec Chatgpt, c'est un type de jailbreak pour Deepseek qui contourne ses restrictions typiques.
Cela ressemble à un flub. Pourtant, en même temps, trouver la portée complète de la censure dans Deepseek est un tricot que de passer par une liste définie par l'État de sujets bloqués et de contenu interdit.
Pour une poignée d'autres sujets tels que les droits à l'avortement, la représentation LGBTQ et le féminisme, il peint une image fleurie du gouvernement chinois, qui contredit les réalités terrestres.
Cela réside également, semblable aux réponses que nous voyons habituellement des médias d'État ou des responsables de l'ambassade. Sur certains sujets, il réécrit entièrement la vérité et chante la gloire du gouvernement, contredisant la vérité découverte par les journalistes, les dénonciateurs et les organisations de droits de l'homme.
Deepseek est intrinsèquement indulgent à la Chine, mais «accepte» parfois quelques vérités largement connues. En un mot, ce n'est pas un outil de recherche fiable dans la même veine que la recherche approfondie par les Gémeaux.
Pourquoi Deepseek est-il problématique?
« Bien que l'on puisse éventuellement affiner R1 pour lui apprendre à répondre à toutes les questions, je suis contre ce type de censure sur le modèle de base car cela pourrait le biaiser en étant pro-china sur d'autres questions que les utilisateurs posent », dit-il. «Cela n'a aucun problème à parler de la controverse américaine.»
Broadridge, une entreprise basée à New York qui s'est classé troisième au classement fintech 2024 d'IDC, a expérimenté Deepseek et dit que la société a été impressionnée par sa qualité.
La sécurité, cependant, reste une préoccupation. «C'est notre point de vue à Broadridge que le service hébergé de Deepseek ne devrait être utilisé pour aucune application au sein des services financiers en raison de son traitement dans les zones non américaines», ajoute Lo.
Il n'est pas le seul leader de l'industrie préoccupé par les risques de confidentialité. Aleksandr Yampolskiy, un membre du conseil de Forbes qui a dirigé les efforts de sécurité chez Oracle et Goldman Sachs, a également recommandé la prudence.
« Nous pouvons certainement avoir une possibilité que des logiciels espions chinois stockent toutes les intrants et que ce soit une approche de » cheval de Troie « plus dangereuse que Tiktok », prévient-il. Pour rappeler, Tiktok a attiré la chaleur non seulement sur le stockage des données en Chine, mais aussi sur son rôle présumé dans l'influence des élections.
Ben Walker, chef de Ditto, affirme que les entreprises qui déploient Deepseek avec sa nature censure intacte, pourraient faire face à une chaleur légale et réglementaire. Il a cité l'exemple des services de transcription que son entreprise fournit, s'adressant aux cabinets d'avocats, aux instituts universitaires, aux services de police et aux agences fédérales.
Les entreprises sont-elles prêtes pour Deepseek?
L'arrivée de Deepseek a non seulement ébranlé le cercle de la technologie de l'IA, mais a également fait écho parmi les meilleurs échelons de la bureaucratie, jusqu'au président Trump. Les sanctions commerciales de ce dernier pourraient entraver le chemin parcouru par la Chine dans la race de l'IA.
Au cours de la deuxième semaine de janvier, le gouvernement américain a annoncé de nouvelles règles d'exportation de «diffusion de l'IA» qui visent à limiter l'accès de la Chine au matériel avancé (lire: le type de choses qui ont transformé Nvidia en un géant de milliards de dollars) et des modèles AI. Trump semble déterminé à faire exactement cela.
« Trump peut garder l'avantage de l'IA de l'Amérique », explique un titre du Wall Street Journal, écrit par le fondateur et chef d'Anthropic, Dario Amodei. «La Chine essaie de rattraper son retard. Les États-Unis ont besoin d'efforts de développement proactifs et de solides contrôles d'exportation. »
Deepseek a, en termes littéraux, donné la forme de ces peurs. Et c'est juste le premier à le faire.
« La publication de Deepseek, l'IA d'une entreprise chinoise devrait être un appel au réveil pour nos industries que nous devons être axées sur le laser en compétition pour gagner », a déclaré Trump, cité par Reuters.
Les derniers bords commerciaux, qui reflètent la stratégie qui a récemment paralysé le géant chinois Huawei, a du sens d'un point de vue centré sur les États-Unis. Si l'ombre de la Chine est apparente sur les produits d'IA intérieurs, qui sont considérablement moins chers et à la performance, qu'est-ce qui pourrait arrêter leur adoption dans le reste du monde?
Eh bien, il existe des risques tangibles en jeu pour les entreprises. Steven Hall, membre consultatif du Consortium for Information & Software Quality et chef de l'IA du groupe des services d'information, note que la mise à l'échelle d'un produit d'IA convivial de censure sera plus difficile pour les affaires et comporte une multitude de risques.
L'image profonde
Le lobby technologique, en particulier le proverbial des dirigeants de l'IA, «Kiss of the Ring» est ouvertement effronté. Mis à part les dons personnels, la présence de clichés à chaud de la technologie comme Sam Altman d'Openai, Elon Musk, le chef de Google Sundar Pichai, Mark Zuckerberg de Meta, Tim Cook d'Apple et le fondateur d'Amazon Jeff Bezos étaient un signe clair que les joueurs de l'IA ont besoin de quelque chose – une sorte de sorte de Contrôle, ou assurance, que seule la bureaucratie peut garantir afin qu'ils puissent traire leur tarif d'IA sans craindre que les arrivants chinois ne mangent leur déjeuner.
Cependant, les règles et les sanctions commerciales complexes nuiront également aux acteurs locaux avec la conformité. L'expansion à l'étranger, les frais juridiques et la R&D mondiale leur feront également du mal.
« La seule différence que je considère comme une caractéristique déterminante est que la Chine passe beaucoup moins de temps et d'efforts en faisant semblant et prétendant publiquement de ne pas essayer de Banzai bureaucrates dans leurs meilleures entreprises », ajoute Greenspan.
Le problème avec cette course et le battage médiatique de la Chine »est qu'il n'y a pas de gagnant clair. Il n'y aura jamais.
Les États-Unis ont fait de son mieux pour limiter les progrès de la Chine dans la race EV. Pourtant, les goûts de BYD ont réussi à battre Tesla, en termes de livraisons, ainsi que des revenus. Tesla n'est même pas un leader dans la métrique trop importante de la gamme EV.
La Chine a également battu les États-Unis en termes d'articles de recherche de haute qualité au cours des deux dernières années – dans différents domaines. L'IA se trouve être l'une d'entre elles. Les observateurs de l'industrie disent que nous rayons à peine la surface avec Deepseek.
D'autres percées de celles de la Chine, portées des géants de la technologie ainsi que des laboratoires obscurs, seront bientôt là. Lorsque cela se produit, il serait intéressant de voir si la sécurité reste la préoccupation plus large ou que la censure apparaît comme la nouvelle bannière alarmiste.
Pour un outil qui est intrinsèquement un prédicteur de mot, Deepseek est un signal clair que le bavardage de censure ne fera que devenir plus intense que nous démêlez comment il affecte ce qu'un outil d'IA génératif est censé faire et ce qu'il finit par fournir.
