Grok, le chatbot IA soutenu par Elon Musk et intégré au tissu X, a commencé à confier ses outils de génération et d'édition d'images aux abonnés payants. Ce changement fait suite à un raz-de-marée de critiques concernant la capacité de l’outil à produire des images sexualisées non consensuelles. Bien que cette restriction soit clairement une tentative d'endiguer la vague de controverse, les régulateurs, les groupes de défense et les utilisateurs affirment qu'elle ne fait pas grand-chose pour arrêter la création de contenus préjudiciables et potentiellement illégaux impliquant des femmes et des enfants.
À partir de jeudi soir, Grok a officiellement déplacé ses fonctionnalités de création d'images derrière le paywall X Premium, qui commence à 8 € par mois.
Cependant, cette décision a été largement ridiculisée comme une solution « qui fuit ». Bien que les utilisateurs occasionnels sur X puissent être bloqués, les outils de génération restent totalement accessibles via le site Web autonome et l'application mobile de Grok. Cette faille va effectivement à l'encontre de l'affirmation de la plateforme selon laquelle elle prend une position ferme contre les abus, laissant les outils les plus dangereux toujours à la portée du grand public.
Les chercheurs en sécurité et les organismes de surveillance du numérique ne sont pas convaincus qu'une exigence de carte de crédit résout le problème. En fait, nombreux sont ceux qui affirment que cela monétise les abus. Selon Genevieve Oh, chercheuse en deepfake, Grok diffusait toujours plus de 1 500 images nuisibles chaque heure, même après la mise en ligne du paywall, ce qui représentait environ 60 % de sa production totale d'images publiques. Les données d'Oh suggèrent que Grok génère actuellement du contenu sexualisé à un rythme qui éclipse même les sites Web dédiés au « nudify » les plus notoires.
Les conséquences ont atteint les plus hauts niveaux du gouvernement américain
Les sénateurs démocrates Ron Wyden, Edward J. Markey et Ben Ray Luján ont récemment envoyé une lettre aux PDG d'Apple et de Google, exigeant que X soit retiré de leurs magasins d'applications respectifs. Les sénateurs ont fait valoir qu’en permettant à ces outils de persister, X montre un « mépris total » pour les règles de sécurité que tous les autres développeurs d’applications sont obligés de suivre.
La pression internationale atteint également un point d’ébullition. Les responsables britanniques et indiens ont qualifié le paywall de réponse inadéquate. Un porte-parole du Premier ministre britannique a qualifié cette décision d’« insultante » envers les victimes, suggérant que X transforme simplement une crise de sécurité en une source de revenus premium. Les victimes ont partagé des histoires similaires ; La militante Jess Davies a rapporté que Grok était toujours capable de « déshabiller » numériquement une photo d'elle via son application autonome vendredi matin, malgré les prétendues restrictions.
Il est intéressant de noter que la controverse semble donner un coup de pouce financier pervers à la plateforme.
Les estimations de Sensor Tower montrent que les revenus des achats mobiles intégrés sur X ont bondi de 18 % rien que jeudi. Ce pic dépasse de loin la croissance quotidienne typique de l'application, ce qui suggère que la volonté d'accéder au « mode épicé » de Grok pourrait en fait aider les résultats financiers en difficulté de X.
Les experts juridiques préviennent que ces demi-mesures ne tiendront pas longtemps devant les tribunaux. Le procureur général de Caroline du Nord, Jeff Jackson, a qualifié la situation de Grok de « tournant » pour la sécurité de l'IA, soulignant avec quelle facilité ces systèmes peuvent être transformés en armes. Il a fait valoir que l’ère du « agir vite et casser les choses » se heurte à un mur lorsqu’il s’agit de la dignité et de la sécurité des citoyens privés.
Alors que les murs se rapprochent, X est confronté à un choix difficile : mettre en œuvre de véritables garde-fous techniques codés en dur ou faire face à une panne totale dans les principaux magasins d'applications et sur les marchés internationaux. Le fait qu’Elon Musk choisisse de renforcer le logiciel lui-même – plutôt que simplement l’accès à celui-ci – déterminera si Grok a un avenir en tant qu’outil légitime ou s’il devient un paria de l’ère de l’IA générative.
