Plus tôt cette semaine, Meta a annoncé deux nouveaux produits d'IA, à savoir Muse Image et Muse Video. Comme leur nom l'indique, il s'agit d'outils d'IA génératifs permettant de créer des photos et des clips vidéo à l'aide d'invites de texte en langage naturel. Peu de temps après le début de leur déploiement, ces outils ont suscité la controverse parce que Meta avait automatiquement activé les utilisateurs d'Instagram, permettant à d'autres d'utiliser leurs médias publiés publiquement et de les convertir en contenu d'IA remixé. Mais il semble que Meta ait courtisé une autre perte de son côté du terrain.
Quel est le problème ?
Parallèlement à ses nouveaux outils d'IA, Meta a introduit quelque chose appelé Content Seal, qui sert de système de filigrane invisible. Techniquement, toutes les images créées par Muse Image AI portent un signal caché qui peut être utilisé pour identifier si elles ont été réalisées à l'aide de l'IA ou non. Pour accompagner cela, la société a également lancé son propre outil d’identification par IA, capable de lire ce filigrane invisible Content Seal. Mais il semble que l’outil de détection de l’IA de Meta ne soit pas aussi précis que le prétend l’entreprise.
Selon une analyse de Reuters, les images réalisées à l'aide de Muse Image AI de la société ne peuvent pas être détectées de manière fiable comme étant générées par l'IA par le logiciel d'identification d'IA de Meta. Le média a analysé 40 images créées par Muse Image, mais dans seulement 45 % des cas, il a pu identifier qu'elles avaient été créées à l'aide de l'IA. Dans les 55 % des cas restants, lorsque les images ont été recadrées à un tiers ou un quart de leur taille d'origine, l'outil de détection d'IA développé par Meta a tout simplement échoué.
Oh, ouais. C'est embarrassant !
C'est une erreur notable. Sur son site Web, Meta affirme que le système Content Seal comporte un « signal de provenance caché qui reste intact, même lorsqu'il est recadré, compressé, redimensionné ou capturé. » Suite à l'analyse de Reuters, Meta a déclaré au média que son outil de détection d'IA est toujours en aperçu et qu'il ne peut pas fonctionner de manière fiable lorsqu'une photo est « fortement recadrée ». Sur une page FAQ disponible sur son site de détection d'IA, Meta indique également clairement que si une image a été générée à l'aide d'un produit d'IA tiers au lieu de Muse Image, l'outil de détection ne fonctionnera pas.
Meta ne sera pas le seul géant de l'IA à avoir créé un système comme Content Seal. Google dispose déjà d'un système de détection d'images et de filigrane d'IA appelé SynthID. Il a également été adopté par OpenAI. Cela signifie que si une image est générée à l'aide de ChatGPT ou Gemini, elle porte le filigrane invisible SynthID et peut être détectée à l'aide du propre outil d'identification IA de Google, également désormais disponible dans la recherche Google. Cependant, Google précise également que SynthID n’est pas infaillible à 100 %.
