Repérer une image générée par l'IA devient de plus en plus difficile de jour en jour. OpenAI veut changer cela, et il utilise Google en tant que partenaire pour accomplir cette tâche colossale.
OpenAI a annoncé une mise à jour importante de la façon dont il gère la provenance du contenu, qui n'est qu'une façon élégante de dire comment vous pouvez savoir d'où vient une image et si elle a été générée par l'IA.
La mise à jour comprend trois éléments clés : la conformité C2PA, un nouveau partenariat de filigrane avec Google et un outil public que vous pouvez utiliser pour vérifier vous-même les images.
Alors, qu’est-ce qui change réellement ?
OpenAI ajoute des métadonnées, appelées Content Credentials, aux images générées par ses outils depuis 2024. Ces métadonnées sont intégrées dans toutes les images générées et vous indiquent comment elles ont été créées. La société est désormais devenue un générateur conforme C2PA, ce qui signifie que d'autres plates-formes peuvent lire et trouver les informations de manière fiable lorsqu'elles rencontrent du contenu généré par OpenAI.
La plus grande nouveauté est le partenariat avec Google. OpenAI ajoute désormais le filigrane SynthID de Google DeepMind aux images générées via ChatGPT et l’API OpenAI. Contrairement aux métadonnées, qui peuvent être supprimées lorsque vous capturez ou téléchargez à nouveau une image, SynthID intègre un filigrane invisible directement dans l'image. Il est conçu pour survivre aux transformations qui peuvent généralement effacer la détection basée sur les métadonnées.
Les deux systèmes fonctionnent ensemble. Les métadonnées contiennent des informations détaillées sur l'origine de l'image, tandis que le filigrane agit comme une sauvegarde lorsque les métadonnées n'y parviennent pas.
Comment vérifier si une image est générée par l’IA ?
OpenAI présente un aperçu d'un outil de vérification public sur openai.com/verify. Vous pouvez télécharger une image et l'outil vérifiera à la fois les informations d'identification de contenu et les filigranes SynthID pour déterminer si elle a été générée à l'aide des outils d'OpenAI.
Une mise en garde importante : si l'outil ne trouve aucun filigrane ou métadonnées, il ne dira pas définitivement que l'image n'est pas générée par l'IA. En effet, le filigrane et les métadonnées peuvent toujours être usurpés.
De plus, toutes les sociétés d’IA générative ne se sont pas associées à Google pour inclure SynthID dans leurs images. À moins que SynthID ou quelque chose de similaire ne soit universellement adopté par tous les modèles d'IA générativeaucun outil de vérification ne peut vous dire avec une certitude à 100 % qu'une image n'est pas générée par l'IA.
C’est quand même un pas dans la bonne direction. Les images générées par l’IA sont devenues un véritable chaos et sont largement utilisées à des fins néfastes. Un système pour les reconnaître est absolument nécessaire, et je suis heureux que Google et OpenAI ouvrent la voie à cela.
