Google ajoute des filigranes aux images générées par l’IA pour se protéger contre les deepfakes

Google ajoute des filigranes aux images AI pour se protéger contre les deepfakes

Dans une avancée significative pour lutter contre la montée du contenu trompeur, Google a introduit une solution innovante qui apporte une nouvelle couche de défense contre la vague de deepfakes. Cette entreprise pionnière utilise des filigranes invisibles, tels que des boucliers secrets, sur des images créées à l’aide de la technologie de l’IA. L’outil de filigrane, nommé “SynthID”, est le fruit d’une collaboration innovante entre Google Research, Google Cloud et Google DeepMind. Découvrons comment cette initiative renforce l’intégrité visuelle en ligne et aide la lutte contre les deepfakes et la désinformation numérique.

Lire aussi: Comment détecter et gérer les deepfakes à l’ère de l’IA ?

SynthID : un gardien de l’authenticité

L’outil révolutionnaire, appelé SynthID, appose une signature invisible mais indélébile sur les images, signifiant leur origine en tant que créations générées par l’IA. Cette innovation de filigrane est destinée à devenir une arme puissante dans l’arsenal contre les deepfakes tout en protégeant également les images protégées par le droit d’auteur. La puissance de SynthID réside dans sa capacité à intégrer subtilement des filigranes numériques au sein des pixels mêmes d’une image. La brillance de cette technique réside dans sa quasi-invisibilité aux yeux humains, mais elle reste détectable à travers l’objectif d’un algorithme.

Lire aussi: L’art généré par l’IA se voit refuser les droits d’auteur par un tribunal américain

• Cette recherche en IA aborde le problème de la ‘perte de plasticité’ dans les systèmes d’apprentissage profond lorsqu’ils sont utilisés dans des environnements d’apprentissage continu.
• Meilleurs logiciels/outils de traduction AI (septembre 2023)
• Découvrez DenseDiffusion une technique d’IA sans entraînement pour résoudre les légendes denses et la manipulation de la mise en page dans la génération de texte vers image.

Furtif mais résilient

SynthID entre dans la mêlée avec des fonctionnalités robustes conçues pour relever le défi du paysage dynamique des images générées par l’IA. Fonctionnant en version bêta au sein de Vertex AI, la plateforme de Google pour la création d’applications et de modèles d’IA, SynthID prend exclusivement en charge Imagen, le modèle révolutionnaire de text-to-image de Google. Cet outil remarquable va au-delà de l’apparence en scannant les images entrantes à la recherche du filigrane SynthID. L’identification du filigrane est mesurée en trois niveaux de certitude : détecté, non détecté et potentiellement détecté.

Lire aussi: L’UE appelle à des mesures pour identifier les deepfakes et les contenus d’IA

Deux gardiens de l’IA

Au cœur de SynthID se trouve la synergie de deux modèles d’IA, l’un dédié au filigrane et l’autre à l’identification. Ces deux forces redoutables ont été formées ensemble à l’aide d’un ensemble diversifié d’images. Cette combinaison de compétences permet à SynthID de percer à travers les couches de modification, telles que les filtres, les altérations de couleur ou la compression intensive, tout en conservant sa capacité à identifier les images générées par l’IA.

Lire aussi: PhotoGuard de MIT utilise l’IA pour se défendre contre la manipulation d’images par l’IA

Le bouclier de certitude de SynthID

SynthID se tient en tant que sentinelle, infaillible mais prudente. Bien qu’elle ne se vante pas d’une certitude absolue dans l’identification des images avec filigrane, elle possède l’acuité nécessaire pour distinguer entre les images qui pourraient potentiellement porter le filigrane et celles qui sont plus susceptibles de le contenir. Cette approche stratégique garantit que SynthID trouve le bon équilibre entre précision et analyse prudente.

Lire aussi: L’outil de détection d’IA d’OpenAI ne parvient pas à détecter 74 % du contenu généré par l’IA

Une montée de contre-mesures

L’incursion innovante de Google dans le filigrane d’images n’est pas la seule entreprise dans le domaine. Des entreprises comme Imatag et Steg.AI se sont jointes aux rangs avec des techniques de filigrane résistantes au recadrage, au redimensionnement et aux modifications. Microsoft s’est également engagé en faveur du filigrane cryptographique. Shutterstock et Midjourney ont avancé leurs propres approches, intégrant des marqueurs qui signifient le contenu généré par l’IA. DALL-E 2 d’OpenAI a également incorporé des filigranes subtils en témoignage de ses créations.

Lire aussi: 4 géants de la technologie – OpenAI, Google, Microsoft et Anthropic unis pour une IA sûre

Notre avis

Alors que le domaine de l’IA générative regorge de possibilités créatives, le potentiel de désinformation et de tromperie est également plus important. L’apparition des filigranes SynthID marque une avancée louable pour garantir la transparence et l’authenticité dans le paysage numérique. Cette sauvegarde invisible, alimentée par la synergie de l’IA, permettra aux utilisateurs de distinguer entre le contenu authentique et les créations générées par l’IA. À une époque marquée par la dualité numérique, l’introduction de SynthID n’est pas seulement une avancée technologique, mais aussi une manœuvre stratégique visant à protéger la vérité et à contrer la propagation de la désinformation.

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!