Dans une rรฉcente annonce, OpenAI a rรฉvรฉlรฉ l’ajout de nouveaux filigranes aux images gรฉnรฉrรฉes par son modรจle DALL-E 3.
Ces filigranes font partie des normes de la Coalition for Content Provenance and Authenticity (C2PA) et visent ร renforcer la transparence sur l’origine des contenus gรฉnรฉrรฉs par l’intelligence artificielle.
Lire aussi :
- Sรฉcuritรฉ enfantine : OpenAI lance une unitรฉ spรฉcialisรฉe pour protรฉger les plus jeunes !
- Rรฉvolution IA en Thaรฏlande : Open ThaiGPT, le projet qui va changer la donne !
C2PA Watermarks : Un pas vers la provenance transparente
OpenAI intรจgre dรฉsormais des filigranes issus des normes de la C2PA dans les mรฉtadonnรฉes des images gรฉnรฉrรฉes par DALL-E 3. Ces filigranes seront visibles sur le site Web de ChatGPT ainsi que sur l’API du modรจle DALL-E 3. Les utilisateurs mobiles recevront ces filigranes ร partir du 12 fรฉvrier, comprenant ร la fois un composant de mรฉtadonnรฉes invisible et un symbole CR visible, apparaissant dans le coin supรฉrieur gauche de chaque image.
Les utilisateurs peuvent vรฉrifier la provenance de n’importe quelle image gรฉnรฉrรฉe par les plateformes d’OpenAI grรขce ร des sites comme Content Credentials Verify. Il convient de noter que, pour l’instant, seules les images fixes, et non les vidรฉos ou le texte, peuvent porter ce filigrane.
L’intelligence artificielle : rรฉelle rรฉvolution ou menace ?
Effets nรฉgligeables sur les performances et la qualitรฉ
OpenAI assure que l’ajout de mรฉtadonnรฉes de filigrane aux images n’affectera que nรฉgligemment la latence et la qualitรฉ de la gรฉnรฉration d’images. Cela augmentera lรฉgรจrement la taille des images pour certaines tรขches spรฉcifiques.
Le C2PA, composรฉ de sociรฉtรฉs telles qu’Adobe et Microsoft, promeut l’utilisation du filigrane Content Credentials pour identifier la provenance du contenu et indiquer s’il a รฉtรฉ crรฉรฉ par des humains ou avec l’aide de l’IA. Adobe a crรฉรฉ un symbole Content Credentials, que OpenAI intรจgre aux crรฉations de DALL-E 3. Rรฉcemment, Meta a annoncรฉ l’ajout de balises au contenu gรฉnรฉrรฉ par l’IA sur ses plates-formes de mรฉdias sociaux.
1 an d’assistance IA avancรฉe offerte avec Rabbit R1, l’IA qui met Google et ChaGPT par terre
Watermarking : Un pas vers la confiance numรฉrique
L’identification du contenu gรฉnรฉrรฉ par l’IA est l’une des directives phares de l’administration Biden en matiรจre d’IA. Cependant, OpenAI souligne que le filigrane de la C2PA peut รชtre facilement retirรฉ, accidentellement ou intentionnellement, surtout que la plupart des plateformes de mรฉdias sociaux suppriment souvent les mรฉtadonnรฉes du contenu tรฉlรฉchargรฉ. Prendre une capture d’รฉcran exclut รฉgalement les mรฉtadonnรฉes.
OpenAI dรฉclare sur son site :
“Nous croyons que l’adoption de ces mรฉthodes pour รฉtablir la provenance et encourager les utilisateurs ร reconnaรฎtre ces signaux est essentielle pour accroรฎtre la fiabilitรฉ de l’information numรฉrique.”
Bien que le filigrane reprรฉsente une avancรฉe significative dans la transparence, il reste clair qu’il n’est pas une solution infaillible pour contrer la dรฉsinformation.