Comment Meta Video Seal peut-il contribuer à limiter la propagation des contenus falsifiés en ligne ?

La montée en puissance de l’intelligence artificielle générative a entraîné une explosion de contenus falsifiés en ligne, notamment des deepfakes.

Selon Sumsub, une plateforme de vérification d’identité, les deepfakes ont quadruplé entre 2023 et 2024, représentant désormais 7 % de toutes les fraudes signalées. Pour lutter contre ce phénomène, Meta a dévoilé un nouvel outil, Meta Video Seal, conçu pour ajouter des filigranes imperceptibles aux vidéos générées par IA.

Lire aussi :

1. Quels sont les nouveaux ajouts de la fonctionnalité Apple Music Replay en 2024 ?
2. Pourquoi est-il urgent de mettre à jour vos appareils Apple face aux dernières failles de sécurité ?

Meta Video Seal : une technologie innovante pour contrer les deepfakes

Meta Video Seal est une solution open source permettant d’intégrer des filigranes invisibles dans des vidéos générées par IA. Contrairement à de nombreux outils existants, cet outil a été spécialement conçu pour résister aux modifications courantes telles que la compression, le floutage ou encore le recadrage. Pierre Fernandez, chercheur en IA chez Meta, explique que cette technologie vise à détecter plus efficacement les vidéos falsifiées tout en protégeant leur originalité.

En complément de ces filigranes, Meta Video Seal offre également la possibilité d’insérer un message caché dans les vidéos. Ce message peut être récupéré ultérieurement pour déterminer l’origine du contenu. Cette fonctionnalité en fait un outil polyvalent, adapté à la lutte contre les deepfakes tout en offrant une traçabilité accrue.

Quels sont les défis et ambitions de Meta dans son projet de centrales nucléaires pour soutenir ses data centers ?

Une réponse aux limites des outils existants

Bien que des solutions similaires, comme SynthID de DeepMind ou les méthodologies de Microsoft, existent déjà, Meta estime que celles-ci manquent de robustesse face aux défis posés par les plateformes sociales. Les compressions fréquentes appliquées lors du partage de contenu réduisent souvent l’efficacité des filigranes traditionnels. Selon Fernandez, Meta Video Seal surmonte ces obstacles grâce à une technologie optimisée spécifiquement pour les vidéos, et non simplement dérivée des outils conçus pour les images.

Cependant, l’outil n’est pas sans limites. Fernandez reconnaît que les compressions lourdes ou les modifications significatives peuvent altérer les filigranes ou les rendre irrécupérables. Malgré ces défis, Meta mise sur l’open source pour favoriser l’adoption de cette technologie par les développeurs et les entreprises.

Encourager l’adoption dans l’industrie

Pour inciter l’industrie à utiliser Meta Video Seal, Meta a lancé un classement public, Meta Omni Seal Bench, permettant de comparer l’efficacité des différentes méthodes de filigranage. En parallèle, l’entreprise organise un atelier dédié au filigranage lors de la conférence ICLR, un événement majeur dans le domaine de l’IA.

Selon Fernandez, ces initiatives visent à encourager les chercheurs et développeurs à intégrer des solutions de filigranage dans leurs travaux. Meta souhaite collaborer avec la communauté académique et les entreprises pour accélérer les progrès dans ce domaine crucial.

Quelles accusations Phhhoto porte-t-elle contre Meta, et pourquoi l’affaire retourne-t-elle devant les tribunaux ?

Avec Meta Video Seal, Meta propose une solution novatrice pour lutter contre la prolifération des contenus falsifiés en ligne. En combinant robustesse, flexibilité et transparence via l’open source, cet outil pourrait jouer un rôle clé dans la lutte contre les deepfakes. Toutefois, son succès dépendra largement de l’adoption par les acteurs de l’industrie et de la recherche.