Pourquoi OpenAI limite-t-elle la création de vidéos de personnes réelles à certains utilisateurs de Sora ?

OpenAI a récemment lancé Sora, un nouvel outil de génération de vidéos qui promet de révolutionner la manière dont les utilisateurs créent du contenu audiovisuel.

Cependant, la société a décidé de restreindre une fonctionnalité clé, permettant de générer des vidéos à partir de photos ou de séquences de personnes réelles. Actuellement, seul un sous-ensemble d’utilisateurs pourra accéder à cette option, en attendant des ajustements pour assurer la sécurité et prévenir les abus.

Dans un communiqué, OpenAI a reconnu les risques associés à cette fonctionnalité, notamment la possibilité d’utilisation abusive. « La capacité de créer une vidéo à partir d’une photo ou d’une vidéo d’une personne réelle est un vecteur potentiel de détournement, et nous devons être prudents », a déclaré la société. Les retours d’expérience d’artistes ont souligné l’importance de cet outil pour la créativité, mais OpenAI préfère adopter une approche prudente avant de le rendre accessible à tous.

Lire aussi :

1. Quels sont les nouveaux ajouts de la fonctionnalité Apple Music Replay en 2024 ?
2. Soundiiz : L’outil ingénieux pour transférer vos playlists entre Apple Music et Spotify

Les enjeux de la génération de vidéos

La génération de vidéos soulève des préoccupations significatives en matière d’éthique et de sécurité. Les deepfakes, par exemple, sont devenus un problème majeur, alimentant la désinformation et la fraude. Selon des données récentes, la fraude par deepfake a augmenté de plus de 10 fois entre 2022 et 2023. Consciente de ces défis, OpenAI a mis en place plusieurs mesures de sécurité pour Sora. Parmi celles-ci figure un filtre qui détecte les vidéos représentant des personnes de moins de 18 ans, ce qui entraîne des seuils de modération plus stricts concernant le contenu sensible.

En outre, Sora inclut des métadonnées conformes à la norme C2PA, permettant de suivre l’origine des vidéos. Bien que ces métadonnées puissent être supprimées, OpenAI espère que leur présence incitera les plateformes à détecter plus facilement les vidéos générées par son outil, contribuant ainsi à limiter les abus.

Sora d’OpenAI : La révolution de la vidéo par IA entre promesses et préoccupations

Un équilibre entre créativité et protection

OpenAI doit également naviguer dans le délicat domaine des droits d’auteur. La société a annoncé qu’elle mettrait en place des « réécritures de prompt » pour empêcher Sora de générer des vidéos dans le style d’artistes vivants. Ce choix soulève des questions quant à l’impact de l’IA sur le travail des créateurs. Plusieurs artistes ont intenté des poursuites contre OpenAI, affirmant que l’utilisation de leurs œuvres sans autorisation pour entraîner des modèles d’IA constitue une violation de leurs droits d’auteur. OpenAI, de son côté, soutient que son utilisation des données respecte la doctrine du droit d’utilisation équitable.

Comment OpenAI compte-t-elle résoudre les comportements manipulateurs observés chez son modèle o1 pour garantir une IA plus sûre et transparente ?

Une approche prudente mais nécessaire

En somme, Sora représente une avancée significative dans la génération de vidéos, mais l’approche prudente d’OpenAI montre qu’il est essentiel de trouver un équilibre entre innovation et sécurité. Alors que l’outil est déployé progressivement, les utilisateurs doivent garder à l’esprit que la créativité est souvent limitée par des préoccupations éthiques et des défis réglementaires. L’avenir de Sora dépendra de la capacité d’OpenAI à affiner son système tout en garantissant la sécurité et la protection des droits d’auteur.