La startup chinoise Sand AI a récemment dévoilé son modèle de génération vidéo, Magi-1, qui permet de créer des vidéos à partir d’images en s’appuyant sur une technologie avancée d’intelligence artificielle.
Cependant, en plus de sa prouesse technique, cette plateforme semble également appliquer un filtrage rigoureux des images jugées politiquement sensibles. Un test de la plateforme a révélé que certaines images, notamment celles de personnalités politiques chinoises ou d’événements historiques controversés, sont automatiquement censurées, soulevant des questions sur la régulation de l’IA en Chine.
Lire aussi :
- Zuckerberg et la cannibalisation d’Instagram : Faut-il séparer Facebook et Instagram pour préserver leur croissance ?
- ChatGPT Search en forte croissance en Europe : une alternative viable aux moteurs de recherche traditionnels ?
Un modèle d’IA performant mais censuré
Magi-1, le modèle phare de Sand AI, est capable de générer des vidéos réalistes en prédisant les séquences d’images, une capacité qui dépasse celle de nombreux modèles concurrents. Cependant, l’utilisation de ce modèle nécessite un matériel puissant, rendant son accès difficile pour les utilisateurs ordinaires. Sand AI propose néanmoins une version accessible de son modèle, mais avec des restrictions strictes. En testant la plateforme, il a été constaté que certaines images, telles que celles représentant Xi Jinping ou des événements comme la place Tiananmen, sont bloquées automatiquement. Ce filtrage, appliqué au niveau des fichiers d’image, empêche de contourner les restrictions par de simples manipulations des fichiers.
La régulation stricte de l’IA en Chine
Les lois chinoises de régulation de l’IA imposent des contrôles stricts sur les contenus générés par les modèles d’intelligence artificielle. La législation de 2023 stipule que les modèles d’IA ne doivent pas créer de contenu susceptible de nuire à l’unité nationale ou à l’harmonie sociale, ce qui inclut les discours politiques et historiques qui pourraient contester les récits officiels du gouvernement. Ainsi, pour se conformer à ces règles, les entreprises comme Sand AI sont contraintes de censurer les images et les textes jugés trop sensibles, en particulier ceux qui remettent en cause l’autorité du gouvernement.
L’impact sur la liberté d’expression
Bien que la censure des contenus politiques soit une pratique courante en Chine, elle soulève des préoccupations sur les libertés individuelles et la liberté d’expression. Le modèle de censure mis en place par Sand AI montre comment la régulation gouvernementale peut limiter les possibilités créatives des utilisateurs tout en introduisant une surveillance accrue sur les contenus générés par l’IA. L’usage de l’IA pour filtrer les images et les vidéos sensibles soulève également des questions éthiques concernant l’exploitation de la technologie à des fins de contrôle de l’information.
Le lancement de Magi-1 par Sand AI représente un pas en avant dans la génération de vidéos via l’intelligence artificielle, mais il met aussi en lumière les défis éthiques et politiques liés à la régulation de ces technologies. Alors que les capacités de l’IA continuent de croître, la question du respect des libertés individuelles et de la manipulation de l’information reste cruciale.
