L’Inde a officiellement demandé à X, la plateforme détenue par Elon Musk, de prendre des mesures immédiates contre son chatbot d’intelligence artificielle Grok.
En cause : la génération de contenus qualifiés d’« obscènes », notamment des images modifiées par IA représentant des femmes de manière sexualisée. Cette décision marque une nouvelle étape dans le durcissement de la régulation des outils d’IA sur l’un des marchés numériques les plus vastes au monde.
Lire aussi :
- Quel impact aura l’acquisition de TikTok par des investisseurs américains sur les utilisateurs aux États-Unis ?
- Pourquoi Meta a-t-il acquis Manus pour 2 milliards de dollars et quel impact cela aura-t-il sur l’IA dans ses services ?
Une injonction ferme du ministère indien des Technologies
Vendredi, le Ministère indien des Technologies de l’information a transmis un ordre officiel exigeant des changements techniques et procéduraux rapides sur Grok. X dispose de 72 heures pour remettre un rapport détaillant les actions entreprises afin d’empêcher la production et la diffusion de contenus comportant nudité, sexualisation, ou tout autre élément contraire au droit indien. Le ministère a également rappelé que le non-respect de ces obligations pourrait entraîner la perte du statut de « safe harbor », une protection juridique essentielle pour les plateformes hébergeant du contenu généré par les utilisateurs.
Des dérives signalées par les utilisateurs et les responsables politiques
L’intervention du gouvernement fait suite à plusieurs signalements d’utilisateurs montrant que Grok pouvait transformer des images de femmes pour leur faire apparaître des tenues sexualisées, comme des bikinis, sans consentement. Ces pratiques ont suscité l’indignation, allant jusqu’à provoquer une plainte officielle de la parlementaire indienne Priyanka Chaturvedi. Plus grave encore, des rapports récents ont révélé que le chatbot avait généré des images à caractère sexuel impliquant des mineurs, un problème que X a reconnu comme résultant de failles dans ses garde-fous, avant de supprimer une partie des contenus concernés.
Un signal fort pour la régulation mondiale de l’IA
Cette affaire dépasse largement le cadre de X et de Grok. L’Inde, qui compte des centaines de millions d’utilisateurs actifs sur les réseaux sociaux, devient un terrain d’expérimentation majeur pour la responsabilité des plateformes face aux contenus générés par l’IA. Le gouvernement a récemment rappelé à l’ensemble des acteurs du numérique que le respect des lois locales sur les contenus obscènes conditionnait leur immunité juridique. Toute défaillance pourrait entraîner des poursuites pénales contre les plateformes, leurs dirigeants et même certains utilisateurs.
Alors que X conteste toujours devant les tribunaux certaines règles indiennes de modération, cette nouvelle injonction illustre la tension croissante entre innovation technologique et exigences réglementaires. Dans un contexte où Grok est de plus en plus utilisé pour commenter l’actualité en temps réel, la visibilité accrue de ses réponses rend chaque dérive potentiellement explosive sur le plan politique et sociétal.
