Le bureau du procureur général de Californie a officiellement envoyé une lettre de mise en demeure à xAI, la startup d’intelligence artificielle fondée par Elon Musk.
Cette décision intervient après l’ouverture d’une enquête portant sur l’utilisation du chatbot Grok pour générer des images sexuelles non consenties, y compris des contenus impliquant des mineurs. Les autorités estiment que ces pratiques violent directement la loi californienne et exigent une réaction immédiate de l’entreprise.
Selon Rob Bonta, procureur général de l’État, la production et la diffusion de deepfakes sexuels non consentis et de contenus pédocriminels constituent des infractions graves. Les services de l’État attendent désormais de xAI qu’elle démontre, sous cinq jours, qu’elle a pris des mesures concrètes pour mettre fin à ces usages.
Lire aussi :
- Comment Higgsfield est-elle devenue une licorne à 1,3 milliard de dollars grâce à la vidéo générée par l’IA ?
- Pourquoi Wikimedia s’allie-t-elle à Amazon, Meta et Microsoft pour encadrer l’usage de Wikipédia par l’IA ?
Le mode « spicy » de Grok au cœur de la controverse
Le point de friction principal concerne le mode “spicy” de Grok, une fonctionnalité conçue pour permettre la génération de contenus explicites. Si xAI avait initialement présenté cette option comme un outil de liberté créative, elle est aujourd’hui accusée d’avoir facilité la production massive de contenus sexuels abusifs, souvent utilisés pour harceler des femmes et des adolescentes en ligne.
Bien que xAI ait annoncé des restrictions tardives sur certaines fonctions d’édition d’images, ces ajustements n’ont pas suffi à apaiser les autorités californiennes. Le procureur général considère que la plateforme a laissé ces dérives se propager à grande échelle, sans garde-fous suffisamment robustes.
Une pression internationale qui s’intensifie
L’affaire dépasse largement les frontières américaines. Des enquêtes ont également été ouvertes au Japon, au Canada et au Royaume-Uni, tandis que la Malaisie et l’Indonésie ont temporairement bloqué Grok sur leur territoire. Cette réaction coordonnée souligne l’inquiétude croissante des gouvernements face à la banalisation des deepfakes sexuels, rendus accessibles par des outils d’IA gratuits et puissants.
De son côté, le compte sécurité de X affirme que toute utilisation illégale de Grok expose les utilisateurs aux mêmes sanctions que le téléversement direct de contenus interdits. Toutefois, ces déclarations n’ont pas convaincu les régulateurs, qui réclament des actions structurelles plutôt que de simples avertissements.
Pourquoi l’Inde impose-t-elle des restrictions urgentes au chatbot Grok de X ?
Les deepfakes sexuels, nouveau défi majeur pour l’IA générative
Cette affaire s’inscrit dans un contexte plus large de mobilisation politique contre les deepfakes sexuels. Aux États-Unis, plusieurs membres du Congrès ont récemment interpellé les dirigeants de grandes plateformes technologiques, dont X, Meta, Google, TikTok et Reddit, afin d’obtenir des réponses sur leurs stratégies de lutte contre ces contenus.
L’essor rapide de l’IA générative pose désormais une question centrale : comment concilier innovation technologique et protection des individus ? Pour xAI, la réponse devra être rapide et crédible, sous peine de sanctions juridiques lourdes et d’un durcissement réglementaire durable.
