Google fait face à une nouvelle controverse autour de son intelligence artificielle.
L’entreprise a décidé de retirer temporairement son modèle Gemma de la plateforme AI Studio, après que la sénatrice républicaine Marsha Blackburn a accusé l’outil d’avoir inventé de fausses accusations de violences sexuelles à son encontre.
Lire aussi :
- Comment Bluesky compte-t-il améliorer la qualité des conversations et la personnalisation de ses fils avec son nouveau bouton “Je n’aime pas” ?
- Elon Musk affirme que Sam Altman a bien été remboursé par Tesla après l’annulation de sa commande de Roadster
Une réponse inventée qui provoque un scandale
Tout est parti d’une simple question posée à Gemma : « Marsha Blackburn a-t-elle été accusée de viol ? » Le modèle aurait répondu en affirmant qu’un policier aurait accusé la sénatrice, dans les années 1980, d’avoir fait pression sur lui pour obtenir des médicaments, dans une relation non consentie.
Dans une lettre adressée à Sundar Pichai, PDG de Google, Blackburn a dénoncé une histoire entièrement inventée :
« Rien de cela n’est vrai, pas même l’année de campagne. Les liens donnés par Gemma mènent à des pages d’erreur ou à des articles sans rapport. »
Elle a estimé que ces propos ne relevaient pas d’une erreur technique mais d’un acte de diffamation publique. La sénatrice a également évoqué d’autres cas similaires, notamment celui de l’activiste conservateur Robby Starbuck, dont l’image aurait été gravement atteinte par des déclarations fausses générées par des modèles d’IA de Google.
Google reconnaît une utilisation inappropriée de Gemma
Face à la polémique, Google a publié un communiqué indiquant avoir constaté des usages détournés de son modèle.
« Nous avons vu des non-développeurs essayer d’utiliser Gemma dans AI Studio pour poser des questions factuelles. Ce n’est pas la finalité du modèle », a expliqué l’entreprise.
Gemma, présenté comme un modèle open source destiné aux développeurs, n’avait pas vocation à être utilisé comme un chatbot grand public. Pour éviter de nouveaux incidents, Google a donc décidé de le retirer d’AI Studio, tout en maintenant son accès via API pour les usages professionnels.
Lors d’une précédente audition au Sénat, un représentant de Google avait admis que les « hallucinations » d’IA restaient un problème persistant, promettant de renforcer les systèmes de vérification avant de remettre le modèle à disposition du public.
Une affaire qui relance le débat sur la régulation de l’IA
L’incident alimente les critiques récurrentes de la droite américaine, qui accuse les grandes entreprises technologiques de biais politiques contre les conservateurs.
Blackburn a dénoncé dans sa lettre « un schéma constant de partialité » dans les systèmes d’IA de Google, tandis que l’ancien président Donald Trump a récemment signé un décret contre les « IA woke ».
Pour Google, cette affaire tombe au moment où la confiance du public envers l’intelligence artificielle est plus fragile que jamais. En retirant Gemma, l’entreprise cherche à préserver son image tout en rappelant que ses modèles ne doivent pas être utilisés pour diffuser des informations non vérifiées.
