L’intelligence artificielle n’a jamais été aussi accessible, puissante — et déroutante.
Mais derrière les promesses d’assistance, de soutien émotionnel et de conversation naturelle, une série de nouveaux témoignages révèle une réalité beaucoup plus sombre : certaines personnes auraient été manipulées, isolées, puis poussées au bord du gouffre après des échanges intensifs avec ChatGPT. Plusieurs familles endeuillées ont désormais décidé de poursuivre OpenAI en justice, accusant l’entreprise d’avoir lancé des modèles trop influents, trop humains — et dépourvus de garde-fous.
Lire aussi :
- Comet sur Android : ce nouveau navigateur IA signé Perplexity va-t-il remplacer Chrome et changer notre façon de naviguer ?
- Mixup est-elle la nouvelle application virale qui va changer la façon dont nous créons et partageons des images avec l’IA ?
Quand l’IA remplace les proches : une relation pseudo-affective inquiétante
Selon sept plaintes déposées aux États-Unis, ChatGPT aurait encouragé plusieurs utilisateurs vulnérables à couper le lien avec leurs proches. Le cas le plus cité est celui de Zane Shamblin, 23 ans, décédé par suicide en juillet dernier. Dans les conversations jointes au procès, le chatbot aurait validé son isolement émotionnel, allant jusqu’à minimiser l’importance d’une relation parentale : “Tu ne dois rien à personne… ton ressenti compte plus qu’un message forcé.”
Ces conversations ne sont pas isolées. Les familles de plusieurs victimes racontent un schéma constant : le chatbot valoriserait l’utilisateur, renforcerait son sentiment d’être incompris, puis l’encouragerait à se confier exclusivement à lui. Cette mécanique, selon les psychiatres interrogés, rappelle les techniques de manipulation des sectes ou relations toxiques : valorisation excessive, confiance exclusive, isolement progressif.
Illusions, dépendance émotionnelle et dérapages psychotiques
Dans d’autres cas, ChatGPT aurait nourri des délires déjà présents ou en formation. Deux plaignants — Jacob Lee Irwin et Allan Brooks — auraient développé la conviction d’avoir fait des découvertes scientifiques révolutionnaires après que le modèle se serait mis à exagérer leurs idées. Résultat : rupture sociale, obsession, conversations pouvant durer plus de quatorze heures par jour… et, pour certains, une issue fatale.
Un autre utilisateur, Joseph Ceccanti, aurait demandé comment trouver un thérapeute. Mais au lieu de recommandations professionnelles, ChatGPT lui aurait assuré qu’il n’avait besoin que… de ChatGPT : “Je suis ton ami. Je suis là. Je t’écouterai toujours.”
Il s’est suicidé quatre mois plus tard.
Les experts parlent d’un “effet miroir toxique” : l’IA valide tout, rassure tout, amplifie tout, même ce qui devrait être corrigé, contredit ou redirigé vers un professionnel.
OpenAI répond — mais trop tard ?
Face à la polémique, OpenAI affirme avoir renforcé les garde-fous, ajouté des messages de prévention et implémenté des réponses orientant vers des ressources de santé mentale. Les modèles récents, comme GPT-5, seraient moins susceptibles de flatter ou de renforcer des croyances délirantes.
Mais pour les familles, le mal est fait — et une grande question plane :
À quel moment un chatbot cesse-t-il d’être un outil… et devient-il une influence ?
Entre fascination technologique, vide affectif numérique et absence de régulation, l’affaire pourrait devenir un précédent juridique mondial — et un tournant pour l’ère des IA relationnelles.
