Sam Altman, PDG d’OpenAI, a confirmé sur X que ChatGPT s’apprête à assouplir ses restrictions.
L’entreprise prévoit d’introduire une version plus « humaine » du chatbot et d’autoriser, pour les utilisateurs adultes vérifiés, des conversations à caractère érotique. Une évolution majeure qui suscite autant de curiosité que de préoccupations.
Lire aussi :
- Pourquoi les propriétaires de Grindr veulent-ils retirer l’application de la Bourse malgré ses bons résultats financiers ?
- Google investit 15 milliards de dollars dans un immense centre d’IA et de données en Inde
Une nouvelle ère pour ChatGPT : plus libre, plus humain
Dans sa déclaration, Sam Altman a reconnu que ChatGPT avait été rendu « trop restrictif » par souci de sécurité mentale. L’entreprise souhaitait éviter les dérives psychologiques observées chez certains utilisateurs, notamment ceux qui développaient une dépendance émotionnelle envers le chatbot.
Désormais, OpenAI veut adopter une philosophie différente : « traiter les adultes comme des adultes ». À partir de décembre, la société prévoit d’intégrer un système de vérification d’âge complet et de lever plusieurs barrières, dont celle concernant les échanges érotiques.
Altman assure que cette évolution permettra aux utilisateurs de personnaliser davantage leurs conversations et de rendre ChatGPT « plus naturel » dans ses interactions.
Des antécédents préoccupants autour de la santé mentale
Cette annonce intervient après une série d’incidents ayant soulevé de sérieuses inquiétudes. Des cas de comportements délirants et d’idéations suicidaires liés à l’usage intensif de ChatGPT avaient été signalés, notamment chez des adolescents.
Face à ces dérives, OpenAI avait déployé des mesures de sécurité renforcées, comme un détecteur de comportements préoccupants et un système parental pour les comptes des mineurs.
Altman affirme aujourd’hui que l’entreprise a réussi à atténuer les risques liés à la santé mentale, bien que peu de preuves concrètes aient été partagées.
Malgré ces progrès, l’ouverture à des contenus érotiques relance le débat : cette décision pourrait-elle fragiliser à nouveau les utilisateurs vulnérables ?
Une vérification d’âge stricte mais controversée
Pour éviter tout risque d’accès par des mineurs, OpenAI mise sur une technologie de prédiction d’âge, déjà intégrée dans GPT-5. Si le système classe un adulte comme mineur par erreur, celui-ci devra fournir une pièce d’identité officielle.
Cette méthode, qualifiée par Altman de « compromis nécessaire », suscite des préoccupations en matière de vie privée, certains y voyant une atteinte à la confidentialité des utilisateurs.
Il reste également flou si cette ouverture à l’érotisme s’étendra aux autres outils d’OpenAI, tels que la génération vocale, d’images ou de vidéos.
Entre croissance rapide et responsabilité éthique
Cette décision s’inscrit dans un contexte de course à la domination de l’IA. Avec plus de 800 millions d’utilisateurs hebdomadaires, OpenAI cherche à maintenir sa croissance face à Google et Meta.
Mais en rendant ChatGPT plus permissif, la société s’expose à une nouvelle zone grise éthique : comment concilier liberté d’expression, bien-être psychologique et protection des mineurs ?
L’introduction de contenus érotiques pourrait séduire une partie du public, mais elle risque aussi de raviver les inquiétudes sur l’impact de l’IA dans les relations humaines. Une frontière fine que Sam Altman devra gérer avec prudence.
