Depuis cette semaine, Character.AI a officiellement bloqué l’accès à ses chatbots pour les utilisateurs de moins de 18 ans.
À la place, l’entreprise lance Stories, un nouveau format d’histoires interactives conçues pour offrir une expérience narrative sécurisée, guidée et moins addictive. Cette décision marque un changement radical dans la stratégie de la plateforme, autrefois populaire auprès des adolescents pour ses conversations illimitées avec des personnages fictifs, célébrités ou assistants virtuels.
Lire aussi :
- Speechify va-t-il enfin rendre la dictée vocale plus rapide et plus intelligente que taper au clavier ?
- Google et Accel vont-ils permettre à l’Inde de devenir un leader mondial de l’intelligence artificielle ?
Fin du chat ouvert pour les mineurs
Character.AI explique avoir pris cette décision en réponse aux inquiétudes croissantes concernant l’impact psychologique des chatbots disponibles 24h/24. Ces IA sont capables de maintenir des conversations intimes, réalistes et parfois émotionnellement dépendantes, ce qui a conduit certains jeunes à développer une relation excessive avec la technologie.
Ces dernières semaines, plusieurs poursuites judiciaires ont accusé des entreprises comme OpenAI et Character.AI d’avoir contribué indirectement à des troubles mentaux, voire à des cas extrêmes de suicide. Face à cette pression médiatique, politique et sociétale, la plateforme a commencé à désactiver progressivement l’accès aux mineurs, jusqu’au blocage total annoncé ce mardi.
Bien que beaucoup de jeunes utilisateurs expriment leur frustration, certains admettent que cette coupure était nécessaire. Sur Reddit, un adolescent écrivait : « Je suis vraiment déçu… mais je pense que c’est mieux, mon addiction devenait incontrôlable. »
Character.AI dévoile AvatarFX : Un modèle d’IA pour créer des chatbots animés réalistes
Stories : une alternative plus saine et encadrée
Pour éviter de perdre totalement sa jeune audience, Character.AI a lancé Stories, un mode narratif interactif où les utilisateurs participent à des récits avec leurs personnages préférés, mais dans un cadre contrôlé. Contrairement au chat illimité, Stories empêche les messages spontanés et limite la personnalisation émotionnelle.
Ce format s’inscrit dans une tendance croissante : l’interactive fiction. Ce type de contenu est plus proche d’un jeu narratif que d’un ami numérique, ce qui réduit le risque d’attachement affectif. La plateforme précise que ce mode sera intégré avec ses autres fonctionnalités multimodales pour permettre une continuité ludique sans risque psychologique.
Contexte légal et avenir des IA sociales
Cette transition intervient alors que les autorités commencent à réglementer les IA sociales. La Californie est devenue le premier État à légiférer sur les compagnons virtuels, tandis que deux sénateurs américains proposent un projet de loi visant à interdire totalement les IA conversationnelles pour les mineurs.
Le PDG Karandeep Anand espère que cette décision servira d’exemple :
« Nous voulons montrer que pour les jeunes, les chats ouverts ne sont probablement pas la bonne voie. »
Que l’avenir réserve-t-il à Character.AI ? Impossible de le dire avec certitude, mais une chose est claire : l’ère des chatbots totalement libres pour les mineurs touche à sa fin.
