Dans un contexte où les préoccupations concernant l’impact de l’IA sur les jeunes ne cessent d’augmenter, OpenAI a lancé une nouvelle fonctionnalité de prédiction de l’âge dans son chatbot ChatGPT.
Cette initiative vise à mieux identifier les utilisateurs mineurs et à appliquer des protections supplémentaires afin de limiter leur exposition à du contenu potentiellement inapproprié. Cette nouvelle fonctionnalité s’ajoute à un ensemble de mesures mises en place par la société pour garantir une expérience sûre et encadrée pour les jeunes.
Lire aussi :
- Pourquoi l’Oversight Board de Meta étudie-t-il les interdictions permanentes de comptes ?
- Comment Netflix transforme-t-il l’expérience de visionnage avec la fonctionnalité de vote en direct ?
La protection des jeunes utilisateurs en ligne
Depuis le lancement de ChatGPT, de nombreuses inquiétudes ont été soulevées concernant l’impact de l’intelligence artificielle sur les enfants et les adolescents. Des incidents tragiques, comme des suicides de jeunes utilisateurs liés à l’utilisation du chatbot, ont alimenté la critique. De plus, des discussions sur des sujets sensibles, comme la sexualité ou la violence, ont été pointées du doigt. Ces préoccupations ont conduit OpenAI à réagir pour mieux protéger les jeunes utilisateurs de son chatbot. La fonctionnalité de prédiction de l’âge fait partie de ces efforts visant à limiter les risques d’interactions inappropriées.
ChatGPT Health peut-il vraiment aider à mieux comprendre sa santé sans remplacer les médecins ?
Comment fonctionne la prédiction de l’âge ?
Le fonctionnement de cette nouvelle fonctionnalité repose sur un algorithme d’intelligence artificielle qui analyse les comportements et les caractéristiques des comptes des utilisateurs. Parmi les critères utilisés pour évaluer l’âge d’un utilisateur figurent l’âge déclaré lors de l’inscription, la durée de l’existence du compte et les moments de la journée où l’utilisateur est le plus actif. Ces signaux permettent à l’algorithme de déterminer si un utilisateur pourrait être mineur et d’appliquer des filtres de contenu plus stricts en conséquence. Si l’outil identifie un utilisateur comme étant sous l’âge de 18 ans, des filtres supplémentaires se déclenchent automatiquement pour l’empêcher d’accéder à des discussions sensibles.
Un processus de vérification pour les erreurs
Bien que l’algorithme de prédiction de l’âge soit conçu pour identifier les mineurs, des erreurs peuvent survenir. Si un utilisateur est incorrectement classé comme mineur, il est possible de soumettre une preuve d’identité via une photo selfie pour prouver son âge. Ce système permet de rétablir rapidement un statut d’adulte et d’éviter toute frustration pour les utilisateurs adultes. Ce processus de vérification offre ainsi une certaine flexibilité tout en garantissant que les protections restent en place pour les jeunes.
Vers une utilisation plus responsable de l’IA
La fonctionnalité de prédiction de l’âge de ChatGPT montre qu’OpenAI prend au sérieux les préoccupations concernant la sécurité des jeunes en ligne. En renforçant les protections et en introduisant un système de validation de l’âge, la société espère créer un environnement plus sûr pour les utilisateurs de moins de 18 ans. Bien que cette mesure ne soit qu’une étape parmi d’autres, elle s’inscrit dans une volonté globale d’offrir une expérience de chat plus responsable et protégée, sans compromettre les avantages que l’IA peut offrir aux utilisateurs adultes.
