Avec une population internaute de plus en plus jeune, le Royaume-Uni envisage de nouvelles mesures pour protéger ces utilisateurs vulnérables, en particulier contre les contenus nuisibles et l’exploitation en ligne.
L’Ofcom, régulateur britannique, se penche sur l’application de l’intelligence artificielle (IA) pour filtrer et éliminer ces risques.
Lire aussi :
- Sécurité enfantine : OpenAI lance une unité spécialisée pour protéger les plus jeunes !
- Merveilleux ou effrayant ? ChatGPT sera bientôt dans les jouets de nos enfants
Consultation sur l’IA : un nouveau pas vers la sécurité enfantine
L’Ofcom, en charge de l’application de l’Online Safety Act au Royaume-Uni, a annoncé son intention de lancer une consultation sur l’usage actuel et futur de l’IA et d’autres outils automatisés pour détecter proactivement et supprimer le contenu illégal en ligne. Cela inclut notamment la protection des enfants contre les contenus préjudiciables et la détection de matériaux liés à l’abus sexuel des enfants, traditionnellement difficiles à identifier. Cette initiative s’inscrit dans un ensemble plus large de propositions dédiées à la sécurité en ligne des enfants, avec des consultations détaillées prévues dans les semaines à venir.
Les défis de l’IA dans la modération de contenu
Selon Mark Bunting, directeur au sein du groupe de sécurité en ligne d’Ofcom, bien que certains services utilisent déjà ces outils pour protéger les enfants, il existe peu d’informations sur leur efficacité et leur précision. L’objectif est d’évaluer comment ces outils sont utilisés par les industries et de s’assurer que les risques pour la liberté d’expression et la vie privée sont correctement gérés. Cette évaluation pourrait conduire à des recommandations précises sur les critères d’évaluation pour les plateformes, voire à des amendes en cas de non-conformité.
L’enjeu des nouvelles technologies et la protection des plus jeunes
La consultation de l’Ofcom intervient alors que l’organisme a également publié ses dernières recherches sur l’engagement des enfants avec les technologies en ligne au Royaume-Uni. Il ressort de cette étude que les enfants sont connectés dès un plus jeune âge, avec 24% des 5-7 ans possédant leur propre smartphone. Cette tranche d’âge utilise également de manière intensive les médias sur ces appareils : 65% ont passé des appels vocaux ou vidéo (contre 59% l’année précédente), et 50% regardent des médias en streaming (contre 39% précédemment).
Ces données mettent en lumière non seulement l’omniprésence de la technologie dans la vie des jeunes enfants mais aussi les défis croissants auxquels ils sont confrontés en ligne, tels que les deepfakes et les contenus inappropriés. L’Ofcom souligne une dissonance entre ce que les enfants rapportent voir en ligne et ce qu’ils partagent avec leurs parents, révélant une nécessité urgente pour des outils de modération plus efficaces et responsables.
Cybersécurité à l’ère de l’IA : Entre avancées majeures et risques majeurs
En conclusion, alors que le Royaume-Uni continue de naviguer dans le paysage complexe de la régulation d’internet, l’intégration de l’IA dans les stratégies de protection des utilisateurs les plus jeunes apparaît comme une piste prometteuse mais semée d’embûches, nécessitant une approche équilibrée et réfléchie pour protéger sans sur-censurer.
