Google, via sa filiale Jigsaw, a lancé en open source un nouvel outil nommé Altitude.
Destiné à aider les petites entreprises à modérer les contenus extrémistes en ligne, cet outil vise à répondre aux exigences croissantes en matière de régulation des contenus sur internet, notamment avec la mise en place de législations comme le Digital Services Act (DSA) en Europe.
Lire aussi :
- Comment les investissements massifs dans les startups d’IA générative en France influencent-ils le paysage technologique européen ?
- Google accusé de tromper les consommateurs pour collecter des données publicitaires
Un soutien pour les petites entreprises
Les grandes entreprises technologiques comme Meta et Google disposent des ressources nécessaires pour modérer les contenus efficacement. Cependant, les petites entreprises n’ont pas toujours les moyens financiers et technologiques pour gérer cette tâche complexe. Altitude a été développé pour combler ce vide, offrant une solution accessible et efficace pour les plateformes plus modestes. Ce nouvel outil permet aux modérateurs de vérifier si le contenu sur leurs plateformes correspond à celui signalé dans des bases de données tierces fiables.
Fonctionnement d’Altitude
Altitude s’appuie sur des sources de données fournies par des organisations reconnues, telles que le Global Internet Forum to Counter Terrorism (GIFCT). En centralisant les informations provenant de ces sources, Altitude permet aux modérateurs de visualiser et d’évaluer rapidement le contenu potentiellement extrémiste. Contrairement à certains outils automatisés, Altitude ne supprime pas directement le contenu. Il se contente de le signaler aux modérateurs humains qui prennent ensuite la décision de le supprimer ou non.
Adoption et perspectives futures
Bien que ni Jigsaw ni Tech Against Terrorism n’aient révélé les plateformes ayant utilisé Altitude pendant sa période de test initiale, il est probable que des applications comme les services de messagerie, les plateformes de partage de vidéos, les forums en ligne et les réseaux sociaux l’utilisent. Jigsaw a mené des entretiens avec des fondateurs, des responsables de la sécurité et des modérateurs de contenu sur onze plateformes de tailles variées, confirmant que la préparation à la gestion du TVEC n’était pas strictement liée à la taille de l’organisation.
En tant que projet open source, toute entreprise peut intégrer Altitude dans ses propres plateformes ou collaborer avec Tech Against Terrorism pour bénéficier d’un support d’intégration personnalisé. À l’avenir, Jigsaw et Tech Against Terrorism envisagent d’ajouter des bases de données spécialisées et d’étendre l’outil à d’autres langues que l’anglais.
Altitude représente un pas important vers une meilleure gestion des contenus extrémistes en ligne, offrant aux petites entreprises des outils efficaces pour répondre aux exigences croissantes en matière de modération de contenu.
