Bumble, l’application de rencontres, demande à ses utilisateurs de contribuer à maintenir la plateforme exempte de profils générés par l’IA.
Mardi dernier, la société a introduit une nouvelle option de signalement qui permet aux membres de rapporter des profils s’ils soupçonnent que quelqu’un utilise des photos et vidéos générées par l’IA. Désormais, lorsqu’un utilisateur souhaite signaler un profil, il peut choisir “Profil faux” et sélectionner l’option “Utilise des photos ou vidéos générées par l’IA”. Parmi les autres options de signalement, on trouve le contenu inapproprié, les utilisateurs mineurs, les arnaques et l’utilisation de photos d’autrui, entre autres.
Lire aussi :
- Quelles sont les conséquences de la suppression des applications VPN par Apple pour les utilisateurs russes ?
- Comment les entreprises d’IA peuvent-elles renforcer leurs mesures de sécurité pour protéger leurs précieuses données contre les cyberattaques ?
Lutter contre les abus de l’IA
L’introduction de cette nouvelle option de signalement arrive à un moment où, malheureusement, les photos générées par l’IA sont courantes sur les applications de rencontres et sont souvent utilisées pour arnaquer ou tromper les autres. En un clic, il est possible de créer des profils trompeurs faisant croire aux autres que vous possédez un yacht et avez des abdominaux sculptés. Bumble espère que cette nouvelle option de signalement découragera les utilisateurs d’utiliser l’IA de manière malhonnête.
Risa Stein, vice-présidente produit chez Bumble, a déclaré dans un communiqué : Un élément essentiel pour créer un espace propice à des connexions significatives est de supprimer tout élément trompeur ou dangereux. Nous nous engageons à améliorer continuellement notre technologie pour garantir que Bumble soit un environnement de rencontres sûr et fiable. En introduisant cette nouvelle option de signalement, nous pouvons mieux comprendre comment les acteurs malveillants et les faux profils utilisent l’IA de manière malhonnête, afin que notre communauté se sente en confiance pour établir des connexions.
Des outils d’IA pour une sécurité renforcée
Cette nouvelle option de signalement fait suite au lancement par Bumble d’un outil d’IA appelé “Deception Detector”, qui utilise l’IA et la modération humaine pour détecter et supprimer les faux profils, les spams et les arnaqueurs. Depuis le lancement de cette fonctionnalité en février, Bumble affirme que les signalements de spams, d’arnaques et de faux profils ont diminué de 45 %. Bumble dispose également d’un outil alimenté par l’IA, “Private Detector”, qui floute automatiquement les photos de nudité.
En quoi noplace se distingue-t-il des autres réseaux sociaux actuels pour attirer la Génération Z ?
Bien que Bumble lutte contre les profils générés par l’IA, la fondatrice de l’entreprise, Whitney Wolfe Herd, a des idées intéressantes pour cette technologie. Lors d’une interview, Herd a déclaré que l’avenir des rencontres en ligne pourrait inclure des “concierges” ou assistants en IA qui iraient à des centaines de rendez-vous en votre nom pour trouver le partenaire idéal. Nous ne savons pas combien de personnes seront prêtes à adopter cette idée, mais chacun ses préférences.
