Bumble demande à ses utilisateurs de contribuer à maintenir l’application de rencontres exempte de profils générés par l’IA. Mardi, la société a introduit une nouvelle option de signalement qui permet aux membres de signaler des profils s'ils soupçonnent que quelqu'un pourrait utiliser des photos et des vidéos générées par l'IA.
Désormais, lorsqu'un utilisateur souhaite signaler un profil, il peut choisir « Faux profil », puis sélectionner l'option « Utiliser des photos ou des vidéos générées par l'IA ». D'autres options de signalement incluent, entre autres, le contenu inapproprié, les utilisateurs mineurs, les escroqueries et l'utilisation des photos de quelqu'un d'autre.
La nouvelle option de signalement de Bumble arrive à un moment où, malheureusement, les photos générées par l'IA sur les applications de rencontres sont courantes et sont souvent utilisées pour arnaquer ou tromper les autres. D’un simple clic, vous pouvez faire croire à des allumettes que vous possédez un yacht et que vous avez des abdominaux ciselés. Bumble espère que la nouvelle option de reporting contribuera à dissuader les gens d’utiliser l’IA de manière fallacieuse.
"Une partie essentielle de la création d'un espace pour établir des liens significatifs consiste à supprimer tout élément trompeur ou dangereux", a déclaré Risa Stein, vice-présidente des produits de Bumble, dans une déclaration à TechCrunch. «Nous nous engageons à améliorer continuellement notre technologie pour garantir que Bumble soit un environnement de rencontres sûr et fiable. En introduisant cette nouvelle option de reporting, nous pouvons mieux comprendre comment les mauvais acteurs et les faux profils utilisent l’IA de manière malhonnête afin que notre communauté se sente en confiance pour établir des liens.
La nouvelle option de reporting fait suite au lancement par Bumble d'un outil d'IA appelé « Deception Detector », qui utilise l'IA et la modération humaine pour détecter et supprimer les faux profils, les spammeurs et les escrocs. Depuis le lancement de la fonctionnalité en février, Bumble affirme que les rapports de membres concernant le spam, les escroqueries et les faux profils ont diminué de 45 %. » alimenté par l'IA Bumble dispose également d'un outil « Private Detector qui brouille automatiquement les photos de nus.
Alors que Bumble lutte contre les profils générés par l'IA, la fondatrice de l'entreprise, Whitney Wolfe Herd, a des idées intéressantes sur la technologie. Au cours d’une interview, Herd a déclaré que l’avenir des rencontres en ligne pourrait être celui où les « concierges » ou assistants de rencontres d’IA se rendront à des centaines de rendez-vous en votre nom pour trouver la personne idéale. Nous ne savons pas combien de personnes seront d’accord avec cette idée, mais chacun a son avis.