Google et Bing incluent les « deepfakes » pornographiques de célébrités dans leurs résultats de recherche
Google et Bing, les moteurs de recherche les plus importants au monde, donnent la priorité contrefaçons profondes porno de célébrités non consensuelles sur leurs pages de résultats. Les principales victimes sont des femmes célèbres, exposés dans des nus ou des scènes sexuelles falsifiées, créées avec l’intelligence artificielle.
La consultation de conditions générales telles que «contrefaçons profondes porno » ou « faux nus » renvoie des millions de résultats sur des actrices, chanteuses et autres artistes. Cela se produit à la fois sur Google et sur Bing. Certains liens dirigent vers des portails pornographiques reconnus et d’autres vers des sites spécialisés dans la génération de ce type de faux contenus.
NBCActualités Il fit un exercice plus approfondi : il chercha le mot «contrefaçons profondes» à côté des noms de 36 célébrités féminines. Dans les principaux résultats de Google, il a trouvé contrefaçons profondes porno non consensuel avec l’image de 34 de ces femmes. De fausses photos et vidéos de 35 d’entre eux sont apparues sur Bing. Plus de la moitié des meilleurs résultats étaient des liens vers deux portails Web qui se présentent comme spécialisés dans ces matériaux créés avec l’IA.
Sensity, une société basée à Amsterdam qui se consacre à la détection des faux contenus, prévenait déjà en 2019 que 96 % des vidéos contrefaçons profondes sur Internet, ils étaient pornographiques. La plupart d’entre eux avaient pour victimes des femmes qui n’avaient pas donné leur consentement. Toute cette violence s’est désormais renforcée avec le lancement de nouveaux outils d’intelligence artificielle.
Les contrefaçons profondes porno, en entier boom de l’intelligence artificielle
L’enquête sur le BNC rapporte que la recherche de « faux nus » sur Google renvoie plusieurs liens vers applications et programmes pour créer contrefaçons profondes pour ne pas. Ces pages précèdent les articles qui dénoncent les dégâts et le danger de cette tendance.
Copilot, le chatbot d’intelligence artificielle de Microsoft, a répondu à une question sur le sujet : « l’utilisation de contrefaçons profondes « C’est contraire à l’éthique et peut avoir de graves conséquences. ». Cependant, Bing propose également des dizaines d’applications dans ses résultats présentés pour créer contrefaçons profondes.
Google permet aux victimes de demander la suppression de ce contenu des résultats de recherche via un formulaire. Mais il ne recherche ni ne supprime contrefaçons profondes porno de manière proactive. « Nous examinons uniquement les URL que vous ou votre représentant autorisé soumettez dans le formulaire », indiquent-ils sur la page d’aide.
Le Play Store de Google interdit « les applications qui promeuvent ou perpétuent des images, des vidéos et/ou des textes manifestement trompeurs ou trompeurs ». Cependant, il continue d’héberger FaceMagic, une application qui a même été directement promue comme un outil permettant de créer des deepfakes pornographiques.
Le contenu apparaissant dans les meilleurs résultats de recherche d’images de Bing comprend de fausses photos explicites d’anciennes actrices adolescentes de Disney Channel. « Certaines images utilisent des photographies de leurs visages qui semblent avoir été prises avant l’âge de 18 ans », indique le rapport. BNC.
Que disent Google et Microsoft ?
« Nous comprenons à quel point ce contenu peut être pénible pour les personnes concernées et nous travaillons activement à fournir davantage de protection à la recherche », a déclaré un porte-parole de Google. BNC. L’entreprise technologique a expliqué que, comme tout moteur de recherche, elle indexe tout le contenu existant sur le Web. « Mais nous concevons activement nos systèmes de notation pour éviter de surprendre les gens avec un contenu inattendu, explicite ou préjudiciable qu’ils ne recherchent pas », ont-ils ajouté dans un communiqué.
« À mesure que cet espace évolue, nous sommes en train de mettre en place des garanties plus larges, en mettant particulièrement l’accent sur l’élimination de la nécessité pour les victimes connues de demander la suppression d’un contenu une par une. »
Porte-parole de Google.
Microsoft a précisé en août de l’année dernière qu’il considérait la contrefaçons profondes porno dans sa catégorie d’images intimes non consensuelles (NCII). Comme Google, il dispose d’un formulaire permettant aux victimes de signaler ce type de contenu.
« La distribution du NCII constitue une grave violation de la vie privée et de la dignité personnelle, avec des effets dévastateurs pour les victimes », a déclaré un porte-parole de l’entreprise. « Microsoft interdit le NCII sur nos plateformes et services, y compris la sollicitation du NCII ou la promotion de la production ou de la redistribution d’images intimes sans le consentement de la victime. »
La responsabilité de mettre fin à cette pratique violente n’incombe pas uniquement aux moteurs de recherche. Pornhub, le plus grand site pornographique au monde, créé depuis 2018 qui contrefaçons profondes Il s’agissait de porno non consensuel. Depuis, ce type de matériel a été interdit.. Et à Mexico, par exemple, un projet de loi est en cours de discussion cherche à punir toute personne qui génère de faux contenus intimes en utilisant l’intelligence artificielle d’une peine pouvant aller jusqu’à 12 ans de prison.
