Les deepfakes sexuels de Taylor Swift sont issus d’une « compétition » 4chan
Les contrefaçons profondes Les histoires sexuelles de Taylor Swift proviennent de 4chanprévient un rapport de la société Graphika (via Bloomberg). Selon cette firme, les images virales du chanteur ont été créées dans le cadre d’un « concours » qui se déroule depuis plusieurs semaines sur le forum controversé.
Plus précisément, il s’agit d’un défi dans lequel les participants tentent de trouver de nouveaux mots ou expressions qui leur permettent de échapper aux garanties qui utilisent des générateurs d’images dotés d’intelligence artificielle. Ces tests sont effectués sur des applications populaires telles que DALL-E d’OpenAI et Microsoft Designer, comme mentionné. Le but ultime? Contourner les blocages pour créer du matériel pornographique contrefait mettant en vedette des femmes célèbres, telles que des artistes et des politiciens.
Ce qui est curieux dans cette situation, c’est que, même si ses images sont devenues virales sur de multiples plateformes et ont eu un impact immédiat au niveau mondial, Les analystes disent que Taylor Swift n’est pas la personnalité publique la plus ciblée sur 4chan. D’autres célébrités également concernées par le « concours » étaient l’actrice Emma Watson et les chanteuses Ariana Grande et Billie Eilish.
« Bien que les images pornographiques virales de Taylor Swift aient attiré l’attention sur le problème des photographies intimes non consensuelles générées par l’IA, elle est loin d’être la seule victime », a noté Graphika.
Quand le premier contrefaçons profondes Les actes sexuels de Taylor Swift ont été révélés, plusieurs sont devenus viraux sur X (Twitter). Le réseau social d’Elon Musk a été très critiqué pour le temps qu’il a fallu pour supprimer certaines des publications contenant le matériel. Cela lui a non seulement permis d’être vu par des millions de personnes, mais a également facilité sa republication sur des milliers de comptes, même après la suppression de la source originale.
L’affaire était tellement d’actualité que la plateforme a été contrainte de censurer les recherches liées au chanteur. Une mesure qui était en vigueur depuis quelques jours. Microsoft, quant à lui, a implémenté des limitations dans Designer, après avoir appris que de fausses photos de Taylor Swift Ils avaient été créés avec cet outil.
Les contrefaçons profondes Les histoires sexuelles de Taylor Swift proviennent de 4chan
Même si les photographies falsifiées de Taylor Swift ont explosé lorsqu’elles sont devenues virales sur X (Twitter), on savait qu’elles provenaient de l’extérieur du réseau social. Les experts avaient réussi à détecter la répartition du contrefaçons profondes sexe sur diverses chaînes et groupes Telegram. Cependant, ce sont les analystes de Graphika qui ont pu retracer l’origine du matériel jusqu’au « concours » susmentionné sur 4chan.
Le défi que les utilisateurs du forum ont lancé cherche briser les mécanismes de sécurité que les applications basées sur l’IA générative ont mises en œuvre. Ce qui montre clairement que le blocage de certains mots et instructions est encore loin d’être infaillible.
Les experts préviennent que les créateurs du contrefaçons profondes sexe de Taylor Swift et d’autres célébrités Ils donnent un « caractère jouable » à cette activité malveillante. « Ces images proviennent d’une communauté de personnes motivées par le ‘défi’ de contourner les garanties des produits d’IA générative, et les nouvelles restrictions sont considérées comme simplement un autre obstacle à la ‘défaite' », a déclaré Graphika.
L’utilisation de l’intelligence artificielle pour générer des photos et des vidéos pornographiques falsifiées mettant en vedette des femmes célèbres n’est pas nouvelle. En effet, l’utilisation de photographies prises sur les réseaux sociaux pour créer contrefaçons profondes de personnes qu’on ne connaît pas. Une stratégie utilisée par des acteurs malveillants pour extorquer de l’argent en ligne.
L’affaire Taylor Swift a une nouvelle fois mis les projecteurs sur le devant de la scène. Que font les grandes entreprises technologiques pour empêcher la propagation de ce matériel ?. Google et Microsoft disposent tous deux d’outils pour demander la suppression de contenus contrefaits, mais ils n’analysent pas le Web de manière proactive pour les trouver. Et leurs moteurs de recherche sont critiqués pour avoir donné un accès facile aux sites qui créent ou distribuent ce matériel.
