Google déclare la guerre aux « deepfakes » pornographiques dans son moteur de recherche
Google a annoncé une mesure pour lutter contrefaçons profondes générés par l’intelligence artificielle. L’entreprise technologique a mis en œuvre de nouvelles fonctions de sécurité qui supprimera le faux contenu explicite dans les recherches. Cette fonctionnalité permettra aux utilisateurs de signaler un faux profond et supprimez tous les résultats associés.
L’entreprise mentionne qu’il y a eu une augmentation inquiétante du nombre de fausses images et vidéos montrant des personnes dans contextes sexuellement explicites. Bien que la manipulation d’images existe depuis des décennies, l’IA a aggravé le problème. L’un des exemples les plus récents s’est produit en janvier, lorsque Twitter (X) s’est rempli de contrefaçons profondes Taylor Swift porno.
La stratégie de Google s’appuie sur une nouvelle politique d’IA pour YouTube annoncée début juillet. L’entreprise l’a étendu aux résultats de recherche. Les utilisateurs peuvent demander le retrait d’un faux profond tant que ce sont eux qui sont concernés. Après avoir rempli un formulaire et l’avoir soumis, Google examinera la demande et l’évaluera en fonction de ses critères avant de supprimer la vidéo ou l’image de votre recherche.
Lorsqu’un deepfake est supprimé de la recherche, Les systèmes Google supprimeront également les doublons et filtrera les résultats explicites de recherches similaires. L’entreprise technologique mentionne que cette stratégie s’est avérée efficace dans d’autres types d’images. Les utilisateurs n’auront pas à s’inquiéter de la réapparition de ce contenu dans le futur, car le moteur le bloquera.
Google filtrera le contrefaçons profondes dans les résultats de recherche
Un autre effort pour lutter contrefaçons profondes Cela a à voir avec la classification des moteurs de recherche. Google mentionne avoir mis à jour les systèmes de classement afin de réduire le contenu faux pour de nombreuses recherches. Maintenant, lorsque l’utilisateur tape « contrefaçons profondes par Taylor Swift » vous obtiendrez des résultats de qualitécomme des actualités ou des articles pertinents de leurs tournées.
Selon l’entreprise technologique, les mises à jour de la classification réduction des résultats d’images explicites de 70 %. « Ce contenu peut être profondément pénible pour les personnes concernées. C’est pourquoi nous avons investi dans des politiques et des systèmes de longue date pour aider les gens à mieux le contrôler », a déclaré Emma Higham, chef de produit chez Google.
Même si l’élimination de contrefaçons profondes explicite est une bonne idée, la stratégie pourrait affecter d’autres résultats. Google mentionne qu’il travaille pour que son moteur de recherche apprenne à différencier les contenus réels et consensuels de ceux générés par l’IA. Ces scènes d’Eva Green dans Les rêveurs ou Léa Seydoux dans Le bleu est la couleur la plus chaude Ils représenteraient un défi pour Google, mais le système de classement les aidera.
Les modifications apportées à la recherche Google seront mises en œuvre progressivement. La politique de contrefaçons profondes Explicite s’applique non seulement à la recherche, mais également aux vidéos YouTube, où les utilisateurs peuvent signaler s’ils ont été victimes de l’IA générative.
