Google commencera à utiliser l’IA pour détecter et bloquer certains comptes d’utilisateurs

Google a annoncé qu’il utiliserait l’IA pour bloquer les comptes d’utilisateurs qui violent les conditions d’utilisation de l’entreprise. Quelques mois après avoir révélé qu’il compterait sur l’apprentissage automatique pour identifier les mineurs sur ses plateformes, le géant technologique a donné le feu vert à l’utilisation de cette technologie. Google vaudra l’IA pour calculer l’âge d’un utilisateur et le bloquer s’il viole les règles.

Selon un article de blog, Google a confirmé qu’il commencerait à mettre en œuvre la garantie d’âge dans un petit groupe d’utilisateurs. La technologie utilisera un système d’estimation d’âge basé sur l’apprentissage automatique, ainsi que d’autres outils de contrôle parental. L’objectif sera d’identifier les enfants de moins de 18 ans sur toutes leurs plateformes et d’effectuer les ajustements pertinents.

Une fois que l’IA détecte qu’un mineur utilise certains services de Google, activera les protections de sécurité pour les comptes des mineurs. Dans le cas de YouTube, les outils de puits numériques seront activés et les recommandations de contenu seront ajustées. Le système limitera l’accès à certaines vidéos et vous empêchera même de les voir à plusieurs reprises.

D’un autre côté, le compte n’aura plus accès à la chronologie des cartes et ne pourra pas accéder aux applications pour adultes dans le Play Store. Google restreindra également les annonces sensibles et désactivera la publicité personnalisée, deux composantes pour lesquelles l’entreprise a dû répondre aux tribunaux.

C’est ainsi que je calcule votre âge avant de limiter votre compte Google

Selon la publication, le modèle d’IA interprète plusieurs signaux pour déterminer si le compte appartient à un mineur. Parmi eux, le type d’informations que vous recherchez, les catégories de vidéos qui regardent YouTube ou l’âge du compte. Une fois déterminé qu’il peut s’agir d’un enfant de moins de 18 ans, vous enverrez un e-mail pour l’informer.

Le système n’est pas infaillible et peut faire des erreurs, donc les utilisateurs auront des options en cas de faux positif. Si Google a marqué votre compte comme celui d’une mineure pour regarder des vidéos de Peppa Pig sur YouTube, vous pouvez vérifier votre âge en portant une photo de votre identification officielle (DNI, INE, passeport, livret militaire, etc.) ou à travers un selfie.

« La garantie d’âge nous aide à nous assurer que les adultes peuvent accéder aux informations et services dont ils ont besoin, tout en appliquant les protections appropriées pour nos plus jeunes utilisateurs », a déclaré Google. « Notre approche d’assurance d’âge utilise une combinaison d’estimation et, si nécessaire, la vérification de l’âge. »

La détection du nouvel âge commencera à être mise en œuvre aux États-Unis. À en juger par la stratégie générale de Google, cette fonction est très susceptible de s’étendre à d’autres pays, bien qu’il soit vérifié qu’il est conforme aux normes de protection des données.