Instagram utilisera l’IA pour détecter si vous mentez lors de la création de votre profil utilisateur
But Il implémente De nouvelles fonctions promues par l’intelligence artificielle sur Instagram pour restreindre davantage les comptes des adolescents. Dans une publication de son blog, la société déclare que l’objectif est de s’assurer que les adolescents sont situés dans des environnements appropriés, même s’ils mentent sur leur âge pendant la création du compte.
Initialement, l’IA a analysé les interactions et les signaux spécifiques, tels que les messages liés aux anniversaires. Maintenant, l’objectif étend cet effort Annulation des configurations manuelles Dans certains cas, pour classer et restreindre les comptes des adolescents. Cette nouvelle couche de contrôle ajustera automatiquement un profil suspect et Il le placera dans la configuration des comptes pour les adolescents.
Les adolescents sont avec plusieurs restrictions: les profils sont privés privés, les utilisateurs inconnus ne peuvent pas leur envoyer des messages et le contenu qu’ils voient est limité. Meta a maintenant ajouté plus de contrôles, notamment Restrictions sur les images Instagram Live et partagées dans des messages directs. Les enfants de moins de 16 ans doivent désormais obtenir la permission de leurs parents avant de transmettre une fonction directe ou désactivée qui brouille le nus Soumis par message.
Comment le classificateur d’âge fonctionne pour Instagram
Le classificateur d’intelligence métadacique Déterminez si les utilisateurs sont susceptibles d’être des adolescents ou les adultes selon une combinaison de signaux. Il s’agit notamment des dates de création de profil, du comportement d’interaction avec le contenu et d’autres données de participation. L’entreprise a développé des ensembles de données d’évaluation, les examinateurs humains étiquettent les publications anonymes, telles que les messages d’anniversaire, à former et à tester les performances du modèle d’IA.
Avant de mettre en œuvre le classificateur d’âge, L’objectif prouve son pays de précision par pays, s’adaptant aux variations du comportement et de l’utilisation de la plate-forme. Il garantit également que le classificateur fonctionne bien dans différents groupes démographiques, y compris les nouveaux utilisateurs qui peuvent ne pas avoir assez d’historique d’interaction. Une fois le système mis en œuvre, le modèle est en train de suivre périodiquement des données mises à jour pour maintenir la précision au fil du temps.
Meta a déclaré que Les utilisateurs à tort identifiés comme adolescents auront la possibilité de faire appel Pour demander des modifications dans votre configuration. Cependant, la société soutient que son cadre pour mesurer la précision de l’IA est solide et est en évolution continue. Meta dit que l’ensemble de données est examiné et mis à jour pour s’assurer que le modèle est aligné sur le comportement du monde réel.
L’entreprise continuera de tester la fonction dans les comptes Instagram américains Avant de l’étendre à d’autres régions. Le déploiement de l’IA en tant que mécanisme d’aide dans la protection des mineurs est dû à la pression continue des régulateurs. En 2024, la Commission européenne a ouvert une enquête pour savoir si Instagram et Facebook génèrent une dépendance chez les mineurs.
