Les adolescents ont pris l'habitude de discuter avec des assistants vocaux sur Facebook, Instagram et Messenger , ce qui inquiète de nombreuses familles quant aux questions posées et aux réponses obtenues. Pour les rassurer, Meta a lancé une nouvelle fonctionnalité de surveillance permettant aux parents de consulter les sujets abordés par leurs enfants avec Meta AI, sans avoir à lire l'intégralité des conversations.
Cette mise à jour s'intègre aux outils de surveillance existants et est complétée par un tableau de bord « Statistiques » au sein du Centre familial , où les adultes peuvent consulter un récapitulatif hebdomadaire des demandes des enfants. L'entreprise associe à ce système de nouvelles alertes pour les conversations sensibles et une norme de sécurité qui limite les types de réponses que l'IA peut proposer aux adolescents.
Comment fonctionne le nouveau système de surveillance des conversations avec Meta AI
Meta a annoncé que les parents ayant activé le contrôle parental sur les comptes de leurs enfants pourront consulter une section dédiée dans le Centre familial, regroupant les sujets abordés avec Meta AI au cours des sept derniers jours . Cet outil est actuellement disponible pour les utilisateurs qui surveillent les comptes d'adolescents sur Facebook, Instagram et Messenger, et sera déployé progressivement dans d'autres régions, notamment en Europe.
Le panneau n'affiche pas le contenu littéral des messages, mais plutôt une liste de sujets regroupés en grandes catégories . Celles-ci incluent l'école, les loisirs, le mode de vie, les voyages, l'écriture, la santé et le bien-être , permettant ainsi aux parents de se faire une idée des sujets qui intéressent leur adolescent lorsqu'il utilise le chatbot.
En sélectionnant l'un de ces thèmes, l'adulte accède à un niveau de détail supérieur grâce à des sous-catégories qui précisent sa recherche . Par exemple, la section « Style de vie » comprend des catégories telles que la mode, la cuisine et les vacances ; tandis que la section « Santé et bien-être » inclut des thèmes comme la forme physique, la santé physique, la santé mentale et l'image corporelle . L'objectif affiché de l'entreprise est de trouver un juste équilibre entre contrôle parental et respect de la vie privée.
Les informations sont présentées sous forme de résumé des activités de Meta AI sur sept jours , ventilées par application, permettant ainsi aux parents de voir si leur enfant pose davantage de questions sur Instagram, Facebook ou Messenger. Meta précise que même si l'IA ne répond pas à certaines questions pour des raisons de sécurité, celles-ci resteront visibles sur le tableau de bord parental.
D'après l'entreprise, cette fonctionnalité n'est qu'une première étape et sera perfectionnée au fil du temps en fonction des retours des familles et des experts en sécurité numérique . L'objectif est d'intégrer des modifications qui rendent l'outil plus utile sans pour autant le transformer en une forme de surveillance intrusive des conversations.
Une norme de contenu de type « 13+ » pour l'IA
L'entreprise a expliqué que les expériences d'IA destinées aux adolescents avaient été conçues selon des critères similaires au système de classification par âge des films PG-13 . Cela signifie que Meta AI ne devrait pas proposer de réponses jugées inappropriées pour cette tranche d'âge, ni accéder à des contenus explicites ou sensibles.
Lorsque l'IA détecte qu'une question pourrait être inappropriée, elle peut choisir de ne pas y répondre ou de rediriger l'utilisateur vers des ressources d'aide si elle concerne la santé mentale ou d'autres facteurs de risque. Le sujet de la question sera néanmoins consigné dans le récapitulatif visible par les parents dans l'Espace Famille, leur permettant ainsi de constater que leur enfant est préoccupé par un problème précis et de décider s'il convient d'en parler de vive voix. Dans ces cas-là, Meta intègre également des connaissances professionnelles sur le soutien et les ressources disponibles.
Outre ce filtre de contenu, Meta précise que le panneau de surveillance est organisé en plusieurs niveaux de détail : d’abord, une vue d’ensemble des principaux sujets couverts par Meta AI s’affiche , puis les sous-catégories, et enfin, des alertes spécifiques pouvant signaler des problèmes sensibles. Les messages ne sont jamais affichés intégralement.
Cette solution répond à une préoccupation récurrente du débat public : comment protéger les mineurs sans anéantir le sentiment de confidentialité numérique auquel les adolescents s’attendent dans leurs conversations ? Selon l’entreprise, la clé réside dans le fait d’informer les parents sur les centres d’intérêt et les préoccupations de leurs enfants, plutôt que de leur permettre de lire directement chaque conversation. Cet équilibre entre sécurité et accompagnement met également en lumière le rôle des parents , qui favorisent la confiance et l’autonomie.
Alertes concernant les risques tels que le suicide et l'automutilation
Outre le résumé thématique, Meta développe un système d'alerte proactif pour les conversations abordant des sujets très sensibles , comme le suicide ou l'automutilation. Ces notifications seraient déclenchées lorsqu'un adolescent tente d'entamer un dialogue avec l'IA sur ces thèmes, même si l'assistant bloque la réponse ou le redirige vers des ressources d'aide.
L'idée est qu'un parent ou un tuteur puisse être averti d'une interaction potentiellement préoccupante avec le chatbot et, dès lors, décider comment soutenir l'enfant, en intervenant si nécessaire. Meta avait déjà fait appel à des conseillers spécialisés dans le suicide et l'automutilation pour la conception de ses produits et intègre désormais plus directement cette expertise dans la surveillance par IA.
Ces alertes sont destinées à compléter les autres mesures de sécurité déjà en place pour les comptes adolescents, telles que les limites de temps, les pauses programmées et la surveillance de l'activité de chat récente . L'entreprise affirme que ces niveaux de protection, associés à la modération des sujets abordés, visent à réduire les risques sans empêcher les jeunes d'utiliser la technologie à des fins éducatives ou récréatives.
Meta a constaté que l'acceptation des fonctionnalités de contrôle parental est en hausse et qu'aux États-Unis seulement, le nombre d'adolescents dont les comptes sont surveillés a plus que doublé par rapport à l'année précédente. Cependant, les recherches internes de l'entreprise indiquent que le contrôle parental seul a un effet limité sur l'utilisation compulsive des réseaux sociaux, ce qui rend nécessaire le recours à d'autres approches pour compléter ces mesures.
Des outils sont disponibles pour les familles sur Facebook et Instagram.
La nouvelle option permettant de consulter les sujets abordés avec Meta AI s'intègre à un système de contrôle parental plus vaste que Facebook et Instagram proposent déjà aux familles. Tous ces paramètres sont centralisés dans le Family Center, un espace où les adultes peuvent gérer la surveillance et accéder aux ressources de sécurité numérique.
Dans ce contexte, les parents peuvent activer un système de surveillance des comptes qui relie leur profil à celui de leur adolescent . Cela leur permet de consulter, par exemple, les demandes d'amis reçues, les nouveaux abonnés ou le temps passé sur chaque application, et de fixer des limites d'utilisation quotidiennes si nécessaire. La surveillance des comptes est un outil qui peut être combiné à une communication ouverte et à des règles familiales établies.
Des paramètres permettent également d'améliorer la confidentialité et le contrôle des messages directs . Ces paramètres permettent notamment d'indiquer aux enfants qui peut voir leurs publications, qui est autorisé à leur envoyer des messages privés et comment gérer les informations personnelles qu'ils partagent sur leur profil, ainsi que de restreindre les contacts par message direct provenant de comptes non fiables.
Le Centre familial propose également un historique permettant aux parents de vérifier si leur adolescent a signalé des contenus ou des comptes, et dans quel contexte . De plus, il met à disposition des guides et des ressources pédagogiques abordant des sujets tels que la cyberintimidation, le bien-être numérique et la gestion de la pression sociale sur les réseaux sociaux, avec des conseils pratiques pour en discuter à la maison.
Dans ce contexte, l'intégration d'un résumé des sujets abordés avec l'IA vise à fournir une couche de contexte supplémentaire : non seulement savoir combien de temps l'enfant passe sur les réseaux sociaux, mais aussi comment il utilise les chatbots intégrés à ces plateformes et quels types de sujets il décide d'aborder avec eux.
Ressources pour parler d'intelligence artificielle avec les adolescents
Meta comprend que de nombreux parents ne se sentent pas tout à fait à l'aise pour expliquer ce qu'est l'IA et comment l'utiliser de manière responsable . C'est pourquoi l'entreprise a collaboré avec le Dr Sameer Hinduja, cofondateur du Centre de recherche sur la cyberintimidation, afin de développer une série de pistes de discussion pour aider les familles à aborder ce sujet.
Il s'agit de questions ouvertes conçues pour favoriser un dialogue sans jugement sur l'expérience de l'adolescent avec l'IA . Chaque question est accompagnée d'un guide à l'intention de l'adulte, détaillant son objectif et proposant des pistes pour l'aborder au mieux, afin que la conversation ne ressemble pas à un interrogatoire ou à une tentative de contrôle excessif.
Ces ressources seront disponibles dans le Centre d'aide et dans la section « Résultats » du Centre familial . Ainsi, si les parents remarquent que leur enfant pose beaucoup de questions sur sa santé, ses études ou ses problèmes émotionnels, ils pourront utiliser ces guides pour entamer une conversation plus sereine et constructive.
L'entreprise insiste sur le fait que la technologie seule ne suffit pas à résoudre les risques liés à l'utilisation intensive des réseaux sociaux et des systèmes d'IA, et qu'il est nécessaire de la combiner à une éducation numérique, à un accompagnement et au développement de l'esprit critique des mineurs. Dans cette optique, la surveillance des sujets abordés avec Meta AI est envisagée comme un outil supplémentaire au sein d'une stratégie de protection plus globale.
Le rôle des experts et les défis qui restent à relever
Pour renforcer cette approche, Meta a créé un Conseil d'experts sur le bien-être et l'IA , composé de spécialistes du suicide, de l'automutilation, de la jeunesse, de l'image corporelle et de l'éthique de l'intelligence artificielle. Nombre d'entre eux ont déjà collaboré avec l'entreprise en tant que conseillers dans divers domaines liés à la protection de l'enfance.
Ce conseil se réunira régulièrement avec les équipes en charge des politiques et des produits de l'entreprise afin d' examiner les expériences d'IA destinées aux adolescents et de formuler des recommandations. Il évaluera notamment si les réponses de Meta AI sont conformes aux normes de contenu pour les 13 ans et plus, et si les outils de surveillance, tels que le nouveau panneau thématique, sont appropriés et proportionnés.
Cette initiative intervient dans un contexte de pressions réglementaires et sociales croissantes concernant l' impact des réseaux sociaux et de l'intelligence artificielle sur la santé mentale des enfants . Les gouvernements et les autorités de protection des données en Europe et dans d'autres régions analysent comment concilier le droit des adolescents à la vie privée et la nécessité de prévenir les situations à risque, telles que le cyberharcèlement, l'exploitation sexuelle et l'exposition à des contenus préjudiciables.
Bien que les nouveaux contrôles parentaux constituent un pas vers un environnement numérique plus sûr, plusieurs études indiquent que l'ajout de boutons et de filtres supplémentaires est insuffisant sans remettre en question la conception globale des plateformes, les algorithmes qui encouragent leur utilisation intensive et les dynamiques sociales qui se développent autour d'elles. En ce sens, la surveillance des conversations alimentées par l'IA contribue à un débat plus large sur la manière dont ces technologies devraient être conçues.
Grâce à ces mesures, Meta souhaite mieux informer les parents sur les activités de leurs enfants lorsqu'ils utilisent un assistant conversationnel intégré à Facebook ou Instagram, tout en préservant la confidentialité du contenu exact de chaque message. L'équilibre entre sécurité, confiance et autonomie des adolescents reste délicat, mais la possibilité de consulter les principaux sujets abordés avec l'IA peut aider de nombreuses familles à identifier rapidement les problèmes et à engager des discussions plus éclairées à la maison.
