Arizona Tribune - Instagram va filtrer davantage de contenus sur les comptes ados et encadrer l'IA

Le groupe prévoit aussi d'encadrer, à partir de l'année prochaine, les conversations que les jeunes utilisateurs peuvent avoir avec ses assistants d'intelligence artificielle (IA).

Cette mise à jour intervient un peu plus d'un an après le lancement, en septembre 2024, des comptes ados, qui sont assignés, par défaut, à tous les utilisateurs de 13 à 18 ans (la plateforme n'accepte pas d'internautes plus jeunes).

La nomenclature initiale des comptes ados écartait déjà les contenus à caractère sexuels, images explicites ou choquantes.

La version actualisée va désormais également masquer ou ne pas recommander "toute publication contenant du langage grossier, certains défis considérés comme risqués", ou plus généralement des contenus à même d'inciter à "des comportements potentiellement nocifs", selon un communiqué.

"On ajoute une barrière supplémentaire par défaut pour les adolescents, notamment face aux contenus sensibles et inadaptés", a expliqué Capucine Tuffier, responsable des affaires publiques en charge de la protection de l'enfance chez Meta.

Le cadre révisé des comptes ados va être appliqué, dans l'immédiat, aux Etats-Unis, au Canada, au Royaume-Uni et en Australie, avant d'être étendu à d'autres pays dans les mois à venir.

Pour déterminer quels éléments doivent être rendus invisibles aux adolescents, Meta s'est appuyé sur la classification "PG-13" utilisée au cinéma aux Etats-Unis et qui avertit les parents que certains passages de films sont déconseillés aux enfants de moins de 13 ans.

Il n'existe pas de liste exhaustive des sujets ou images qui peuvent entraîner l'attribution de ce label, laquelle est à la discrétion d'une commission dédiée (CARA), composée de parents indépendants.

"On veut se mettre dans les paramètres les plus restrictifs et les plus protecteurs pour les adolescents", a dit Capucine Tuffier en réponse à une question sur la décision d'adopter, pour les 13-18 ans, des normes prévues initialement pour les moins de 13 ans.

Elle a donné l'exemple de contenus promouvant des "régimes drastiques" ou "qui glorifient ou font la promotion de l'alcool ou du tabac". La classification des messages, images ou vidéos postées se fait par une combinaison entre intelligence artificielle et jugement d'opérateurs humains.

- L'IA encadrée aussi -

Les utilisateurs de moins de 18 ans seront "automatiquement placés dans un mode 13+ et ils ne pourront pas en sortir sans autorisation parentale", précise Meta.

Le groupe ne s'appuie pas uniquement sur le déclaratif mais aussi sur des dispositifs de contrôle de l'âge déjà existants, qui repèrent d'éventuels "signaux" en fonction de l'usage de la plateforme.

En cas de doute, Meta demande une vérification de l'âge soit via la présentation de la carte d'identité soit par selfie vidéo.

Le géant des réseaux sociaux introduit aussi mardi la possibilité pour les parents d'imposer des restrictions supplémentaires aux contenus visibles par leurs adolescents.

Il s'agit de la fonctionnalité "contenu limité", qui permettra notamment d'empêcher les jeunes utilisateurs de voir, écrire ou recevoir des commentaires sous les publications.

"A partir de l'année prochaine", selon Meta, cette option "limitera aussi davantage les conversations avec l'IA (intelligence artificielle) que les adolescents peuvent avoir".

Ces évolutions interviennent sur fond de protestations contre les effets négatifs des réseaux sociaux et des assistants d'IA générative, suite notamment au suicide de plusieurs adolescents ces derniers mois.

Début septembre, l'agence américaine de protection des consommateurs, la FTC, a indiqué avoir ouvert une enquête sur les chatbots utilisés comme des compagnons IA, tels ChatGPT ou Grok, après une plainte récente contre OpenAI.

Quelques jours plus tôt, la start-up californienne avait annoncé instaurer un mécanisme de contrôle parental pour ChatGPT, après que des parents américains ont accusé fin août le chabot d'avoir encouragé leur enfant à mettre fin à ses jours.

Lundi, le gouverneur de l'Etat de Californie Gavin Newsom a promulgué une loi contraignant les opérateurs d'assistants IA à vérifier l'âge des utilisateurs et à rappeler toutes les trois heures pour les mineurs que l'interlocuteur est une machine.

J.Gomez--AT