Arizona Tribune - La loi américaine contre les deepfakes pornos entre en vigueur

Le président Donald Trump avait promulgué l'an dernier le Take It Down Act, qui criminalise la diffusion en ligne d'images sexuelles non consenties, souvent créées à l'aide d'outils d'intelligence artificielle bon marché.

La Federal Trade Commission (FTC) a déclaré qu'à partir de mardi, les plateformes étaient tenues de mettre en place une procédure permettant aux victimes de demander le retrait de ce type de contenu et devaient le supprimer dans les 48 heures, sous peine de sanctions.

"Nous sommes prêts à surveiller la conformité, à enquêter sur les violations et à faire appliquer" la loi, a déclaré le président de la FTC, Andrew Ferguson, après avoir envoyé des courriers à plus d'une douzaine d'entreprises de la tech dont Meta, TikTok, X et Snapchat.

"Protéger les plus vulnérables — en particulier les enfants — est une priorité absolue."

Lundi, le compte Safety de X a affirmé n'accorder "aucune place (...) pour les prédateurs qui partagent des photos et vidéos intimes d'autrui sans leur consentement". La plateforme dit "appliquer une tolérance zéro à l'égard des images intimes non consenties, des contenus sexuels non désirés ou de toute forme de comportement d'exploitation".

- "Tirer d'abord" -

L'outil d'intelligence artificielle Grok, du milliardaire Elon Musk, a suscité un tollé international cette année pour avoir déshabillé virtuellement des femmes et des mineurs sans leur consentement.

Des chercheurs ont déterminé que Grok avait généré environ trois millions d'images sexualisées en quelques jours. Mais certains experts avertissent que le "Take It Down Act" est très imparfait.

Riana Pfefferkorn, chercheuse au Stanford Institute for Human-Centered Artificial Intelligence, estime que la loi s'appuie sur le principe du "tirer d'abord, ne jamais poser de questions". Il ne s'agit "que de supprimer, supprimer, supprimer", ajoute-t-elle dans Indicator, newsletter sur la tromperie en ligne.

L'experte craint aussi que la loi puisse être utilisée contre les personnes trans, les travailleurs du sexe et les discours qui s'opposent à l'administration.

Le texte inquiète d'autres défenseurs de la liberté d'expression, qui avertissent qu'il pourrait encourager les plateformes digitales à modérer avec un zèle excessif des contenus non problématiques afin de ne pas s'exposer à la loi.

Si des personnalités politiques et des célébrités de premier plan, dont la chanteuse Taylor Swift, ont été victimes de porno deepfake, les chercheurs affirment que les femmes qui ne sont pas sous les projecteurs sont tout aussi vulnérables.

Une série de scandales liés au porno généré par IA a été signalée dans des établissements scolaires à travers plusieurs États américains — de la Californie au New Jersey —, où des centaines d'adolescents ont été pris pour cible par leurs propres camarades.

De telles images peuvent entraîner du harcèlement, du bullying ou du chantage, provoquant parfois des conséquences dévastatrices sur la santé mentale.

Mais le sujet est planétaire. Selon certains experts, l'essor des deepfakes non consentis en ligne dépasse les efforts de régulation, en raison de la prolifération d'outils d'IA, notamment des applications de "nudification".

T.Perez--AT