Arizona Tribune - Acusan a la plataforma Hugging Face de alojar modelos de IA capaces de desnudar a personas

AI Forensics afirma que 7 de los 9 modelos de IA de retoque de imágenes más destacados por la plataforma "permiten a los usuarios desnudar a personas" con simples 'prompts', esas líneas de comandos expresadas en lenguaje corriente.

"Cualquier persona sin conocimientos técnicos puede introducir un prompt y obtener la imagen que quiere", explicó a la AFP Paul Bouchaud, uno de los autores del estudio.

En el marco de su trabajo, los investigadores explican que también colocaron en la plataforma, que aloja modelos de código abierto, una falsa interfaz de IA que ofrecía a los usuarios generar imágenes para observar sus solicitudes.

De las 1.081 peticiones realizadas en una semana, casi tres cuartas partes (73%) eran "de naturaleza sexual", detalla el informe, y "prácticamente todas para desnudar a mujeres", precisó Bouchaud.

Entre las solicitudes sexuales, el 6,7% se dirigía a una persona menor de edad, subraya también la ONG.

Consultada por la AFP, Hugging Face afirmó que ha "tomado este informe en serio" y que "adoptará medidas conformes a [sus] prácticas actuales de moderación allí donde se hayan puesto de manifiesto lagunas".

La plataforma denuncia, no obstante, "afirmaciones inexactas sobre la ausencia sistémica de moderación" de los contenidos y "metodologías que generan falsos positivos importantes y dan una imagen distorsionada del ecosistema en su conjunto".

A comienzos de enero, un análisis realizado por AI Forensics sobre más de 20.000 imágenes generadas en la red social X por Grok, el robot conversacional desarrollado por la empresa estadounidense xAI, reveló que más de la mitad representaban a personas ligeramente vestidas, de las cuales el 81% eran mujeres y el 2% parecían menores.

Aunque la empresa afirma haber introducido filtros desde entonces, estas imágenes de personas desnudas, en su mayoría sin su consentimiento, sumieron a la red social de Elon Musk en el centro de una polémica internacional y desencadenaron investigaciones en Reino Unido y la UE.

Desde entonces, el Parlamento Europeo ha votado la prohibición en la UE de los servicios de IA que permiten "desnudar" personas sin su consentimiento, una medida defendida también por los Estados miembros pero que todavía no se ha aplicado.

P.Hernandez--AT