Arizona Tribune - Imágenes de carácter sexual creadas por Grok en X, el nuevo escándalo de Musk

Estos son los principales puntos de esta enésima polémica de la plataforma de Elon Musk.

- En bikini -

Grok, el chatbot desarrollado por la empresa estadounidense xAI, dispone de su propia cuenta en la red social X, lo que permite a los usuarios interactuar con él.

Hasta la semana pasada, todos los internautas podían mencionar al bot en sus publicaciones para pedir la creación o la modificación de imágenes, que luego recibían como respuesta.

Algunos aprovecharon este servicio para publicar o responder a mensajes con fotografías de mujeres, acompañándolas de órdenes como "Ponle un bikini" para obtener a cambio un montaje ultrarrealista ("deepfake" en inglés).

Desde el 9 de enero, la función de creación de imágenes fue desactivada para los usuarios que no son de pago en la plataforma.

Aunque ya existen dispositivos que permiten crear imágenes íntimas no consentidas con IA, Grok fue el primero en popularizar esta deriva integrándola directamente en una red social.

El fenómeno se agravó con la aparición de fotografías trucadas en las que se incluía a menores.

Algunos usuarios también utilizaron este bot para generar imágenes sexualizadas de las víctimas del incendio de Crans-Montana, en Suiza, y de la mujer asesinada a manos de la policía migratoria en Mineápolis a principios de enero.

Un análisis realizado la semana pasada por la oenegé AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores.

- ¿Qué hicieron los gobiernos? -

Indonesia y Malasia suspendieron el acceso e India aseguró haber retirado miles de contenidos y eliminado cientos de cuentas.

En Reino Unido, el regulador de seguridad en internet abrió el lunes una investigación contra la red social, que podría desembocar en una multa de hasta el 10% de su facturación mundial. El organismo también podría recurrir a la justicia para bloquear la plataforma.

El primer ministro británico, Keir Starmer, afirmó que "si X no puede controlar a Grok, lo haremos nosotros, y lo haremos rápido". En su opinión, reservar esta opción a los usuarios de pago "convierte una funcionalidad que permite la creación de imágenes ilegales en un servicio premium" y constituye "una afrenta a las víctimas de la misoginia y de las violencias sexuales".

En Francia, la ministra a cargo de los asuntos digitales, Anne Le Hénanff, denunció una decisión "insuficiente e hipócrita", y declaró que "si X puede desactivar esta funcionalidad para los que no están abonados, entonces puede hacerlo para todos".

La UE anunció haber impuesto a X una medida cautelar a raíz del escándalo.

"No externalizaremos la protección infantil y el consentimiento a Silicon Valley. Si ellos no actúan, lo haremos nosotros", advirtió esta semana la presidenta de la Comisión, Ursula von der Leyen.

- ¿Cómo reaccionó X? -

A principios de enero, la plataforma afirmó que estaba tomando "medidas contra los contenidos ilegales", especialmente la pornografía infantil, "eliminándolos, suspendiendo de forma permanente las cuentas y colaborando con las autoridades locales".

Cualquier persona que utilice Grok para "crear contenido ilegal sufrirá las mismas consecuencias que si publicara contenido ilegal", se defendió la semana pasada Elon Musk en un mensaje publicado en X.

El multimillonario también arremetió contra los dirigentes políticos que reclaman medidas de bloqueo. Para él, los detractores de X y Grok "simplemente quieren suprimir la libertad de expresión".

E.Hall--AT