La Unesco alerta que la IA generativa propaga prejuicios sexistas / Foto: Kirill Kudryavtsev - AFP/Archivos
-
Valentino Palacios explica su polémico comentario sobre quienes madrugan para trabajar
-
Cristian Zuárez replica a la hija de Laura Bozzo por sus críticas
-
Giuli Cunha responde a la controversia con Ana Paula Consorte
-
Alfredo Zambrano rechaza acusaciones y niega vínculos con Andrés Hurtado
-
Dina Páucar anuncia que será abuela por primera vez
-
Alianza Lima derrotó a Cienciano y tomó el primer lugar del acumulado
-
Victoria mínima de Alianza Lima ante Cienciano en el Torneo Clausura
-
Alianza Lima superó a Cienciano en Matute con gol de Eryc Castillo
-
Alianza Lima venció 1-0 a Cienciano por la fecha 15 del Torneo Clausura
-
Eryc Castillo selló el triunfo de Alianza Lima sobre Cienciano con un gol de cabeza
-
Gonzalo Aguirre discutió con Horacio Melgarejo tras ser sustituido en Matute
-
Loterías de la Cruz Roja y del Huila: números ganadores del sorteo del 3 de noviembre
-
Ignacio Buse afronta ante Daniil Medvédev su gran prueba en el Masters 1000 de París
-
Se confirman las empresas participantes y los ponentes de Blue Magic Netherlands del 17 de noviembre
-
Vecinos y servicios de Urda relatan la respuesta ciudadana tras el accidente ferroviario
-
Trabajadores y usuarios describen un deterioro cotidiano de la alta velocidad española
La Unesco alerta que la IA generativa propaga prejuicios sexistas
Los grandes modelos de lenguaje de Meta y de OpenAI, que sirven de base para sus herramientas de inteligencia artificial generativa, propagan prejuicios sexistas, advierte un estudio publicado este jueves por la Unesco, en la víspera del Día Internacional de la Mujer.
Los modelos GPT 2 y GPT 3.5 de OpenAI, este último incorporado en la versión gratuita de ChatGPT, así como Llama 2, de su competidor Meta, ponen de manifiesto "pruebas inequívocas de prejuicios contra las mujeres", indicó la instancia de la ONU en un comunicado.
"Las discriminaciones del mundo real se reflejan en la esfera digital, y también se amplifican" en esas aplicaciones, subrayó Tawfik Jelassi, subdirector general de la Unesco para la comunicación y la información.
Según el estudio, realizado de agosto de 2023 a marzo de 2024, en estos modelos de lenguaje, los nombres femeninos se asocian más a palabras como "casa", "familia" o "hijos" y los nombres masculinos, a "comercio", "sueldo" o "carrera".
Además, los investigadores pidieron a esas interfaces que produjeran relatos sobre personas de diferentes orígenes y géneros.
Los resultados mostraron que las historias sobre "personas de culturas minoritarias a menudo eran más repetitivas y estaban basadas en estereotipos".
Así, un hombre inglés tenía más posibilidades de ser presentado como un profesor, un conductor o un empleado de banco y una mujer inglesa, en casi un tercio de los textos generados, aparecía como una prostituta, una modelo o una mesera.
Estas empresas "no logran representar a todos sus usuarios", declaró a la AFP Leona Verdadero, especialista en políticas digitales y de transformación digital en la Unesco.
"Cada día son más las personas que utilizan modelos de lenguaje en su trabajo, sus estudios y en casa", señaló Audrey Azoulay, directora general de la Unesco, destacando que estas aplicaciones "tienen el poder de moldear sutilmente las percepciones de millones de personas".
"Incluso pequeños sesgos de género en su contenido pueden amplificar significativamente las desigualdades en el mundo real", advirtió Azoulay.
Para luchar contra estos prejuicios, la Unesco recomienda a las empresas del sector contar con equipos de ingenieros más diversos, sobre todo con más mujeres.
En los equipos que trabajan en inteligencia artificial, a nivel mundial, solo un 22% son mujeres, según cifras del foro económico mundial, recuerda la Unesco.
La instancia de la ONU también llama a los gobiernos a regular más intensamente el sector para poner en marcha una "inteligencia artificial ética".
E.Hall--AT
