Arizona Tribune - OpenAI detiene unos videos de Martin Luther King tras la indignación por unos deepfakes

Los herederos del líder de derechos civiles asesinado y OpenAI anunciaron en un comunicado conjunto el jueves por la noche que la empresa pausaría las generaciones que representan a King mientras "fortalece las medidas de seguridad para figuras históricas".

La decisión se produce cuando las familias de celebridades y líderes fallecidos han expresado indignación por la herramienta de video Sora 2 de OpenAI, que permite a los usuarios crear clips realistas de figuras históricas sin el consentimiento de la familia.

Algunos usuarios habían generado videos mostrando a King haciendo sonidos de mono durante su discurso "Tengo un sueño" y otros contenidos degradantes, según The Washington Post.

Videos reanimando a otras figuras fallecidas, incluyendo Malcolm X, Michael Jackson, Elvis Presley y Amy Winehouse, han inundado las redes sociales desde el lanzamiento de Sora 2 el 30 de septiembre.

"Si bien existen fuertes intereses de libertad de expresión en la representación de figuras históricas, OpenAI cree que las figuras públicas y sus familias deberían tener control sobre cómo se utiliza su imagen", dijo el comunicado conjunto.

La empresa dijo que los representantes autorizados o los propietarios del patrimonio ahora pueden solicitar que sus imágenes no sean utilizadas en los videos generados por IA en Sora.

OpenAI agradeció a Bernice King, la hija de King, "por comunicarse", así como al empresario John Hope Bryant y al Consejo de Ética de IA "por crear un espacio para conversaciones como esta".

La herramienta de texto a video ha escalado a la cima de las listas de descargas desde su lanzamiento, pero ha generado controversia inmediata.

La hija del actor Robin Williams, Zelda Williams, pidió a las personas en Instagram: "Dejen de enviarme videos de IA de papá", calificando el contenido como "enloquecedor".

Ilyasah Shabazz, hija de Malcolm X, dijo a The Washington Post que era "profundamente irrespetuoso" ver la imagen de su padre utilizada en videos de IA crudos e insensibles.

Malcolm X fue asesinado frente a Shabazz en 1965 cuando ella tenía dos años.

OpenAI inicialmente había eximido a las "figuras históricas" de los requisitos de consentimiento cuando lanzó Sora 2 el mes pasado, y permitía a cualquiera crear videos falsos que resucitaban a figuras públicas.

Ch.Campbell--AT