Arizona Tribune - OpenAI suspende vídeos de Martin Luther King após indignação por deepfakes

Os herdeiros do líder dos direitos civis assassinado e a OpenAI anunciaram, em um comunicado conjunto na noite de quinta-feira, que a empresa pausaria as gerações que representam King enquanto "fortalece as medidas de segurança para figuras históricas".

A decisão ocorre enquanto famílias de celebridades e líderes falecidos têm expressado indignação pela ferramenta de vídeo Sora 2, da OpenAI, que permite aos usuários criar clipes realistas de figuras históricas sem o consentimento da família.

Alguns usuários haviam gerado vídeos mostrando King fazendo sons de macaco durante seu discurso "Eu Tenho um Sonho" e outros conteúdos degradantes, segundo o The Washington Post.

Vídeos reanimando outras figuras falecidas, incluindo Malcolm X, Michael Jackson, Elvis Presley e Amy Winehouse, têm inundado as redes sociais desde o lançamento do Sora 2, em 30 de setembro.

"Embora existam fortes interesses de liberdade de expressão na representação de figuras históricas, a OpenAI acredita que figuras públicas e suas famílias deveriam ter controle sobre como sua imagem é utilizada", disse o comunicado conjunto.

A empresa disse que representantes autorizados ou proprietários do patrimônio agora podem solicitar que suas imagens não sejam utilizadas em vídeos gerados por IA no Sora.

A OpenAI agradeceu a Bernice King, filha de King, "por entrar em contato", assim como ao empresário John Hope Bryant e ao Conselho de Ética de IA "por criar um espaço para conversas como esta".

A ferramenta de texto para vídeo subiu ao topo das listas de downloads desde seu lançamento, mas gerou controvérsia imediata.

A filha do ator Robin Williams, Zelda Williams, pediu às pessoas no Instagram: "Parem de me enviar vídeos de IA do papai", classificando o conteúdo como "enlouquecedor".

Ilyasah Shabazz, filha de Malcolm X, disse ao The Washington Post que era "profundamente desrespeitoso" ver a imagem de seu pai utilizada em vídeos de IA grosseiros e insensíveis.

Malcolm X foi assassinado na frente de Shabazz em 1965 quando ela tinha apenas dois anos.

A OpenAI inicialmente havia isentado as "figuras históricas" dos requisitos de consentimento ao lançar o Sora 2 no mês passado, permitindo que qualquer pessoa criasse vídeos falsos que ressuscitavam figuras públicas.

O.Brown--AT