Arizona Tribune - OpenAI apresenta 'ChatGPT para adolescentes' em meio a pressões judiciais

Batizadas de "ChatGPT for Teens" (ChatGPT para adolescentes), as configurações modificadas são aplicadas automaticamente a usuários identificados na faixa entre 13 e 17 anos.

A maioria das medidas de proteção utilizadas no ChatGPT para adolescentes já existia para contas de menores de idade, incluindo restrições a conteúdos relacionados à automutilação, violência, transtornos alimentares e sexualidade explícita.

O programa também oferece lembretes mais frequentes para fazer pausas, períodos de "horário de silêncio" e um Modo Estudo, que utiliza perguntas orientadoras em vez de simplesmente fornecer respostas, com o objetivo de "ajudar os adolescentes a compreender o conteúdo", segundo a OpenAI.

Outras restrições do ChatGPT para adolescentes buscam impedir que o chatbot sugira que tem sentimentos pessoais em relação ao usuário ou que possui consciência própria, e algumas funcionalidades, como o modo voz, estão desabilitadas.

Os pais têm a opção de vincular suas contas às dos filhos adolescentes e receber alertas caso sejam detectadas determinadas situações de alto risco. Esses alertas parentais são revisados por moderadores humanos, e detalhes específicos são removidos dos registros da conversa para proteger a privacidade.

O novo modo para adolescentes chega em meio a uma crescente pressão judicial e regulatória.

A OpenAI enfrenta processos relacionados à segurança de menores e ao impacto das interações com chatbots.

A Comissão Federal de Comércio dos Estados Unidos também aumentou o escrutínio sobre chatbots de inteligência artificial que funcionam como companheiros digitais e seus possíveis riscos para crianças e adolescentes.

Assim como as empresas de redes sociais, as grandes companhias de IA enfrentam uma pressão regulatória cada vez maior, com propostas para estabelecer regras específicas para chatbots e mecanismos adicionais de proteção a menores.

Outras empresas de inteligência artificial também receberam críticas por problemas relacionados ao uso de seus produtos por menores de idade. Algumas, como a Anthropic, optaram por restringir o uso de seu modelo a adultos.

R.Garcia--AT