Pornografia no ChatGPT? OpenAI avalia permitir conteúdos explícitos

A OpenAI está avaliando se deve permitir que o ChatGPT criem conteúdos não seguros, incluindo imagens e conversas eróticas ou explícitas. A informação foi reportada inicialmente pela Wired.

Em um documento recente, a OpenAI explica que está avaliando se deve permitir a geração de conteúdos NSFW, termo em inglês que significa Não Seguro para o Trabalho, geralmente utilizado para classificar imagens ou vídeos impróprios para visualização em público.

“Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados à idade por meio da API e do ChatGPT. Esperamos compreender melhor as expectativas dos usuários e da sociedade sobre o comportamento do modelo nesta área.”

– OpenAI.

De acordo com a OpenAI, esses conteúdos podem incluir “erotismo, violência extrema, calúnias e palavrões”. A proposta foi publicada na página de especificações de seus modelos de linguagem.

(Imagem: Sanket Mishra/ Pexels)

Ao The Guardian, Joanne Jang, uma funcionária da OpenAI que ajudou a escrever a proposta, explicou que a intenção é iniciar um debate sobre se a criação de textos eróticos e imagens de nudez deve ser proibida em todos os casos. No entanto, ela deixou claro que deepfakes continuarão sendo proibidos.

Jang afirmou que a prioridade é garantir que as pessoas tenham controle sobre o uso dessas tecnologias, desde que não violem a lei ou os direitos de outras pessoas.

“Queremos garantir que as pessoas tenham o máximo controle, na medida em que isso não viole a lei ou os direitos de outras pessoas, mas permitir deepfakes está fora de questão, ponto final. Isso não significa que estamos tentando agora criar pornografia de IA.”

– Joanne Jang.

No entanto, como observa a reportagem, Jang admite que há alguns casos que esse tipo de geração do chatbot pode ser considerada pornografia. Ela ainda relata que há “casos criativos em que o conteúdo envolvendo sexualidade ou nudez é importante” para os usuários de suas ferramentas de IA.

FIQUE POR DENTRO!

  • ChatGPT ganha recurso para conhecer melhor seus usuários e lembrar de conversas

  • CEO da OpenAI afirma: filmes do futuro serão videogames

  • “Namoradas de IA” nuas são anunciadas no Facebook e Instagram

Close
Your custom text © Copyright 2024. All rights reserved.
Close