A OpenAI, desenvolvedora do ChatGPT e do gerador de imagens DALL-E, está em meio a discussões sobre a possibilidade de permitir que seus usuários criem conteúdo pornográfico gerado por inteligência artificial (IA) de maneira 'responsável'. Apesar de reforçar a proibição de deepfakes, particularmente em conteúdo adulto, a empresa enfrenta críticas por possivelmente comprometer seu objetivo de desenvolver uma IA 'segura e benéfica'. Joanne Jang, funcionária da companhia com sede em São Francisco, destacou em entrevista à NPR que a intenção é iniciar um debate sobre o banimento permanente da geração de textos eróticos e imagens de nudez em seus produtos. Contudo, enfatizou que a criação de deepfakes é inadmissível.

A proposta surgiu em um documento da OpenAI que discute o desenvolvimento de suas ferramentas de IA, onde a empresa menciona a inclusão de 'erotismo, gore extremo, insultos e palavrões não solicitados' como conteúdo potencialmente permitido em contextos apropriados para a idade. Essa abordagem gerou reações adversas, como a da baronesa e ativista pelo bem-estar infantil online, Beeban Kidron, que acusou a OpenAI de 'minar sua própria declaração de missão'. Além disso, Clare McGlynn, professora de direito e especialista em regulamentação de pornografia, expressou ceticismo quanto à capacidade das empresas de tecnologia de limitarem a produção de conteúdo adulto a materiais consentidos e legítimos.

A discussão ganha contornos ainda mais complexos diante dos alertas da Internet Watch Foundation, que aponta o uso de IA por pedófilos para a criação de imagens de nudez infantil. A polêmica também é alimentada por incidentes como o banimento temporário de buscas por conteúdo de Taylor Swift na plataforma X, anteriormente conhecida como Twitter, após uma enxurrada de deepfakes explícitas da cantora.

A política universal da OpenAI exige que os usuários de seus produtos 'cumpram as leis aplicáveis', incluindo as relacionadas à exploração ou ao dano de crianças, mas não se refere diretamente ao conteúdo pornográfico. A empresa possui mecanismos de segurança para prevenir a criação desse tipo de conteúdo, como no caso do ChatGPT, que nega solicitações para a criação de conteúdo adulto explícito.

Em contrapartida, a OpenAI pondera a possibilidade de exceções para material científico ou educacional. Mira Murati, diretora de tecnologia da OpenAI, declarou ao Wall Street Journal que ainda não estava certa se a empresa permitiria que sua ferramenta de criação de vídeos, Sora, gerasse imagens de nudez, mas reconheceu que artistas e criadores poderiam desejar mais controle sobre isso. A discussão permanece aberta, enquanto a empresa e a sociedade avaliam as expectativas e limites da IA em relação a conteúdos considerados impróprios para o trabalho.