Inteligência Artificial e pornografia: uso da tecnologia com conteúdo adulto levanta controvérsia

Vitor Paiva  • Redator Vitor Paiva é jornalista, escritor, pesquisador e músico. Nascido no Rio de Janeiro, é Doutor em Literatura, Cultura e Contemporaneidade pela PUC-Rio. Trabalhou em diversas publicações desde o início dos anos 2000, escrevendo especialmente sobre música, literatura, contracultura e história da arte.

Se a Inteligência Artificial já é capaz de criar perfeitamente ilustrações, fotografias, textos e outros conteúdos como se fossem desenvolvidos por seres humanos, inevitavelmente ela chegaria à pornografia. Pois, por mais artificial que seja, trata-se de tecnologia programada por seres humanos e, para além do acesso a opiniões, notícias e informações sem precedentes, uma parte imensa do que existe disponível na internet é formada justamente por material pornográfico. Novas ferramentas de IA já oferecem a criação de pornografia por “robôs”, abrindo um lucrativo e controverso mercado virtual.

Os sistemas de Inteligência Artificial já são capazes de criar todo tipo de conteúdo – inclusive pornô

-Billie Eilish diz que ‘pornografia é uma vergonha’. ‘Destruiu cérebro’

Pesquisas afirmam que entre 13% e 20% das buscas na internet são feitas à procura de pornografia – logo, na mesma medida que o encontro entre a IA e a pornografia é polêmico, ele também parece inevitável. O exemplo mais noticiado recentemente é a Unstable Diffusion, uma Inteligência Artificial geradora de conteúdo tendo o foco em material “adulto” como seu diferencial. Funcionando como um fórum de código aberto, ele vem sendo construído como um “servidor dedicado à criação e à difusão de material NSFW gerado por IA”, como diz seu canal no Discord.

-Google lança inteligência artificial para identificar pornografia infantil

Basicamente, o sistema partiu das vantagens do código aberto da Stable Diffusion, uma IA desenvolvida para criar imagens a partir de textos, adaptando-a para a pornografia – e para esse mercado bilionário. A controvérsia não reside, porém, somente na apropriação financeira de uma novidade ainda incerta: a tecnologia é capaz de gerar nudes realistas de todos os tipos – incluindo materiais criminosos –, animes pornôs e até mesmo os chamados deepfakes, conteúdos falsos que aplicam digitalmente o rosto e o corpo de celebridades sobre fotos e cenas pornográficas.

O debate mais controverso sobre o tema se dá a respeito do controle dos conteúdos criados

-‘HereAfter AI’ promete que poderemos ‘conversar’ com os mortos

O servidor cobra assinaturas em valores diversos, de acordo com acessos para produção e compartilhamento da pornografia gerada por IA e, segundo consta, já possui milhares de membros, e é anunciado como o canal que mais cresce no Discord. Através do Unstable Diffusion, os usuários já produziram mais de 4,37 milhões de materiais inéditos, dentro de categorias como pornô para homens, para mulheres, hentai, BDSM e mais.

-Ex-Disney diz que indústria pornô é menos degradante que Hollywood

Os responsáveis pelo bot garantem que todo material produzido é controlado e que somente conteúdo “ficcional e dentro da lei” é gerado pelo servidor. Mas, entre a promessa e a prática, muitas perguntas se mantêm abertas a respeito da lisura das práticas econômicas, do uso de trabalhos alheios, da monitoração dos conteúdos, de direitos autorais, bem como de possíveis práticas criminosas.

O uso de IA para pornografia pode facilitar a criação de deepfakes e materiais criminosos