‘Deepfakes’: Inteligência artificial está sendo usada para criar pornografia com celebridades

Distinguir o que é verdadeiro do que é falso (ou fake) na internet tem ficado cada vez mais difícil conforme a tecnologia avança. E uma nova fronteira acaba de ser ultrapassada.

Um usuário do Reddit com razoável conhecimento de programação conseguiu criar um sistema capaz de criar pornografias com celebridades, substituindo os rostos de atrizes pornôs pelas de Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot.

via GIPHY

O usuário se identifica como Deepfakes, uma aglutinação de deep, que vem do conceito deep learning, usado por ele para treinar o sistema, e fakes, refêrencia clara à falsidade de seus vídeos.

O deep learning é, bem resumidamente, uma ramificação da Inteligência Artificial em que um sistema é capaz de aprender algo sozinho – um exemplo é o AlphaGo, sistema da Google que ganhou de um mestre do jogo de tabuleiro Go depois de entender a dinâmica da atividade enfrentando a si mesmo repetidamente.

(Se quiser entender melhor os conceitos Inteligência Artifical, Machine Learning e Deep Learning, vale a pena ler esse texto)

Basicamente, o tal Deepfakes treinou seu sistema com milhares de fotos das celebridades colhidas no Google, em bancos de imagens e no Youtube, e conseguiu fazer com que ele substituísse as faces das atrizes pornôs pelas das mulheres famosas que ele escolheu.

Embora as pessoas que viram os vídeos (que, por motivos óbvios, não vamos linkar) digam que eles ainda têm algumas imperfeições, especialmente no que se refere à naturalidade dos movimentos, é um sinal de alerta para uma implicação terrível da tecnologia: imagine como pessoas mal intencionadas poderão manipular vídeos de forma difamatória usando um sistema parecido.

Com informações da Motherboard.