Conheça Norman, a inteligência artificial psicopata criada pelo MIT

Um experimento com Inteligência artificial conduzido por três cientistas do Massachusetts Institute of Technology (MIT) mostrou na prática um aspecto essencial para o funcionamento desse tipo de tecnologia que ilustra não só um problema fundamental para, por exemplo, certos algoritmos, como indiretamente sobre a própria psique humana. Ao invés de trabalhar sobre o sistema propriamente, o experimento se dobrou sobre as informações com as quais a IA era alimentada – sobre as informações e dados e, com isso, eles fabricaram o que chamaram de uma inteligência artificial psicopata.

Ilustração criada pelo MIT para Norman

Pinar Yanardag, Manuel Cebrian e Iyad Rahwan foram os cientistas que decidiram alimentar a Inteligência artificial com as mais macabras imagens de mortes e violências retiradas da internet, fazendo com que a IA assimilasse tudo por deep learning. Não por acaso, a IA psicopata foi batizada de Norman, em uma macabra referência ao personagem Norman Bates, do clássico filme Psicose, de Alfred Hitchcock – um psicopata que, ao longo de sua vida, foi “alimentado” pelo autoritarismo, os maus tratos e a loucura de sua própria mãe.

O personagem Norman Bates, do filme Psicose

Em seguida, os cientistas realizaram testes de Rorschach (em que borrões simétricos de tintas são utilizados como base para estímulos e respostas) com Norman, e outra IA comum, e os resultados foram comparados (veja a comparação das respostas diante do teste aqui).

Exemplo de testes de Rorschach

Diante dos mesmos borrões, enquanto a IA comum via um vaso com flores, Norman via um homem assassinado a tiros. Em outro, no que a IA comum via um casal, Norman enxergou uma mulher grávida caindo de uma construção. Em um terceiro teste, a inteligência psicopata viu um homem baleado em frente sua esposa na mancha que a inteligência comum viu uma pessoa segurando um guarda-chuva.

O experimento ilustra o fato de que muitas vezes um algoritmo apresenta problemas em seu funcionamento não por seu código ou seu sistema, mas sim pelo conteúdo com o qual é alimentado – uma excelente IA pode ser inutilizada se for alimentada com dados ruins. Naturalmente que o experimento também nos faz pensar sobre a maneira com que certas pessoas são criadas, tratadas ao longo de sua vida, e “alimentadas”, tanto por informações quanto por afetos e experiências ao longo de sua vida. Por mais que se trate de um personagem de ficção, infelizmente, afinal, existem muitos Norman Bates na vida real.