Doc ‘Coded Bias’ disponível na Netflix discute preconceitos dos algoritmos e vigilância

O lado problemático e racista dos algoritmos está à mostra em “Coded Bias“, documentário da Netflix que pretende expor o lado cruel desse tipo de tecnologia. O filme, em exibição na Netflix, mostra como a inteligência artificial pode acabar reproduzindo discursos preconceituosos e opressores. 

– Não há dilema: redes sociais estão matando o sexo, a democracia e a humanidade

O doc tem como personagens principais três mulheres. Uma delas é Joy Buolamwini, mulher negra e cientista da computação do Instituto de Tecnologia de Massachussets (MIT), nos Estados Unidos. Por meio de sua experiência pessoal e de seus estudos, ela percebeu que sistemas de reconhecimento facial falhavam frequentemente ao analisar rostos pretos — inclusive o dela. Ao fazer um teste e usar uma máscara branca, sua face foi reconhecida.

– História dos Racionais MC’s vai virar documentário na Netflix, diz KL Jay

A cientista da computação Joy Buolamwini.

A partir desse episódio, ela decidiu investigar como empresas grandes do setor desenvolviam seus softwares. A análise comprovou o que ela já desconfiava: máquinas desenvolvidas pela IBM, Google, Amazon e Microsoft, entre outras, conseguiam reconhecer rostos de homens brancos com muito mais exatidão. 

– Netflix vai além do ‘ligue djá’ e discute gênero em premiado documentário sobre Walter Mercado

Outro exemplo apresentado no filme é o da robô Tay, usada pela Microsoft em 2016 para interagir no Twitter. Ela foi criada com a intenção de aprender, mas acabou reproduzindo discursos graves, como de apoio ao nazismo. 

O documentário levanta muitos questionamentos sobre a utilização desses mecanismos tecnológicos, seja por empresas privadas ou por governos “democráticos”. Entre eles, mostra que apesar de estarmos cada vez mais imersos em uma sociedade inteligente do ponto de vista da tecnologia, estamos reproduzindo em nossas máquinas as fissuras sociais existentes no cotidiano.