Matéria Especial Hypeness

Como o racismo algoritmo se vale da ausência de negros na tecnologia

por: Kauê Vieira

A afirmação da internet como a principal ferramenta de comunicação do mundo trouxe benefícios à luta contra o racismo. A partir das mídias sociais, milhares de homens e mulheres negras reclamaram espaço para dividir suas dores e delícias na briga por uma sociedade igualitária e antirracista. 

– Protagonismo negro na tecnologia: Ocupação Afro Futurista faz de Salvador a Wakanda brasileira

Isso não quer dizer, como você suspeita, que as redes sociais estejam livres da discriminação racial. Ao contrário, o acirramento dos ânimos provocados por divisões puxadas por líderes mundiais aumentou a hostilidade na rede mundial de computadores. 

Já ouviu falar do termo racismo algoritmoParece uma expressão vinda do ano 2300, mas não se engane, mais comum do que se imagina, a prática pode ter te atingido sem que você sequer tenha notado. 

Sil Bahia, à frente do Pretalab

Mestre em Cultura e Territorialidades pela Universidade Federal Fluminense (UFF), Sil Bahia é diretora do Olabi, que tem como braço o Pretalab – iniciativa de incentivo ao protagonismo de mulheres negras e indígenas no setores de comunicação e tecnologia. Ela explica, em entrevista ao Hypeness, um pouco mais de como o racismo algoritmo opera.  

“O racismo algoritmo ocorre quando sistemas matemáticos ou de inteligência artificial são pautados por informações enviesadas/tortas que alimentam e regem seu funcionamento. As consequências são muitas, mas talvez a maior delas seja o aumento de desigualdades, sobretudo em um momento onde estamos cada vez mais tendo muitos dos nossos gostos e políticas mediadas por máquinas, com o avanço da tecnologia”, analisa analisa Sil Bahia, que é Pesquisadora do Grupo de Pesquisa em Políticas e Economia da Informação e da Comunicação do Programa de Pós-Graduação em Comunicação da UFRJ. 

Dois casos recentes suscitaram o debate sobre o fenômeno. O primeiro aconteceu nos Estados Unidos, onde um computador desenvolvido para identificar possíveis reincidentes criminais agiu de forma racista. 

A agência norte-americana ProPublica divulgou o resultado da análise de 7 mil detentos e adivinhem, pessoas negras têm, segundo o algoritmo, chances maiores de cometer um crime novamente em comparação com pessoas brancas. 

– Mulheres negras se unem para cuidar da saúde mental: ‘Ser negra é viver em sofrimento psíquico’

A porta do racismo fica escancarada quando a realidade entra em cena. Diferente do que supõe o sistema adotado pela Justiça de alguns estados dos EUA, quase 45% dos réus negros classificados como de ‘alto risco’ não voltaram reincidir nos delitos. 

‘Trança feia, trança bonita’ 

Um assunto nada polêmico amplificou o debate nas redes sociais sobre o racismo algoritmo. Usuários identificaram uma postura racista do Google ao associar ‘tranças bonitas’ com pessoas brancas e ‘tranças feias’ com negros. 

Para especialistas, Sil Bahia incusa, o problema não está na ferramenta, mas na sociedade. O racismo faz parte da constituição social, portanto os resultados de uma busca no Google refletem tais comportamentos. 

Os algoritmos são um conjunto de instruções que consultam bancos de dados para executar sua função/ação. Se não há diversidade na produção de novas tecnologias, e tecnologias são produzidas por pessoas, as ações dos algoritmos não considerará muitos aspectos e/ou reforçará outros. Os algoritmos trabalham com probabilidades, não com certezas, o problema é que estamos delegando muitas das nossas decisões para as máquinas sem levar isso em consideração. E além de tudo, não somos estimulados a pensar sobre ‘quem produz as tecnologias’. Já é possível perceber que a falta de diversidade no setor pode gerar um aprofundamento das desigualdades, tamanha a dimensão que todos esses aparatos tecnológicos têm nas nossas vidas

– ‘Estar fora do padrão é minha própria existência’. O estilo emo rock de Caco Baptista

A falta de profissionais negros incentiva o racismo algoritmo

A diversidade, de fato, exerce papel decisivo. Quais são as chances, em uma empresa onde negros são exceção e integram setores, digamos, menos expressivos, de que a visão antirracista se manifeste? Mínimas. 

Ora, como mostrou o estudo do já citado grupo de jornalistas dos Estados Unidos, quando um computador coloca o homem negro como ameaça para a sociedade, cabe ao desenvolvedor da máquina endossar ou questionar os resultados. 

Daí a importância de projetos de incentivo ao acesso democrático à tecnologia como o Pretalab. 

“Para entender melhor como a diversidade está inserida nas empresas de tecnologia no Brasil realizamos, no primeiro semestre de 2019, uma pesquisa chamada #QUEMCODABR e os resultados (que serão divulgados no próximo dia 29) dão conta de comprovar a nossa hipótese: não existe diversidade nas empresas de tecnologia no geral e isso é muito perigoso do ponto de vista social pelos motivos que falamos acima. Por isso é tão importante estimular que os times sejam mais diversos, que as empresas consideram a diversidade como um critério importante e se comprometam com questões sociais que estruturam a sociedade”, destaca Sil Bahia. 

Internet e sociedade 

A tecnologia e a internet avançaram tanto, que em pouco mais de 19 anos desde o início do novo milênio, algumas preocupações começam a surgir. Curiosamente, muitas delas relacionadas com a interferência humana. 

Disponível no catálogo do Netflix, o documentário ‘Privacidade Hackeada’ disseca o escândalo de roubo de dados arquitetado pelo Facebook e empresas de consultoria como a Cambridge Analytica

Amplamente divulgado, o caso tirou o véu da inocência de Mark Zuckerberg e a turma do Vale do Silício, além de revelar o valor sem precedentes de informações pessoais sobre sua vida e como elas podem, por exemplo, decidir uma eleição. 

Tendo o algoritmo com parte de seu ecossistema a internet, destaca mais uma vez a comunicadora Sil Bahia, que também é diretora do Olabi, reproduz padrões socialmente difundidos. O racismo, entre eles. 

Sempre a vejo como uma faca de dois gumes, onde por um lado conseguimos nos conectar, produzir conteúdo que fortaleça a identidade negra, porém ao mesmo tempo quando olhamos para os dados percebemos que o que acontece no offline é reproduzido no online. Mulheres negras são as que mais sofrem com exposição na internet, violações de direitos e por aí vai. Acho que para virar o jogo precisamos estimular que as pessoas queiram entender melhor sobre esses processos e não do ponto de vista técnico, mas principalmente sobre os impactos. É importante reforçar sempre que tecnologia não é neutra, que reproduz comportamentos, visões de mundo, cultura de quem as cria, e sabemos que as tecnologias que usamos são em sua maioria criadas por homens, brancos, héteros sexuais do hemisfério norte.

Minorias no mercado de tecnologia, negros lideram informalidade

A coordenadora do Pretalab cobra posicionamento contundente de gigantes como Google  Facebook. 

“[As empresas precisam se] responsabilizar por ações que impactam profundamente a sociedade. Trabalhar para ter mais diversidade nos seus times técnicos, entender que o racismo é estrutural e que é um compromisso de todas as pessoas atuar para diminuir desigualdades, e por último, entender que diversidade não é paternalismo, diversidade como muitas pesquisas comprovam, é altamente lucrativo para as empresas”

Diversidade e desenvolvimento 

A solução do problema passa impreterivelmente pela inserção de pessoas negras no mercado de tecnologia.  Dados de 2016 do Ministério do Trabalho e Emprego (MTE) mostram o abismo racial no setor. 

Brancos dominam os setores de engenharia de equipamento em computação (92%) e e aeronáutica (88,4%). Os negros, por sua vez, ainda estão presos ao mercado informal. A quantidade de afro-brasileiros empreendedores está na casa dos 50%, segundo o Sebrae Brasil. 

“É um peso muito importante. Porque está tudo meio que ligado, desde o genocídio de uma juventude negra brasileira que não acresce com oportunidades e muitas vezes o crime é a única opção, a falta de estrutura nos estudos e acesso ao mercado de trabalho”.

Com vivência acadêmica e munida de conhecimentos tecnológicos, Sil Bahia crê em uma estratégia digital contra o racismo. 

“Trabalhar para o ingresso de pessoas negras, sobretudo mulheres, no campo da tecnologia é um caminho para superar desigualdades. Assim, como o Fórum Sim à Igualdade Racial que reuniu jovens trabalhadores negros e empresas a fim de criar uma conexão, a PretaLab faz pontes entre mulheres negras que querem estar no mercado de tecnologia e empresas que querem ser mais diversas. Porém é importante frisar: a diversidade não pode ser apenas da porta para fora, para tirar a foto, ela precisa ser principalmente da porta para dentro. Com políticas que considerem de fato as diferenças e pessoas negras em cargos de liderança”.

Publicidade

Fotos: foto 1: Paulo Oliveira/Reprodução/foto 2: Mikhail Tereshchenko\TASS via Getty Images/foto 3: Andrew Lichtenstein/Corbis via Getty Images


Kauê Vieira
Nascido na periferia da zona sul de São Paulo, Kauê Vieira é jornalista desde que se conhece por gente. Apaixonado pela profissão, acumula 10 anos de carreira, com destaque para passagens pela área de cultura. Foi coordenador de comunicação do Projeto Afreaka, idealizou duas edições de um festival promovendo encontros entre Brasil e África contemporânea, além de ter participado da produção de um livro paradidático sobre o ensino de África nas Escolas. Acumula ainda duas passagens pelo Portal Terra. Por fim, ao lado de suas funções no Hypeness, ministra um curso sobre mídia e representatividade e outras coisinhas mais.

Branded Channel Hypeness

Marcas que apoiam e acreditam na nossa produção de conteúdo exclusivo.



X
Próxima notícia Hypeness:
Prestes a estrear no ‘Jornal Nacional’, Matheus Ribeiro assume namoro com militar