Tecnologia

A distopia carioca da vigilância que pode acentuar a violência racial e o autoritarismo

Redação Hypeness - 08/10/2021 | Atualizada em - 13/10/2021

Nessa semana, a startup brasileira Gabriel recebeu um aporte financeiro de R$ 66 milhões de investidores internacionais. Mas o que é a Gabriel? Trata-se de uma empresa de segurança privada que combina vigilância com tecnologia. Através de algoritmos, a startup promete prever ‘comportamentos suspeitos’ nas proximidades de condomínios privados e trabalhar em parceria com batalhões policiais para ajudar a PM carioca.

Start-up de vigilância carioca promete agir em parceria com Polícia Militar

Hoje, a empresa presta serviços para condomínios privados no Leblon. Com câmeras espalhadas ao redor do bairro de elite da zona sul carioca, ela promete identificar através de machine learning a “padrões suspeitos e emitir um alerta para a central para que as autoridades sejam acionadas.

– Racismo algorítmico: o que é e quais são os impactos da discriminação racial na tecnologia 

“Quando você contrata a Gabriel, você está integrando o seu edifício à maior rede de proteção da sua rua, do seu bairro e da sua cidade — o que torna o processo de vigilância contínuo e aumenta nossa base de dados”, explica um fundador da empresa ao site Brazil Journal.

A startup que “prevê padrões suspeitos” nos lembra um clássico de Hollywood que nos relembra o poder e o problema desse tipo de vigilância: Minority Report. Na distopia em que o governo é capaz de prever quem será criminoso e quem não será, há falhas inerentes ao sistema.

Quando olhamos para dados que usam esse tipo de tecnologia no Brasil, chegamos a um dado absolutamente assustador: 90,5% dos presos por monitoramento facial no Brasil são negros. Os algoritmos são construídos por seres humanos e podem ser racistas. Provavelmente serão. Por isso, é necessário que start-ups desse tipo abram seus algoritmos para a população.

– Como o racismo algoritmo se vale da ausência de negros na tecnologia 

Para Marco Gomes, 34 anos, que foi aluno de Computação na UnB (Universidade de Brasília) e trabalha há mais de 20 anos com internet dentro e fora do Brasil, a solução passa por esse tipo de abertura. “Comitês de ética, transparência, dizer como os algoritmos funcionam, manter os algoritmos sob controle, porque hoje eles são descontrolados (descontrolados no sentido de que, a gente pede um objetivo para ele, e não sabe como ele chegou nesse objetivo). Algoritmos são tão poderosos quanto energia, quanto petróleo. Tem que ter regulação. Parar de deixar as empresas fazerem o que elas quiserem. Ter um pouco mais também de controle social, de ação coletiva. A gente pode se organizar, enquanto coletivo, para não deixas as empresas nadarem sozinhas e extraírem valor sozinhas”, explicou o especialista ao Hypeness.

Publicidade

Fotos: Pixabay


Redação Hypeness
Acreditamos no poder da INSPIRAÇÃO. Uma boa fotografia, uma grande história, uma mega iniciativa ou mesmo uma pequena invenção. Todas elas podem transformar o seu jeito de enxergar o mundo.

Branded Channel Hypeness

Marcas que apoiam e acreditam na nossa produção de conteúdo exclusivo.