A distopia carioca da vigilância que pode acentuar a violência racial e o autoritarismo | Hypeness – Inovação e criatividade para todos.
A distopia carioca da vigilância que pode acentuar a violência racial e o autoritarismo
Redação Hypeness - 08/10/2021 às 12:34 | Atualizada em 13/10/2021 às 10:00
Nessa semana, a startup brasileira Gabriel recebeu um aporte financeiro de R$ 66 milhões de investidores internacionais. Mas o que é a Gabriel? Trata-se de uma empresa de segurança privada que combina vigilância com tecnologia. Através de algoritmos, a startup promete prever 'comportamentos suspeitos' nas proximidades de condomínios privados e trabalhar em parceria com batalhões policiais para ajudar a PM carioca.
Start-up de vigilância carioca promete agir em parceria com Polícia Militar
Hoje, a empresa presta serviços para condomínios privados no Leblon. Com câmeras espalhadas ao redor do bairro de elite da zona sul carioca, ela promete identificar através de machine learning a "padrões suspeitos e emitir um alerta para a central para que as autoridades sejam acionadas.
– Racismo algorítmico: o que é e quais são os impactos da discriminação racial na tecnologia
"Quando você contrata a Gabriel, você está integrando o seu edifício à maior rede de proteção da sua rua, do seu bairro e da sua cidade — o que torna o processo de vigilância contínuo e aumenta nossa base de dados", explica um fundador da empresa ao site Brazil Journal.
A startup que "prevê padrões suspeitos" nos lembra um clássico de Hollywood que nos relembra o poder e o problema desse tipo de vigilância: Minority Report. Na distopia em que o governo é capaz de prever quem será criminoso e quem não será, há falhas inerentes ao sistema.
Quando olhamos para dados que usam esse tipo de tecnologia no Brasil, chegamos a um dado absolutamente assustador: 90,5% dos presos por monitoramento facial no Brasil são negros. Os algoritmos são construídos por seres humanos e podem ser racistas. Provavelmente serão. Por isso, é necessário que start-ups desse tipo abram seus algoritmos para a população.
Para Marco Gomes, 34 anos, que foi aluno de Computação na UnB (Universidade de Brasília) e trabalha há mais de 20 anos com internet dentro e fora do Brasil, a solução passa por esse tipo de abertura. "Comitês de ética, transparência, dizer como os algoritmos funcionam, manter os algoritmos sob controle, porque hoje eles são descontrolados (descontrolados no sentido de que, a gente pede um objetivo para ele, e não sabe como ele chegou nesse objetivo). Algoritmos são tão poderosos quanto energia, quanto petróleo. Tem que ter regulação. Parar de deixar as empresas fazerem o que elas quiserem. Ter um pouco mais também de controle social, de ação coletiva. A gente pode se organizar, enquanto coletivo, para não deixas as empresas nadarem sozinhas e extraírem valor sozinhas", explicou o especialista ao Hypeness.
Uma inovação tecnológica que promete dar fim à fama dos celulares de serem "sujos". A startup inglesa Bullitt,...
'Deepfake' já pode ser usada para corrigir movimento labial em filmes dublados
Os dias de filmes legendados estão contados. Ao menos é o que indica uma nova forma de utilizar o deepfake...