Instituto Igarapé detalha estratégia de impacto social da ferramenta CrimeRadar, objeto do edital "Conexão GovTech" - Instituto Igarapé
27 de setembro de 2021 Em Últimas, Segurança Pública
O Instituto Igarapé é um think and do tank independente focado nas áreas de segurança pública, climática e digital e suas consequências para a democracia. A solução CrimeRadar utiliza algoritmos para prever ocorrências e otimizar a alocação de recursos. Não é, no entanto, somente uma ferramenta do que se conceituou como "policiamento preditivo", alvo de diversas críticas em razão da tendência de algoritmos replicarem vieses que prejudicam populações vulneráveis, como notadamente a população negra. Por entendermos os riscos associados ao uso de ferramentas de predição na segurança pública e estarmos cientes dos impactos negativos que outras ferramentas já tiveram, desenvolvemos o CrimeRadar com uma estratégia de impacto social.
Em primeiro lugar, nossa equipe analisa criteriosamente as bases de dados recebidas para compreender como o dado é coletado, tratado, manipulado e utilizado para policiamento e implementação de políticas públicas. Isso é feito através de um teste de equidade do algoritmo (fairness testing), executado por uma organização terceira, e do cruzamento de dados, que permite identificar quais são as posturas e comportamentos enviesados que podem, consequentemente, impactar o algoritmo da ferramenta.
Contudo, também sabemos que a mera correção do algoritmo é insuficiente para mitigar os impactos negativos em grupos vulneráveis e, por isso, estamos fazendo um trabalho minucioso de identificação de vieses provenientes da abordagem policial e da alocação de recursos nas atividades de segurança pública. Nossa estratégia de impacto social propõe medidas para mitigação de vieses não apenas no algoritmo, mas também na coleta de dados e nos procedimentos adotados pelas instituições de segurança.
Entendemos que, ao chamar a atenção para a existência dessas questões no momento de sua implementação, o CrimeRadar pode auxiliar no debate sobre a discriminação na segurança pública, lançando luz sobre como os vieses sociais influenciam a atividade policial. E esse é um dos aspectos que pretendemos testar no edital "Conexão GovTech – CrimeRadar", para além de compreender sua eficácia no contexto da segurança municipal, que envolve estratégias de prevenção, para além do policiamento.
O modelo de segurança pública ainda predominante no Brasil afeta sobremaneira populações vulneráveis e historicamente marginalizadas. Os dados mostram que, no país, pessoas negras têm mais chances de serem vítimas de homicídios, alvo de violência policial e de prisões em flagrante, entre outros exemplos. O Instituto Igarapé leva em consideração as desigualdades raciais que marcam a nossa história não apenas neste projeto, mas também em outras frentes de atuação, como política de drogas e inserção de pessoas egressas do sistema prisional.
O Instituto Igarapé está aberto para apresentar todas as formas pelas quais vem trabalhando para que a ferramenta não opere na direção oposta aos nossos ideais. Estamos à disposição não só para responder quaisquer questionamentos sobre suas soluções e projetos como o CrimeRadar, mas para construir e endereçar projetos que não reforcem exclusões históricas e sistemáticas de populações vulneráveis e contribuam para sua inclusão e visibilidade nas políticas públicas.
Qualquer contato pode ser feito pelas nossas redes sociais ou através do e-mail crimeradar@igarape.org.br