fbpx

Conteúdo jurídico semanal
para você se manter informado!

EMais

colunistas

Polícia preditiva: o futuro ancorado no passado

– Não é a Inteligência Artificial que me causa medo.
É a estupidez natural que me assusta.

– Nós estamos de olho em você!

Essa foi a frase ouvida pelo estudante Robert McDaniel de 22 anos, ao atender à porta da sua casa, no ano de 2013, e, espantado, deparar-se com a Comandante do Departamento de Polícia de Chicago¹ . Sem que lhe fossem fornecidas maiores informações, McDaniel foi advertido de que estava sob intensa vigilância e, portanto, de que qualquer futura prática criminosa poderia resultar em sérias consequências. A policial revelou, ainda, ter conhecimento acerca dos círculos sociais frequentados pelo jovem, alertando-o de que, caso seguisse por caminhos errados, poderia acabar traçando o mesmo destino do seu melhor amigo (vítima de arma de fogo na Comunidade de Austin).

O assombroso nesse caso é que McDaniel não era investigado por qualquer prática criminosa. A advertência policial ocorreu após o jovem estudante constar em uma lista de aproximadamente 400 nomes, gerada a partir de software desenvolvido pelo Departamento de Polícia de Chicago, com o desígnio de identificar, nos limites da cidade, pessoas que apresentassem maior probabilidade de envolvimento com crimes violentos.

Segundo informações transmitidas ao jornal Chicago Tribune, McDaniel fora anteriormente detido por delitos sem gravidade (por ex. suspeita de envolvimento com jogos de azar e posse de drogas), mas não tinha histórico de infrações relacionadas ao uso de arma de fogo, tampouco fora denunciado por crimes violentos. A inclusão de McDaniel nessa lista deve-se, muito provavelmente, às suas amizades e à comunidade – bastante violenta – em que residia.

Esses programas computacionais foram concebidos, a partir de financiamento no valor de dois milhões de dólares recebido do Instituto Nacional de Justiça, com o fim de desenvolver um programa de predição de crimes amparado na seguinte premissa: a quantidade certa de pesquisa e dados permitiria a demonstração de que crimes se espalham como epidemias, ou seja, seguem padrões, os quais, se identificados, podem permitir sejam previstos e prevenidos. [É provável que, ao ler sobre isso, cenários de um futuro distópico – semelhante àquele desenhado no filme Minority Report: A Nova Lei – venham à sua mente].

O software criado pelo Departamento de Polícia de Chicago espelha uma tendência maior do uso de ferramentas tecnológicas voltadas à predição e, acredita-se por essa via, prevenção de práticas criminosas.

Essa virada tecnológica na prevenção criminal teve como motor a busca por eficiência e pela redução de custos, e foi impulsionada pela crise do mercado imobiliário norte-americano de 2008, momento em que Departamentos de Polícia, ao redor de todo o país, passavam por cortes orçamentários. Além disso, nas ferramentas tecnológicas depositava-se a esperança por uma possível solução para os vieses [sobretudo raciais] e outros aspectos discriminatórios das tomadas de decisão no Sistema de Justiça Criminal.

Entretanto, na prática, o uso de análises preditivas potencializadas por algoritmos está ancorando o futuro no passado e, o que é pior, conferindo ares de neutralidade [matemática] a decisões enviesadas e discriminatórias. Como nós esboçaremos aqui e veremos mais a fundo nas próximas colunas, a justiça é difícil de se quantificar [qual é a métrica para a justiça?] e, por isso, é usualmente sacrificada no altar da eficiência.

Por todo o país norte-americano, buscando soluções para problemas orçamentários, Departamentos de Polícia passaram a fazer uso desses softwares de análises preditivas, os quais voltam-se sobretudo à identificação de locais em que há uma maior probabilidade da ocorrência de crimes (chamados de Hotspots).

Assim, com amparo em dados relacionados a crimes passados, esses softwares apontam quadrantes geográficos nos quais – de acordo com determinadas métricas – a probabilidade da prática de crimes seria maior, de modo a direcionar o policiamento a tais localidades, optimizando recursos humanos.

Nova Iorque emprega um software chamado CompStat. Já a cidade de Filadélfia usa um produto local chamado HunchLab. O Departamento de Polícia da Pensilvânia faz uso do software PredPol que promete prever, inclusive, “cadeias de acontecimentos que podem levar a ondas de crimes” , e funciona de modo semelhante a um software para análise sísmica, ao incorporar os padrões históricos de crimes ocorridos e usar tais informações para predizer onde o próximo crime ocorrerá.

Embora tais modelos matemáticos não considerem – expressamente – raça ou etnia como variáveis e não foquem em indivíduos, mas em determinadas áreas geográficas, é fácil antever de que forma o uso dessas novas tecnologias acaba por acentuar velhas injustiças e discriminações.

O problema tem origem na escolha dos dados (inputs) que alimentarão os sistemas.

Com efeito, opta-se pelo enfoque não apenas em dados relacionados a crimes mais graves [cuja promessa de prevenção é o que acaba por impulsionar o uso e popularizar tais modelos]. Pelo contrário, os dados que alimentam massivamente tais sistemas referem-se a crimes sem qualquer gravidade – os chamados crimes de perturbação à ordem pública (nuisance crimes) ou comportamentos antissociais (ASB).

Acontece que a seletividade penal faz com que os crimes de menor gravidade sejam percebidos como endêmicos a determinados bairros desfavorecidos e regiões marginalizadas (ghettos). Daí porque, alimentados pela quantidade massiva de dados referentes a práticas delitivas praticadas nessas regiões, o policiamento será mais intensivo, o que significa mais prisões [em sua maioria por crimes insignificantes como, por exemplo, adolescentes detidos por ingestão de bebida alcóolica]. Por sua vez, cada prisão representa novos pontos de dados a justificar o policiamento mais intensivo em tais localidades e, assim por diante, em um mecanismo que se retroalimenta (fenômeno conhecido como feedback loop).

Dessa forma, as cadeias vão ficando superlotadas por pessoas detidas sempre nas mesmas regiões [geralmente negros ou latinos] pela prática de crimes sem gravidade [crimes sem vítima], de tal modo que, mesmo sem considerar expressamente a raça, o resultado (output) desses modelos matemáticos acaba sendo a criminalização e o encarceramento de determinadas raças e etnias. Nas palavras de Cathy O’Neil: “Em nossas cidades intensamente segregadas, a geografia é um proxy altamente eficaz para raça”³ .

O uso da polícia preditiva é um exemplo bastante revelador sobre como as nossas maiores preocupações no uso das novas tecnologias no Sistema de Justiça Criminal, na realidade, tem menos a ver com as [novas] tecnologias, e mais a ver com [velhas] discriminações e com a própria falibilidade humana. 

[1] A notícia a respeito da abordagem de Robert McDaniel pode ser vista em: <<https://www.chicagotribune.com/news/ct-xpm-2013-08-21-ct-met-heat-list-20130821-story.html>>.
[2] O’NEIL, Cathy. Weapons of Math Destruction: How Big Data increases inequality and threatens democracy. New York: Broadway Books, 2017, p. 85
[3] O’NEIL, Cathy. Weapons of Math Destruction: How Big Data increases inequality and threatens democracy. New York: Broadway Books, 2017.




DICA DA SEMANA

Police: Last Week Tonight with John Oliver

A dica cultural da semana é um vídeo do apresentador John Oliver a respeito do racismo estrutural e sistêmico do policiamento norte-americano.

COMPARTILHE COM ALGUÉM
Share on whatsapp
WhatsApp
Share on telegram
Telegram
Share on email
Email
Share on facebook
Facebook
Share on twitter
Twitter
Share on linkedin
LinkedIn
Share on whatsapp
Share on telegram
Share on email
Share on facebook
Share on twitter
Share on linkedin
COMENTÁRIOS

Carrinho

0

Nenhum produto no carrinho.

Tecle Enter para pesquisar e Esc para fechar