fbpx

Conteúdo jurídico semanal
para você se manter informado!

EMais

colunistas

Robert Julian-Borchak Williams. Reprodução. Sylvia Jarrus for The New York Times

O 1º caso de prisão por falso reconhecimento de algoritmos e a racialização da tecnologia

Foi nos Estados Unidos, em Farmington Hills, em janeiro deste ano, que chegou a conhecimento público o primeiro caso de prisão injusta por falso reconhecimento facial por uso de algoritmos. A vítima foi Robert Julian-Borchak Williams, homem negro, 42 anos, preso na frente da família no gramado de sua casa.

A polícia de Detroit, que no momento da prisão chegou a responder à esposa de Robert que se quisesse saber para onde ele estava sendo levado que pesquisasse então no Google, o detiveram por terem encontrado gravações externas da loja furtada onde o suspeito (um homem negro) na frente se posicionava. A partir do reconhecimento facial por algoritmos, a gravação foi examinada à procura de rostos similares ao do homem num banco de dados com mais de 49 milhões de fotos. O resultado, segundo a polícia, teria apontado que o suspeito seria Robert J. Williams.

Robert foi então preso, fichado, oferecido suas impressões digitais e DNA e mantido detido. Acontece que, após ser algemado, conduzido, violado, descobriu-se que o homem das imagens não correspondia àquele que havia sido preso. Robert foi liberado após 30 horas de aprisionamento mediante o pagamento de $1000 de fiança. Mais uma prisão injusta é noticiada. E agora, sendo a primeira fundamentada exclusivamente em projeções algorítmicas.

A história é emblemática por si só. A tecnologia como pivô de erros e injustiças parece estar sendo cada vez mais despida ou, ao menos, problematizada. O fato dela acabar sendo instrumentalizada para repetir ou aprofundar disfunções sociais já existentes imprime a importância de que ela, dentre outras questões, seja urgentemente racializada.

O que o caso desnuda já é dilema conhecido. Segundo estudos do MIT e do NIST, embora esse tipo de tecnologia funcione relativamente bem em homens brancos, os resultados são menos precisos para outros grupos de pessoas de análise. Muito em função da carência de diversidade nas imagens utilizadas para alimentar e desenvolver essas ferramentas. Logo, com a falta de pluralidade étnico-racial no abastecimento de imagens, como elemento essencial no lapidamento dessas tecnologias, elas terão maior dificuldade de identificar pessoas não brancas. Seja entre si, seja em comparação a outras que são brancas.

Daí nasce o perigo da máquina criar os seus próprios vieses, a partir de direções equivocadas dadas por seus operadores. Como sozinha ela não age e não pode ser culpabilizada, na seara investigativa qualquer tecnologia deve vir acompanhada da boa técnica policial. Portanto, nos casos semelhantes ao de Robert, além de reprimir que imagens com baixa resolução e frágil informação sejam utilizadas, não se pode permitir que técnicas como o reconhecimento facial por algoritmos sejam evidências solitárias no embasamento de prisões e condenações.

Por fim, lembremos que a subjetividade é o que nos fornece poder e responsabilidade na mudança social. Pelo menos não até o momento, ética e moral não são qualidades esperadas das máquinas, mas sim, genuinamente de nós, humanos. É preciso que admitamos que o problema é anterior à tecnologia, caso contrário ela estará sujeita a apenas reproduzir e potenciar as nossas chagas sociais

DICA DA SEMANA

A Carta: para entender a Constituição brasileira

Livro

“A Carta: para entender a Constituição brasileira” (Todavia, 2019) é um livro organizado pelos professores e economistas Naercio Menezes Filho e André Portela Souza. Através da contribuição interdisciplinar de uma série de autores e autoras implicados profissional e/ou academicamente em áreas como o Judiciário, a Educação, a Saúde, o Trabalho, a Previdência e a Assistência Social, o livro pretende apresentar as principais diretrizes da Constituição de 1988 a todos aqueles que desejam melhor entender suas interconexões com as políticas públicas brasileiras.

O grande trunfo do livro, de certa forma, é situar de maneira acessível e plural o debate público acerca do texto constitucional, o qual se encaminha para o seu 32º aniversário e foi transformado, desde então, em um constante campo de disputa política. Através de um agradável tom de ensaio que permeia os 8 artigos que compõem o livro, somos apresentados a uma série de paralelos entre as expectativas civilizacionais alocadas no texto de 88 e a realidade de materialização (ou não) de tais expectativas. Além da valiosa conclusão dos organizadores quanto ao irrefreável e alarmante processo de emendamento sofrido pela Constituição desde sua promulgação – muito em função da própria “genética” com a qual ela  foi presenteada -, contribuições acerca do arranjo institucional do Judiciário, do sistema de transferências fiscais e dos avanços alcançados pela Assistência Social brasileira quanto à garantia universal de direitos básicos sociais constituem pontos altos deste livro. 

Mais do que nunca, acredito – sejamos nós do campo do Direito ou não -, é necessário munir-nos de informação de qualidade quanto às bases formativas do nosso ordenamento jurídico. Afinal, inevitavelmente, são estas bases que conformam as políticas públicas de nosso país e que acabam por moldar a sociedade em que vivemos. Fica aqui a dica, portanto, deste belo livro, de capa e de conteúdo.  

 
Por Bruna Bernhardt, do @letra.dura
COMPARTILHE COM ALGUÉM
Share on whatsapp
WhatsApp
Share on telegram
Telegram
Share on email
Email
Share on facebook
Facebook
Share on twitter
Twitter
Share on linkedin
LinkedIn
Share on whatsapp
Share on telegram
Share on email
Share on facebook
Share on twitter
Share on linkedin
COMENTÁRIOS

Carrinho

0

Nenhum produto no carrinho.

Tecle Enter para pesquisar e Esc para fechar