Um homem negro foi preso injustamente por causa de reconhecimento facial
“O computador deve ter entendido errado” não parece uma justificativa honesta em um claro caso de racismo envolvendo reconhecimento facial
A União Americana das Liberdades Civis (ACLU) apresentou uma queixa formal contra a polícia de Detroit sobre o que diz ser o primeiro exemplo conhecido de uma prisão ilícita causada por falha na tecnologia de reconhecimento facial. Robert Julian-Borchak Williams, um homem afro-americano, foi preso depois que um sistema de reconhecimento facial falsamente combinou sua foto com imagens de segurança de um ladrão de lojas.
O New York Times relata que a ACLU está pedindo o fim do caso de Williams e que suas informações sejam removidas dos bancos de dados criminais de Detroit, além de os promotores concordaram em excluir seus dados.
A tecnologia de reconhecimento facial é criticada há anos, com pesquisadores mostrando que é tendenciosa contra membros de diferentes raças e etnias. Mas seu uso pela polícia se tornou ainda mais controverso nas últimas semanas após protestos nacionais contra a brutalidade policial e o racismo. Agora, o caso de Williams mostra a realidade do que acontece quando a tecnologia falha e colide com o mau trabalho da polícia.
O NYT relata que o cado em que Williams foi acusado ocorreu em outubro de 2018 e, em março de 2019, uma imagem do vídeo de vigilância da loja foi carregada no banco de dados de reconhecimento facial do estado de Michigan. Isso teria gerado uma série de correspondências fotográficas, posteriormente fornecidas como parte de um documento que dizia que elas não eram “causa provável de prisão”.
Contudo, eles levaram a foto de Williams a ser incluída em uma fila de fotos que foi mostrada ao segurança da loja. Este guarda, que a ACLU diz que não testemunhou o roubo em primeira mão, identificou positivamente Williams.
A identificação levou Williams a ser preso na entrada de sua casa em janeiro, ao que ele foi levado sob custódia policial por um total de 30 horas. Williams fez seu relato da prisão em um artigo do The Washington Post. Ele diz que, em uma entrevista à polícia, levantou uma foto do ladrão de lojas ao lado de seu próprio rosto,quando um dos detetives disse: “o computador deve ter entendido errado”.
Embora o caso de Williams tenha sido julgado duas semanas após sua prisão, ele foi julgado “sem prejuízo”, deixando-o aberto a ser acusado novamente, observa o NYT. Além disso, a ACLU diz que, como resultado da prisão, a amostra de DNA, o mugshot e as impressões digitais de Williams estão arquivados e que sua prisão está registrada.
Um porta-voz da polícia de Detroit disse ao NYT que o departamento havia aceitado a decisão do promotor de encerrar o caso e que em julho de 2019 a política do departamento era usar apenas o reconhecimento facial para investigar crimes violentos.
A história de Williams surge quando várias empresas de tecnologia de alto nível, incluindo IBM, Microsoft e Amazon, anunciaram que vão interromper ou pausar seu trabalho de reconhecimento facial para a polícia. “Acreditamos que agora é a hora de iniciar um diálogo nacional sobre se e como a tecnologia de reconhecimento facial deve ser empregada pelas agências domésticas”, disse o CEO da IBM, Arvind Krishna, em comunicado no início deste mês.
Muitos especialistas em reconhecimento facial dizem que é preciso haver uma moratória mais longa no uso da tecnologia, e que algumas empresas podem simplesmente estar aguardando o atual ciclo de notícias antes de começar a vender novamente para as autoridades. Como destaca o caso de Williams, os danos que uma prisão falsa pode causar na vida de alguém são mais difíceis de esquecer.
“Minhas filhas não podem me ver sendo algemado e colocado em um carro da polícia”, escreve Williams em seu artigo. “Mas eles podem me ver usar essa experiência para trazer algo de bom ao mundo. Isso significa ajudar a garantir que minhas filhas não cresçam em um mundo em que a carteira de motorista ou as fotos do Facebook possam ser usadas para direcionar, rastrear ou prejudicá-las. “
Fonte: The Verge
- Veja também: “Precisamos ser proativamente anti-racistas” – Comunidade cripto se posiciona contra o racismo
