RACISMO
Ao tentar identificar o rosto de uma pessoa, os algoritmos podem cometer erros devido a expressões faciais, baixa iluminação, envelhecimento e, principalmente, vieses de gênero e raciais. A tendência racista da tecnologia é um consenso, sendo que homens e mulheres estão sendo presos por engano no país. Pesquisas pelo mundo também mostram a alta taxa de erro especialmente nessa população, causando danos irreparáveis. Em um país onde a população negra já morre mais de morte violenta, sofre mais violência policial e representa a maior parte da população carcerária, é inegável que o reconhecimento pode produzir, em larga escala, acusações viciadas que reforçam o racismo estrutural.