A IN (EXISTÊNCIA) DO RACISMO ALGORÍTMICO

Uma Análise Estrutural

Resumo

O presente artigo tem como objetivo examinar o fenômeno do racismo algorítmico e demonstrar como os sistemas de inteligência artificial (IA), alimentados por dados históricos de desigualdades raciais, acabam por reproduzir o racismo estrutural em instituições sociais, em especial no sistema de justiça criminal brasileiro.
A partir da Teoria do Etiquetamento, o artigo demonstra que o crime é o resultado de um processo de rotulação seletiva, frequentemente influenciado por fatores raciais. O uso do reconhecimento fotográfico no Brasil e o sistema COMPAS nos Estados Unidos evidencia os preconceitos raciais inerentes às decisões judiciais automatizadas que ameaçam a Dignidade da Pessoa Humana. Casos específicos, como prisões injustificadas com base em reconhecimento fotográfico no Brasil e decisões baseadas em IA nos Estados Unidos, demonstram como esses sistemas falham, particularmente quando se trata de pessoas negras. A metodologia deste trabalho fundamenta-se na revisão bibliográfica e documental, com enfoque em análises exploratórias de fontes acadêmicas, normativas e jurisprudenciais que abordam o fenômeno do racismo algorítmico no sistema de justiça. Foram examinados estudos teóricos, como os que tratam do impacto da Teoria do Etiquetamento e da criminologia positivista, bem como relatórios institucionais e resoluções normativas relevantes, incluindo a Resolução n.º615/2025 do CNJ e o Manual de Procedimentos de Reconhecimento de Pessoas. O trabalho também se valeu de estudos de caso envolvendo o uso prático de sistemas de inteligência artificial no Brasil e nos Estados Unidos, como o COMPAS, que levanta debates sobre viés racial e opacidade algorítmica. A pesquisa utilizou dados secundários para mapear as implicações das tecnologias de IA no contexto jurídico, avaliando a interação entre inovação tecnológica, discriminação estrutural e os princípios constitucionais, como a dignidade da pessoa humana.