Vigilância e reconhecimento facial: responsabilidade do estado na discriminação algorítmica de pessoas negras e periféricas

Abstract

Este estudo analisou a responsabilidade civil do Estado decorrente da utilização de sistemas de reconhecimento facial baseados em inteligência artificial no contexto da segurança pública brasileira, sob o prisma do risco de discriminação algorítmica contra a população negra e periférica. O problema de pesquisa centrou-se em investigar a compatibilidade dessas ferramentas com os direitos fundamentais e os limites para a responsabilização estatal em caso de erros operacionais. Para tanto, adotou-se uma metodologia de natureza qualitativa, com caráter exploratório e descritivo, por meio de pesquisa bibliográfica, documental e análise jurisprudencial dos Tribunais Superiores, utilizando-se o método dedutivo. Como resultados, constatou-se que os vieses algorítmicos e os falsos positivos não constituem meras falhas técnicas isoladas, mas sim a reprodução institucional do racismo estrutural na formação da suspeita penal, gerando prisões injustas e violações diretas às garantias constitucionais da igualdade e do devido processo legal. Conclui-se que a responsabilidade do Estado nesses cenários é de natureza objetiva, nos termos do artigo 37, §6o, da Constituição Federal, evidenciando-se a premente necessidade de mecanismos rigorosos de regulação, governança de dados e fiscalização externa para impedir que os aparatos tecnológicos perpetuem e ampliem as desigualdades históricas no Estado Democrático de Direito.