Racismo algorítmico e Responsabilidade Civil

Critérios de imputação na discriminação racial automatizada

Resumo

Introdução: A incorporação de sistemas de inteligência artificial e de processos decisórios automatizados em atividades como recrutamento, concessão de crédito e reconhecimento facial intensificou o debate sobre os efeitos discriminatórios da automação em contextos marcados por desigualdades estruturais. Objetivo: Analisar em que medida o ordenamento jurídico brasileiro permite imputar responsabilidade civil ao programador, à empresa desenvolvedora e à empresa usuária de sistemas automatizados quando esses sistemas produzem discriminação racial. Materiais e Método: A pesquisa adota abordagem qualitativa, exploratória e analítico-dogmática, desenvolvida por meio de revisão bibliográfica, análise normativa e exame de casos paradigmáticos nacionais e estrangeiros, com base na Constituição Federal de 1988, no Código Civil, no Código de Defesa do Consumidor, na Lei Geral de Proteção de Dados Pessoais e no Estatuto da Igualdade Racial. Resultados: Os resultados indicam que o direito brasileiro já dispõe de fundamentos aptos a enfrentar a discriminação racial automatizada por meio do regime geral do ato ilícito, da responsabilidade subjetiva e objetiva, da tutela consumerista e da proteção de dados pessoais. Conclusão: Conclui-se que a responsabilização civil pelo racismo algorítmico não decorre da mera utilização de inteligência artificial nem da simples ocorrência de resultado desigual, mas da demonstração de falhas juridicamente relevantes na concepção, no treinamento, na implementação, na supervisão ou na governança do sistema, bem como da reconstrução da cadeia tecnológica e dos deveres de cuidado atribuíveis aos agentes envolvidos.