Inteligência artificial, direito e equidade algorítmica : discriminações sociais em modelos de machine learning para a tomada de decisão

Abstract

"Este artigo expõe como a inteligência artificial pode apresentar vantagens quando comparada com a opção tradicional de decidir com base em julgamentos exclusivamente humanos, ainda que reproduza discriminações sociais em decisões jurídicas relevantes. Por meio da revisão dos principais problemas decorrentes do uso de modelos de classificação de risco de reincidência em processos criminais, o artigo demonstra como pesquisas empíricas recentes sugerem a superioridade de decisões baseadas em algoritmos em aplicações socialmente relevantes. Em conformidade com a literatura sobre equidade algorítmica, o artigo indica que não se deve proibir por lei o uso da tecnologia, mas simplesmente regulamentá-lo de acordo com critérios de avaliação de equidade estabelecidos previamente no âmbito do debate público nacional em cada domínio de aplicação. A complexidade dos problemas suscitados pela inteligência artificial sugere a adoção de estratégias especializadas de regulamentação bastante diferentes da utilizada no art. 20 da Lei Geral de Proteção a Dados Pessoais.".