O Globo, n. 31591, 03/02/2020. País, p. 4

Softwares jurídicos geram debate ético no exterior
Leo Branco


Em países avançados no uso de inteligência artificial na Justiça, os robôs vêm causando um dilema ético: como ajudar as máquinas a ler preconceitos e vieses em bancos de dados criados por humanos? Eis um exemplo: nos Estados Unidos, o software Compas vem rastreando inquéritos sobre o comportamento de presos em estados como Flórida e Wisconsin. O objetivo é mapear o risco ao conceder liberdade provisória.

Em 2016, uma reportagem do site ProPublica mostrou que presos negros tinham duas vezes mais chances de serem categorizados como de “alto risco” do que os brancos na mesma condição — reduzindo as chances de soltura. Por isso, uma decisão da Suprema Corte do Wisconsin reconheceu as limitações no uso da inteligência artificial.

— A falta de transparência sobre os critérios de trabalho dos robôs é um problema gravíssimo — diz o juiz federal Erik Navarro, um dos fundadores do Instituto New Law, uma startup carioca focada na disrupção tecnológica no Direito.

O uso indiscriminado de inteligência artificial pode prejudicar liberdades individuais em países com pouca tradição democrática.

— A tecnologia pode prever um comportamento dos juízes — diz Luiz Paulo Pinho, fundador do Jus Brasil, portal de conteúdo jurídico.

Comandada com mão de ferro pelo Partido Comunista, a China vem testando nos últimos dois anos o uso de robôs para substituir o próprio juiz.

Segundo um estudo divulgado pela Suprema Corte chinesa, no ano passado mais de 118 mil casos foram julgados dessa maneira numa corte de Hangzhou, cidade litorânea com 7,9 milhões de habitantes, especializada em disputas comerciais de comércio eletrônico.

A audiência, nesses casos, ocorre por conferência de vídeo pelo We Chat, uma espécie de WhatsApp usado regularmente por mais de 1 bilhão de pessoas.

Cortes de outras 12 províncias estão testando o sistema, entre elas as de centros importantes, como a capital Pequim e o polo industrial Guangzhou, a despeito de críticas internacionais sobre a invasão de privacidade das partes envolvidas. Os registros, sejam inquéritos ou audiências virtuais, ficam armazenados em servidores aos quais as autoridades têm acesso fácil e organizado por robôs.

No Reino Unido, em março do ano passado um pedido do CDEI, ONG inglesa para o uso ético de dados, fez o governo abrir uma investigação sobre o viés nos algoritmos usados em softwares de inteligência artificial usados pela polícia e juízes de 14 cidades para prever o risco de reincidência por parte de indivíduos que já possuem ficha criminal. Um relatório com recomendações sobre como fazer uma boa curadoria dessas informações deve ficar pronto em março deste ano.