O Globo, n. 32.301, 13/01/2022. Economia, p. 12

A INTELIGÊNCIA ARTIFICIAL VAI MARGINALIZAR MAIS PESSOAS
Stuart Russell / CIENTISTA DA COMPUTAÇÃO


Professor da Universidade da Califórnia em Berkeley (EUA), Stuart Russell é um dos maiores especialistas em ciências da computação e inteligência artificial (IA) no mundo. Foi vice-presidente do Conselho de IA e Robótica do Fórum Econômico Mundial e consultor da ONU para o controle de armas. Um dos autores de “Inteligência artificial”, livro que é referência acadêmica no tema, ele lança agora no Brasil “Inteligência artificial a nosso favor: como manter o controle sobre a tecnologia” (Cia. das Letras).

Em conversa por e-mail, Russell destaca o avanço da IA em áreas como ade carros autônomos, mas alerta paras eu efeito na desigualdade: “Mais pessoas serão marginalizadas”. E defende moratória para o uso da tecnologia na indústria armamentista.

O que o surpreendeu mais no desenvolvimento da IA nos últimos 25 anos?

A locomoção com pernas feita de forma incrivelmente ágil, semelhante a um animal, demonstrada em 2010 pelo robô BigDog (da americana Boston Dynamics). Até então os robôs com pernas eram lentos, rígidos, pesados, caíam ao menor distúrbio. Não mais. Nosso progresso também foi enorme em resolver problemas de raciocínio lógico e de planejamento, nos jogos, na percepção visual e na aprendizagem. Tradução automática é outro problema difícil e antigo, essencialmente resolvido para fins práticos. Os carros sem motoristas já são uma realidade e vão se difundir ainda mais nesta década. Já robôs completamente autônomos e domésticos podem estar mais distantes, pois exigem muito mais flexibilidade para lidar com as complexidades, por exemplo, de um canteiro de obras.

Em outubro, o senhor alertou oficiais da Defesa britânica sobre riscos da IA na indústria de armamentos. Algumas reportagens deram conta de que o senhor fez comparações com bombas nucleares...

Não disse textualmente que sistemas de IA armados poderiam acabar com a Humanidade, mas sim que grandes enxames de armas-robôs letais podem ter um impacto devastador comparável ao de armas nucleares. E seriam muito mais fáceis de construir e usar. Não haveria ruína radioativa e (como já se vê com os drones usados pelos EUA na Ásia) será possível matar apenas pessoas-alvo. Preciso dizer que me deu alegria o Brasil, por meio detratado internacional, apoiara campanha para banir essas armas autônomas letais.

Uma moratória de armas autônomas letais seria de fato possível com EUA e Rússia se opondo à medida?

É preciso banir todas as armas que localizam, selecionam e atacam alvos humanos sem supervisão de um ser vivo responsável, ou seja, as autônomas letais. E banir a pesquisa, a criação, o desenvolvimento e o uso. Deveríamos ter mecanismos de fiscalização e punição na linha da Convenção Sobre as Armas Químicas, de 1997, podendo exigir que fabricantes de determinados dispositivos interrompam imediatamente a produção. No momento, EUA e Rússia bloqueiam o avanço de um tratado global. Há a possibilidade de que o tema, hoje em Genebra, seja levado à Assembleia Geralda ONU, onde não haveria necessidade de unanimidade para aprovação. Ou, como no caso do Tratado de Ottawa, de 1997, que bane as minas terrestres, de ser negociado fora do âmbito da ONU. De qualquer forma, não entendo por que EUA e Rússia arriscam permitir a possibilidade de criação de armas de destruição em massa “baratas”.

Países como o Brasil, que sofrem com violência urbana, deveriam estar atentos à proliferação dessas armas?

No México, cartéis já usam drones para assassinar rivais. É uma questão de tempo para tentarem usar armas-robôs letais. O tratado que está sendo discutido bane o uso de armas-robôs apenas no enfrentamento entre nações, não para uso local. Os países, individualmente, poderão banir a produção local, a importação e o uso em seu solo dessas armas. Não há hoje, porém, legislação sobre o tema.

Que outros aspectos merecem atenção urgente no desenvolvimento da IA?

Os algoritmos nas redes sociais, que têm papel central no aumento da polarização e na amplificação da desinformação. Também precisamos pensar sobre o que acontecerás e tivermos sucesso em criar uma espécie de super-homem artificial inteligente. Quando (o matemático e cientista britânico) Alan Turing (19121954) considerou essa possibilidade, em palestra em 1951, afirmou que “após se iniciar um método de pensamento da máquina, não demorará muito para ela nos superar, devemos esperar que em algum momento elas assumam o controle”. Ou, de outra maneira: uma inteligência artificial de uso geral será, sim, muito mais poderosa que nós.

Mas o título de seu livro diz ser possível usar a inteligência artificial a nosso favor...

Como assegurar que ela não se voltará contra nós? Há muitas maneiras de se responder a esta questão, e todas incluem repensar completamente a maneira como estamos projetando e construindo hoje os sistemas de IA. E, claro, precisamos fazer isso antes de criar essa IA de uso geral.

O aumento das desigualdades sociais é uma preocupação?

Sim, central. Se seguirmos os caminhos de hoje, quem controlar os sistemas de IA terá gradualmente mais poder econômico em escala global. Mais pessoas serão marginalizadas e a “democratização” da tecnologia não resolverá a questão. Se uma casa construída robôs custar US $20 mil e uma por humanos sair por US$ 200 mil, “democratizar” o acesso tecnológico, em um mundo em que a moradia continuará a ser um problema social, não protegerá o emprego das pessoas. Temos de pensar em mecanismos tributários específicos ou num esquema de participação acionária especial para garantir que os benefícios econômicos gerados pela IA sejam amplamente compartilhados. O problema é que nenhum de nós consegue oferecer, até o momento, visão convincente deste novo mundo em que sistemas de IA farão a maior parte do que hoje chamamos trabalho.