SuperDom Fato em Foco

04/12/2019 | domtotal.com

Inteligência artificial, um desafio à civilização

O pânico diante da era em que as máquinas começarão a pensar por nós

O advento da IA é irrefreável e pode ser a revolução de maior alcance da humanidade
O advento da IA é irrefreável e pode ser a revolução de maior alcance da humanidade

Antônio Martins*

Quando até os defensores icônicos do capitalismo manifestam incertezas e receios com os rumos do sistema e o futuro do mundo, vale a pena estar muito atento. Henry Kissinger, ex-secretário de Estado dos EUA, Eric Schmidt, ex-executivo-chefe da Google e Alphabet e Daniel Huttenlocher, reitor da área tecnológica da Universidade de Cornell acabam de publicar uma análise sobre as perspectivas e riscos da inteligência artificial (IA). Sóbrio, o texto, já publicado na edição impressa da revista The Atlantic (mas já pode ser acessado on-line) não é alarmista na forma – e não sugere, nem de longe, ação de resistência. Chega a dizer que o advento da IA é “irrefreável” e pode ser “uma das revoluções mais significativas – e de maior alcance – na história da humanidade”. Mas quais os seus sentidos? Ao tentar responder a esta pergunta, os autores não escondem seu temor.

Kissinger, Schmidt e Huttenlocher são claros. O desenvolvimento da IA equivale à “transferência crescente de decisões, de seres humanos para máquinas”. Ao processar um volume de informações imensamente maior que o cérebro humano, os sistemas dotados de inteligência artificial podem “descobrir associações entre dados e ações, oferecendo soluções que são, para nós, difíceis ou impossíveis”. O resultado, nas palavras dos próprios autores, é que “este processo cria novas formas de automação e, com o tempo, poderá produzir formas inteiramente novas de pensamento”.

E quando a Inteligência Artificial for aplicada à gestão dos arsenais atômicos?E quando a inteligência artificial for aplicada à gestão dos arsenais atômicos?Este passo já foi dado, em domínios aparentemente banais. Computadores programados para jogar xadrez haviam se tornado superiores aos campeões mundiais há 20 anos, como Garry Kasparov. Máquinas associadas à inteligência artificial foram induzidas a aprender sozinhas a jogar xadrez. Ao invés de orientado por grandes jogadores (como sempre ocorrera antes) seu processo de aprendizado baseou-se em conhecer as regras; e desenvolver, por si, estratégias próprias. O método é rudimentar: tentativa e erro. Mas a capacidade de processar informações, descobrir e desenvolver padrões, é tão colossal que o AlphaZero, programa que realizou a proeza, tornou-se – em apenas 24 horas – capaz de vencer qualquer ser humano quando os mais sofisticados programas para jogar xadrez criados até então.

E quando a inteligência artificial for aplicada à gestão dos arsenais atômicos? Que inusitadas estratégias os sistemas tentarão, reciprocamente, desenvolver para liquidar os do inimigo? Quais as consequências  de um passo em falso capaz de desencadear a grande avalanche?

O que acontece quanto ferramentas deste tipo são transportadas de tabuleiros inofensivos para as relações humanas, tão complexas e desiguais? Kissinger, Schmidt e Huttenlocher lembram que algumas aplicações podem, teoricamente, resultar em grandes ganhos – relacionados, por exemplo, à saúde e longevidade. Mas chamam atenção para ao menos duas aplicações em que os desequilíbrios resultantes podem ser catastróficos.

A primeira é a guerra – inclusive nuclear. Um armagedom foi evitado até agora, dizem eles, graças aos princípios do equilíbrio do terror e da dissuasão. As potências atômicas com capacidade de dizimar seus possíveis adversários (e o mundo) hesitam em fazê-lo por saberem que a consequência inevitável será sua própria, e idêntica, devastação. Mas e quando a inteligência artificial for aplicada à gestão dos arsenais atômicos? Que inusitadas estratégias – incluindo simulações, chantagens, emboscadas – os sistemas tentarão, reciprocamente, desenvolver para liquidar os do inimigo? Quais as consequências (não para as máquinas, mas para bilhões de humanos e o próprio planeta) de um passo em falso capaz de desencadear a grande avalanche?

O advento de assistentes pessoais e a popularidade do celular entre as gerações mais jovens permitem antever um futuro, breve e aterrador, em que “a principal fonte de interação e conhecimento não serão os pais, membros da família, amigos ou professores – mas ‘companheiros’ digitais”.

A segunda consequência são as relações humanas – em especial a educação. O advento de assistentes pessoais (como o Alexa e o Google Home) e a popularidade do celular entre as gerações mais jovens permitem antever um futuro, breve e aterrador, em que “a principal fonte de interação e conhecimento não serão os pais, membros da família, amigos ou professores – mas ‘companheiros’ digitais”.

A fonte de interação e conhecimento não serão mais os pais, amigos ou professoresA fonte de interação e conhecimento humanos não serão mais os pais, amigos ou professoresOcorre que os algoritmos de IA, embora ampliem o repertório de informações, também “estreitam as escolhas e multiplicam o poder de suprimir ideias novas ou desafiadoras”. Podem além disso, admitem os autores, “diminuir a capacidade inquisitiva”, já que a busca de conhecimento será progressivamente transferida para máquinas; abrir possibilidades muito mais vastas para o terrorismo de Estado e de grupos (pense na sabotagem digital das redes de infraestrutura); enfraquecer os sistemas democrático por meio de métodos como os da Cambridge Analytica.

Nos breves parágrafos propositivos do texto, Kissinger, Schimdt e Huttenlocher são muito menos profícuos e instigantes que nos trechos de alerta. Partidários da hegemonia capitalista, eles parecem descrer da possibilidade de ação transformadora sobre o mundo. Falam em trivialidades como “exigir envolvimento humano em ações onde há apostas altas em jogo (como a interpretação de exames médicos); fazer simulações e testes para testar a adequação da IA aos valores humanos; desenvolver um novo campo de escrutínio – a “ética de IA”. Parecem desconsiderar que vivemos sob um sistema em cuja essência estão a disputa, a rivalidade e a violência.

A inteligência artificial é um dos múltiplos campos em que o desenvolvimento das forças produtivas desafiará, muito em breve, relações sociais, comportamentos e visões de mundo consolidadas há séculos.

Ainda assim, o texto lança uma provocação perturbadora e indispensável. A inteligência artificial é um dos múltiplos campos em que o desenvolvimento das forças produtivas desafiará, muito em breve, relações sociais, comportamentos e visões de mundo consolidadas há séculos (pense também, por exemplo, na edição genética, nas nanotecnolgias, nas armas autônomas). Se o ambiente político e o controle do poder continuarem a se deteriorar, o resultado pode ser a desumanização radical. Reflita sobre isso quando se julgar desanimado pelos reveses da democracia brasileira. O desafio é mais vasto do que, às vezes, supõe nosso vão pessimismo.

*Antonio Martins, jornalista, em artigo publicado por Outras Palavras

Comentários

Instituições Conveniadas