;
Mundo Ciência e Tecnologia

13/01/2018 | domtotal.com

'Black Mirror' expõe nosso medo de robôs e algoritmos que fogem do controle

O utopismo tecnológico está aos poucos dando lugar ao reconhecimento de que a tecnologia não é neutra, e que é papel de uma sociedade funcional controlar seu uso.

O protagonista do episódio é um robozinho preto nada comunicativo, que anda de quatro e tem uma pistola armazenada na perna da frente.
O protagonista do episódio é um robozinho preto nada comunicativo, que anda de quatro e tem uma pistola armazenada na perna da frente. (Reprodução da série)

Por Murtaza Hussain

Não há uma trama propriamente dita no episódio “Metalhead” da nova temporada da série “Black Mirror”. O protagonista do episódio é um robozinho preto nada comunicativo, que anda de quatro e tem uma pistola armazenada na perna da frente. Não se sabe quem controla o robô, se é que há alguém. A criatura mecânica de quatro patas aparentemente opera por conta própria, com seus próprios objetivos. Ao longo do episódio de 40 minutos, ele persegue uma mulher que foge desesperadamente por uma floresta, tentando em vão escapar de seus sensores.

“Black Mirror”, para quem não sabe, é uma série de ficção científica da Netflix sobre um futuro próximo em que novas tecnologias trazem terríveis e inesperadas consequências para nossas vidas, limitando a autonomia individual, comprometendo os valores sociais e até desencadeando uma violência incontrolável. Embora aterrorizantes, no entanto, as tecnologias mostradas no programa não são inusitadas. A exemplo do robozinho autônomo de “Metalhead”, elas refletem avanços que podemos facilmente imaginar, bastante próximos de tecnologias já existentes, como os drones.

Desde as primeiras detonações de bombas atômicas no século XX, a cultura pop vem desenvolvendo um fascínio mórbido pelo fato de a humanidade poder construir ferramentas suficientemente poderosas para se autodestruir. As tecnologias maléficas mostradas em “Black Mirror”, porém, são mais sutis que as armas nucleares. A maioria dos episódios trata de avanços de robótica, vigilância, realidade virtual e inteligência artificial – áreas consideradas essenciais pelas empresas de tecnologia do mundo real. Os criadores da série demonstram como a lógica interna dessas novas tecnologias pode levar à destruição de seus usuários, caso não sejam implementados meios de controle.

Além da produção cuidadosa e da qualidade das atuações de “Black Mirror”, aspectos aclamados pela crítica, a análise social que faz a série parece ter atingido um ponto nevrálgico para um público que começa a sentir confusão, medo e alienação em relação aos desdobramentos das novas tecnologias. Um estudo de 2015 da Universidade de Chapman descobriu que três dos cinco principais medos dos norte-americanos estavam relacionados às consequências das tecnologias emergentes. O potencial da automação para eliminar milhões de postos de trabalho e o da inteligência artificial para enfraquecer a democracia já são bem documentados. Mas também ajudaram a criar um ambiente de crescente pessimismo fenômenos como os assassinatos transmitidos ao vivo, o recrutamento online de terroristas e as ameaças de apocalipse nuclear por meio das mídias sociais.

Vale a pena refletir sobre como chegamos a esse ponto.

Em 1992, antes da popularização da internet, o teórico da comunicação e crítico social Neil Postman escreveu um pequeno livro chamado “Tecnopólio: a rendição da cultura à tecnologia”. Ele argumentava que a ideia moderna de tecnologia estava se tornando perigosamente distorcida. Em vez de desenvolver novas tecnologias para atingir objetivos publicamente conhecidos, começamos a considerar o avanço tecnológico um fim em si mesmo. Sem um contexto cultural e político forte o suficiente para determinar o que deveria ser inventado e por quê, estaríamos sujeitos ao risco de corromper nossa cultura cívica e nossa democracia diante das novas e poderosas tecnologias que operavam segundo uma lógica própria. Postman alertava que logo começaríamos a precisar nos adaptar às necessidades de nossas invenções, e não o contrário.

“Black Mirror” retrata uma versão de pesadelo das previsões de Postman. Adotadas sem senso crítico, apenas na crença de que podem melhorar nossas vidas, tecnologias como a realidade virtual e as redes sociais tornam-se gradualmente veículos para o controle social autoritário, ou mesmo para a escravização de seus usuários. A série reflete uma tendência crescente na cultura pop. Nos últimos anos, outras séries de ficção científica como “Westworld” e “H+” também se concentraram no lado obscuro das tecnologias emergentes, incluindo a robótica e a inteligência artificial. No seu mais recente livro “Why Liberalism Failed” [“Por que o liberalismo fracassou”, em tradução livre, sem edição no Brasil], o professor de ciência política da Universidade de Notre Dame, Patrick Deneen, entende que:

A maior parte dos exemplos desse gênero recente reflete um pressentimento disseminado e uma sensação comum de impotência, e até mesmo de potencial aprisionamento à própria tecnologia que deveria nos libertar. Esses filmes e séries mostram como estamos subjugados de várias formas às mesmas tecnologias que, tomados pelo otimismo excessivo e por uma certa vaidade, acreditamos que nos levariam a uma nova era de liberdade. Estamos longe de controlar a tecnologia para nosso o bem, ela vai acabar nos governando ou nos destruindo.

A impotência que muitos sentem diante das novas tecnologias também pode estar relacionada à natureza nada democrática de seu desenvolvimento. As pessoas costumam temer algo de que dependem, mas que não conseguem compreender ou controlar — e isso é natural. Nos últimos 10 a 15 anos, muitas normas sociais e políticas tradicionais foram esvaziadas pelas tecnologias que contribuíram, nos EUA, para a crise de credibilidade da democracia. As empresas do Vale do Silício têm sido muito pouco transparentes em relação às implicações futuras de seus programas de pesquisa e desenvolvimento, que muitos norte-americanos consideram, com razão, que podem levar à extinção de seus empregos.

Quando os grandes executivos se pronunciam, costumam fazer afirmações perturbadoras sobre o fim iminente de normas sociais muito apreciadas, como a privacidade individual. Numa entrevista concedida em 2010, o presidente do Facebook Mark Zuckerberg afirmou que “logo vão acabar os dias de ter uma imagem para seus amigos ou colegas de trabalho e outra para as outras pessoas que você conhece”, e declarou ainda que “ter duas identidades é um exemplo de falta de integridade”.

Mesmo que nunca venham a se concretizar as previsões mais preocupantes sobre a destruição da humanidade por programas de inteligência artificial fora de controle, já abrimos mão de muita autonomia individual em prol de tecnologias cujas filosofias subjacentes não estavam claras quando foram apresentadas ao público. Há uma reação crescente a esse tipo de autoritarismo corporativo. Aumentam as propostas para desmembrar as empresas de tecnologia à luz da legislação antitruste, ao mesmo tempo em que ex-executivos do Vale do Silício um tanto desiludidos começam a soltar o verbo sobre os efeitos colaterais negativos dos programas que ajudaram a desenvolver. O utopismo tecnológico está aos poucos dando lugar ao reconhecimento de que a tecnologia não é neutra, e que é papel de uma sociedade funcional controlar seu uso.

O robô do episódio “Metalhead” de “Black Mirror” foi inspirado em um robô real, desenvolvido pela empresa de engenharia Boston Dynamics. Denominado SpotMini, é descrito por seus criadores como um “robô ágil que manuseia objetos, sobe degraus, e funciona em escritórios, casas e em espaços abertos”. O site da empresa mostra um vídeo em que o SpotMini aparece caminhando, fazendo tarefas domésticas e se recompondo depois de uma queda. Ao contrário do seu gêmeo malvado em “Metalhead”, o robô nos vídeos promocionais parece prestativo e até amigável.

Seria bom imaginar um futuro em que robôs como o SpotMini sejam usados para nos ajudar nas tarefas domésticas, não para perseguir e matar seres humanos aterrorizados em fuga. Só é possível evitar o futuro distópico mostrado em programas como “Black Mirror” exigindo supervisão pública sobre as empresas do Vale do Silício, cujas políticas ditam a forma futura de nossas sociedades e também de nossas próprias vidas.


The Intercept Brasil, 08-01-2018.

EMGE

*O DomTotal é mantido pela Escola de Engenharia de Minas Gerais (EMGE). Engenharia Civil conceito máximo no MEC. Saiba mais!

Comentários

Instituições Conveniadas