Direito

05/09/2019 | domtotal.com

Algoritmos interferem em processos democráticos, alerta professor da Dom Helder

Tema estará em debate no II Congresso do Conhecimento, que acontece de 11 a 14 de setembro, em Belo Horizonte.

Algumas empresas já utilizam os dados dos consumidores para praticarem preços personalizados.
Algumas empresas já utilizam os dados dos consumidores para praticarem preços personalizados. (Pixabay)

Por Patrícia Azevedo
Repórter Dom Total

Em março de 2018, uma investigação conjunta dos jornais The Guardian e The New York Times revelou que dados pessoais de 50 milhões de norte-americanos foram obtidos irregularmente pela empresa Cambridge Analytica e utilizados de modo indevido para fins eleitorais. A companhia britânica, que trabalhou para a campanha presidencial de Donald Trump, anunciou o seu fechamento dois meses depois. O escândalo também derrubou o Facebook, empresa de tecnologia dos Estados Unidos, que se viu obrigado a revisar as condições de privacidade e a gestão das informações pessoais dos usuários.

Em depoimentos à imprensa, o canadense Christopher Wylie, ex-diretor de tecnologia da Cambridge Analytica, contou que a companhia tinha comprado dados de milhões de usuários do Facebook sem o consentimento deles. Os dados foram obtidos por meio de um aplicativo de perfil psicológico desenvolvido por um pesquisador da Universidade Cambridge. O aplicativo permitia o acesso a informações dos usuários e também de seus amigos. De acordo com Wylie, os dados vendidos à Cambridge Analytica teriam sido usados para traçar o perfil das pessoas e direcionar, de forma mais personalizada, materiais a favor do republicano Donald Trump e mensagens contrárias à adversária dele, a democrata Hillary Clinton.

“A partir de 2016, ficou mais claro como o ganho de eficiência provocado pelo big data passou a ser utilizado para causar interferências em processos democráticos. O escândalo Cambridge Analytica foi um grande alerta neste sentido. Nos EUA, apenas 70 mil eleitores, em três estados, foram determinantes para a virada improvável a favor de Donald Trump. O padrão de comportamento dos eleitores em redes sociais foi utilizado para gerar fake news personalizadas com alto poder de impacto. O Brexit e a eleição brasileira de 2018 também foram afetados pela manipulação algorítimica”, aponta o pesquisador e advogado Caio Lara, professor da Dom Helder Escola de Direito. No dia 12 de setembro, ele será um dos palestrantes do II Congresso do Conhecimento, em painel sobre Inteligência Artificial.

Professor Caio Lara.Professor Caio Lara.Outro ponto questionado pelo professor, em entrevista ao Dom Total, é o uso de softwares para a tomada de decisões em tribunais dos Estados Unidos. Criados com o objetivo de tornar o sistema de Justiça Criminal mais justo, eliminando preconceitos humanos, os softwares têm passado por testes e investigações. Um deles, denominado Compas, foi acusado de estar frequentemente errado, além de ser tendencioso contra os negros. “Situações absurdas de violação de direitos fundamentais foram observadas, por exemplo, quando réus brancos reincidentes foram considerados menos perigosos que réus negros primários para a concessão de progressão de pena”, explica Caio Lara. Confira abaixo a entrevista completa:

De que forma os algoritmos podem servir para a manipulação do mercado e da sociedade?

A humanidade assiste a uma concentração de renda sem precedentes na história e os algoritmos do e-commerce, que trabalham na lógica do big data, são parte importante deste processo. Metade dos novos gastos em dólar na internet, por exemplo, ocorre na Amazon. Algumas empresas utilizam os dados dos consumidores para praticarem preços personalizados, ou seja, conseguem estabelecer o maior preço que o usuário pagaria por um produto para maximizarem seus lucros. O que a sociedade ainda tem dificuldade de perceber são as sutilezas dessas manipulações, que estão inseridas nas engrenagens eletrônicas do comércio virtual, com uma parte significativa funcionando a partir da invasão de privacidade dos usuários. A partir de 2016, também ficou mais claro como o ganho de eficiência provocado pelo big data passou a ser utilizado para causar interferências em processos democráticos.

Esse uso tem colocado em risco a democracia? Quais os grupos mais afetados?

Um dos maiores problemas com relação à democracia é justamente perceber a extensão do comprometimento dos processos eleitorais por conta da distribuição em massa de mensagens eletrônicas. As eleições passam a ser definidas não mais em função do debate de projetos ou de prováveis virtudes dos candidatos. Quem tem o poder econômico e tem acesso à tecnologia para a distribuição das fake news passa a ter, no final desta década, uma vantagem decisiva na manipulação da opinião pública. Os grupos mais afetados, sem dúvida, são aqueles historicamente oprimidos. Perdem os trabalhadores periféricos, as causas identitárias e os preservacionistas. Ganham os de sempre.

O título da palestra que fará no II Congresso do Conhecimento traz o termo ‘contra-hegemonia virtual’. O que isso significa em nosso contexto atual? 

A palestra se relaciona com a minha pesquisa de doutorado, recentemente concluída. Proponho a utilização dos algoritmos e dos sistemas ancorados em big data não mais no sentido de dominação dos consumidores e dos processos democráticos. Trabalho o ganho de eficiência trazido pelos algoritmos na formulação de políticas públicas, especialmente relacionadas ao Direito Social e à Educação. Apresentei um projeto de sistema de gestão do clima escolar para a rede fundamental de educação pública, juntamente a um protótipo de aplicativo com diversas funções, entre as quais se destacam o controle da violência (bullying) e a gestão da participação da comunidade nas demandas da escola. A contra-hegemonia ocorre no momento em que invertemos o foco de utilização da tecnologia em favor das classes menos favorecidas.

Como o Direito está inserido neste cenário e pode contribuir para uma sociedade democrática?

A discussão que ocorre é sobre o papel do Estado em proporcionar um efetivo acesso à Justiça aos cidadãos. O acesso, neste caso, não é mais entendido como acesso ao Poder Judiciário ou à própria jurisdição. Falamos de um acesso à Justiça pela via da efetivação dos Direitos Sociais. No caso, ao Direito a uma educação de qualidade, necessária para a formação de consciência crítica nos futuros eleitores e governantes. Uma educação capaz de amenizar os danos causados pela manipulação da opinião pública em meio digital.

O senhor citou a sua pesquisa de doutorado. Quais os pontos que mais lhe chamaram a atenção? 

Fiquei surpreso com o avanço proporcionado pela tecnologia no campo da saúde (monitoramento de doenças contagiosas) e na criação das smartcities, um conceito inovador de cidade conectada. Contudo, a adoção de algoritmos no Poder Judiciário merece muita atenção e cautela. Alguns estados americanos passaram a conferir aos computadores o poder de decisão. Situações absurdas de violação de direitos fundamentais foram observadas, por exemplo, quando réus brancos reincidentes foram considerados menos perigosos que réus negros primários para a concessão de progressão de pena. No sistema de monitoramento dos cidadãos, a experiência chinesa também merece a nossa crítica. Conto em detalhes na palestra.


Patrícia Azevedo/Dom Total

EMGE

*O DomTotal é mantido pela Escola de Engenharia de Minas Gerais (EMGE). Engenharia Civil conceito máximo no MEC. Saiba mais!


Instituições Conveniadas