Engenharia Ensaios em Engenharia, Ciência e Sustentabilidade

13/07/2021 | domtotal.com

O setor de saúde, a IA e os desafios éticos

Ética e direitos humanos devem estar no centro da relação saúde e IA

'Nosso futuro é uma corrida entre o crescente poder da tecnologia e a sabedoria com que a usamos' - Stephen Hawking
'Nosso futuro é uma corrida entre o crescente poder da tecnologia e a sabedoria com que a usamos' - Stephen Hawking (Unsplash/National Cancer Institute)

 Jose Antonio de Sousa Neto*

Muito recentemente, neste ano de 2021, a Organização Mundial de Saúde (OMS ou WHO - World Health Organization) divulgou um importante documento de referência e também para orientação e reflexão, intitulado Ética e governança da inteligência artificial para a saúde: guia da OMS (Ethics and governance of artificial intelligence for health: WHO guidance). De fato, existem grandes oportunidades e desafios relacionadas às novas tecnologias no setor de saúde.

Os vários tipos de tecnologia de IA incluem, por exemplo, aplicativos de aprendizado de máquina relacionados ao reconhecimento de padrões, processamento de linguagem natural e processamento de sinais e sistemas especializados. O aprendizado de máquina, que é um subconjunto de técnicas de IA, é baseado no uso de técnicas de modelagem estatística e matemática para definir e analisar dados. Esses padrões aprendidos são então aplicados para realizar ou guiar certas tarefas e fazer previsões. Existem ainda muitas plataformas que disponibilizam ferramentas como o Watson da IBM, o Google, a Amazon, etc. Para um pouco mais de detalhes sugiro o texto Aprendizado de máquinas e ciência de dados.

Como aponta o relatório da OMS, "A inteligência artificial (IA) tem um enorme potencial para fortalecer a prestação de cuidados de saúde e ajudar todos os países a alcançar a cobertura universal nesta área. Isso inclui diagnóstico e atendimento clínico aprimorados, a pesquisa em saúde e o desenvolvimento de medicamentos. Inclui ainda o auxílio na implantação de diferentes intervenções nos sistemas de saúde pública como, por exemplo, a vigilância de doenças, a resposta a surtos e a gestão dos próprios sistemas de saúde.

O uso de tecnologias de IA para a saúde é uma grande promessa e já contribuiu para avanços importantes em áreas como descoberta de medicamentos, genômica, radiologia, patologia e prevenção. A IA tem o potencial para ajudar os profissionais de saúde a evitar erros e permitir que os médicos se concentrem em fornecer cuidados e resolver casos complexos. Os benefícios potenciais dessas tecnologias e o potencial econômico e comercial da IA para a saúde pressagiam um uso cada vez maior da IA em todo o mundo".

O relatório da OMS, no contexto da provisão de serviços de saúde, ressalta uma série de exemplos onde a IA artificial pode agregar na prevenção, diagnóstico e tratamento de enfermidades. A acumulação de muitos dados úteis, inclusive no contexto mais amplo do big data, inclui a combinação de tecnologias diversas, informações genéticas geradas por sequenciamento de genoma, registros eletrônicos de saúde, imagens radiológicas e até mesmo dados e informações relacionadas a leitos/quartos de hospital.  Exemplificando de forma ainda mais detalhada, o relatório da OMS cita ainda o uso da IA, dentre inúmeras outras possibilidades, no diagnóstico radiológico em oncologia (imagem torácica, imagem abdominal e pélvica, colonoscopia, mamografia, imagem cerebral e otimização de dose para tratamento radiológico), em aplicações não radiológicas (dermatologia, patologia), em diagnóstico de retinopatia diabética, em oftalmologia e para sequenciamento de RNA e DNA para orientar a imunoterapia, em um sistema de suporte para interpretação e coloração de imagens. Esta parte de imagens é uma das mais promissoras e desafiadoras ao trabalhar com dados não estruturados, mas tem uma abrangência potencial importante assim como em muitas outras áreas da ciência.

A IA também tem sido estudada / utilizada para a identificação de processos pandêmicos como o relacionado à Covid-19.  Como aponta o relatório da OMS, os possíveis usos da IA para diferentes aspectos da resposta a surtos incluem estudar a transmissão do vírus, facilitar a detecção, desenvolver possíveis vacinas e tratamentos e compreender os impactos socioeconômicos da pandemia.

Enfim, de um modo bem geral, os médicos podem usar IA para integrar os registros dos pacientes durante as consultas, identificar pacientes em risco e grupos vulneráveis, auxiliar em decisões de tratamento difíceis e para detectar erros clínicos. Embora a IA não possa e possivelmente, em muitos casos, nem deva substituir a tomada de decisão clínica, pode, por outro lado, melhorar muito as decisões tomadas pelos médicos.

Mas apesar de toda esta visão promissora a drª Soumya Swaminathan, cientista chefe da própria OMS, traz uma reflexão de grande importância:

"Ao mesmo tempo, para que a IA tenha um impacto benéfico na saúde pública e na medicina, as considerações éticas e os direitos humanos devem ser colocados no centro do projeto, desenvolvimento e implantação de suas tecnologias. Para que a IA seja usada de forma eficaz para a saúde, os preconceitos existentes nos serviços e sistemas de saúde baseados em raça, etnia, idade e gênero, que são codificados nos dados usados para treinar algoritmos, devem ser superados. Os governos precisarão eliminar uma divisão digital preexistente (ou a distribuição desigual de acesso) ao uso de tecnologias de informação e comunicação. Essa divisão digital não apenas limita o uso de IA em países de baixa e média renda, mas também pode levar à exclusão de populações em países ricos, seja com base em gênero, geografia, cultura, religião, idioma ou idade".

Como em diversas outras áreas onde a IA já está presente, inferências tendenciosas resultantes muitas vezes de algorítmicos com algum tipo de viés (mesmo que involuntário), análises de dados enganosas e aplicativos e ferramentas de saúde mal projetados podem evidentemente ter consequências muito prejudiciais. Uma base de dados de alta qualidade é um dos cálices sagrados de todo o processo. Algoritmos preditivos baseados em dados inadequados ou inapropriados podem resultar, dependendo da situação, inclusive em preconceito étnico significativo. O uso de conjuntos de dados abrangentes e de alta qualidade é essencial.

Para colher plenamente os benefícios da IA, os desafios éticos para os sistemas de saúde, para os profissionais e para os beneficiários dos serviços médicos devem ser enfrentados.

Aqui cabe a citação de  Stephen Hawking que se encontra no prefácio do documento da OMS e que é uma síntese perfeita deste desafio : "Nosso futuro é uma corrida entre o crescente poder da tecnologia e a sabedoria com que a usamos".  

Como o documento da OMS alerta ainda, "a Declaração Universal dos Direitos Humanos, que inclui pilares dos direitos do paciente, como dignidade, privacidade, confidencialidade e consentimento informado, pode ser drasticamente redefinida ou minada à medida que as tecnologias digitais se firmam e se expandem. Muitas empresas já acumularam grandes quantidades de dados, incluindo dados de saúde, e exercem um poder significativo na sociedade e na economia. Embora essas empresas possam oferecer abordagens inovadoras, existe a preocupação de que possam eventualmente exercer muito poder em relação aos governos, fornecedores e pacientes".

Estes desafios já foram compreendidos por diversas sociedades. Em particular, o uso da IA para a saúde levanta questões éticas, legais, comerciais e sociais de caráter transnacional. Muitas dessas preocupações não são, entretanto, exclusivas da IA na área de saúde. Preocupações similares têm sido amplamente discutidas em áreas das ciências humanas como o direito. De toda forma, o desenvolvimento e uso de softwares e plataformas para a área de saúde tem desafiado desenvolvedores, governos e provedores já por um longo período. O fato é que a IA apresenta novos desafios éticos que vão além do alcance dos reguladores tradicionais e participantes dos sistemas de saúde. É preciso enfrentar estes desafios éticos sem subestimá-los e de forma adequada para garantir o acesso equitativo a tais tecnologias. No Brasil estas preocupações tem sido discutidas pela sociedade como um todo. Na semana passada, por exemplo, a Câmara dos Deputados aprovou o a regime de urgência para Marco legal da IA.

Finalmente, na combinação deste enorme potencial e destes enormes desafios vemos, mais uma vez, a convergência inevitável de duas áreas do conhecimento que até há relativamente bem pouco tempo eram consideradas como vocações muito distantes entre si: o direito e a ciência da computação. A medida que vamos progredindo tecnologicamente vamos percebendo que estas duas áreas do conhecimento estarão, além de próximas entre si,  daqui em diante também muito próximas de diversas outras áreas como a engenharia, a arquitetura, a administração,  a economia e várias outras áreas da ciência.

*Professor da EMGE (Escola de Engenharia e Ciência da Computação)

O texto reflete a opinião pessoal do autor, não necessariamente do Dom Total. O autor assume integral e exclusivamente responsabilidade pela sua opinião.



Comentários
Newsletter

Você quer receber notícias do domtotal em seu e-mail ou WhatsApp?

* Escolha qual editoria você deseja receber newsletter.

DomTotal é mantido pela EMGE - Escola de Engenharia e Dom Helder - Escola de Direito.

Engenharia Cívil, Ciência da Computação, Direito (Graduação, Mestrado e Doutorado).

Saiba mais!