A ética dos algoritmos e seus impactos na saúde

A crescente complexidade dos sistemas digitais e a onipresença da inteligência artificial (IA) têm gerado uma discussão aprofundada sobre a ética dos algoritmos ou algorethics. Este conceito aborda a responsabilidade moral e social no desenvolvimento e uso de algoritmos. Na saúde, especialmente, o impacto é direto em aspectos críticos da vida humana.

O termo surgiu com força no início do ano passado, no Vaticano, após encontro entre representantes do judaísmo, cristianismo e islamismo, que lançaram conjuntamente um apelo em favor do desenvolvimento ético da IA. O Papa Francisco pediu que “a algorética, ou seja, a reflexão ética sobre o uso de algoritmos, esteja cada vez mais presente não apenas no debate público, mas também no desenvolvimento de soluções técnicas”.

Globalmente, o assunto tem se tornado pauta para legisladores, pesquisadores e empresas de tecnologia. Organizações como a União Europeia e o Fórum Econômico Mundial têm promovido diretrizes e regulamentações para assegurar que os algoritmos sejam usados de maneira responsável e justa.

Nos Estados Unidos, debates sobre o tema têm influenciado políticas públicas e a criação de novas leis destinadas a proteger os cidadãos contra práticas discriminatórias e invasivas.

No Brasil, a preocupação também tem ganhado atenção. A Lei Geral de Proteção de Dados (LGPD), em vigor desde 2020, é um reflexo desse movimento. Ela estabelece regras rigorosas sobre a coleta, processamento e armazenamento de dados pessoais, com o objetivo de proteger a privacidade dos cidadãos e garantir que o uso adequado dos dados individuais.

+Leia também: Transformação digital para um sistema de saúde mais eficiente e humanizado

Saúde envolve dados muito sensíveis

A aplicação da ética dos algoritmos na saúde é crucial devido à natureza sensível dos dados envolvidos e à interferência na vida das pessoas. A inovação tecnológica tem o potencial de transformar significativamente a saúde, com diagnósticos mais precisos até tratamentos personalizados e eficientes.

No entanto, sua implementação exige cuidados rigorosos para evitar consequências negativas.

O Instituto Ética Saúde iniciou conversas, recentemente, com a Agência Nacional de Saúde Suplementar (ANS), para que o tema seja tratado com mais atenção dentro de um esforço coletivo de melhoria contínua da jornada do paciente.

Inclusive, algorethics será pauta na revisão, ainda em 2024, do Marco de Consenso Brasileiro para a Colaboração Ética Multissetorial na Área da Saúde, pelo Instituto Ética Saúde e entidades setoriais.

São muitos os pontos de atenção:

1. Proteção de dados dos pacientes

Os algoritmos usados em saúde frequentemente lidam com grandes volumes de dados pessoais e clínicos, tornando essencial garantir a proteção dessas informações. Várias medidas devem ser adotadas para evitar a exposição indevida e proteger a privacidade dos indivíduos. Entre elas:

Anonimização de dados: Sempre que possível, os dados devem ser anonimizados para que a identidade dos pacientes não possa ser rastreada;

Segurança da informação: Sistemas de armazenamento e processamento de dados devem implementar criptografia e outras medidas de segurança para prevenir acessos não autorizados;

Transparência e consentimento: Os pacientes devem ser informados sobre como seus dados serão utilizados e devem consentir com o uso para fins de pesquisa e desenvolvimento de algoritmos.

+Assine a newsletter de VEJA SAÚDE

2. Prevenção de viés algorítmico

Algoritmos de saúde devem ser projetados para evitar viés e discriminação. O viés algorítmico pode levar a diagnósticos imprecisos ou tratamentos inadequados, particularmente para grupos minoritários ou menos representados nos dados de treinamento.

Para mitigar esses riscos:

Diversidade nos dados de treinamento: Assegurar que os dados utilizados para treinar algoritmos representem adequadamente todas as populações e condições de saúde;

Auditorias e revisões: Realizar auditorias regulares e avaliações de impacto para identificar e corrigir possíveis fontes de viés.

3. Integridade e precisão das decisões

A integração de IA e algoritmos na prática clínica deve ser feita com cautela para garantir que as decisões automatizadas sejam precisas e confiáveis:

Validação e testes: Antes de serem implementados, os algoritmos devem ser rigorosamente validados em ambientes controlados;

Monitoramento contínuo: Implementar um sistema para detectar e corrigir problemas rapidamente após a implementação.

À medida que continuamos a avançar em direção a um futuro mais digital e automatizado, é vital que os profissionais da saúde, desenvolvedores de tecnologias e legisladores trabalhem juntos para criar um ambiente ético e seguro para tal transformação.

A inteligência artificial não é o amanhã, é o hoje, e tem que ser aplicada para o bem da humanidade. Portanto, precisamos usá-la de forma correta.

*Carlos Eduardo Gouvêa é diretor de Relações Institucionais do Instituto Ética Saúde, e Filipe Venturini Signorelli é diretor executivo do Instituto Ética Saúde

• Avanços da medicina
• Saúde pública
• Tecnologia