A Organização Mundial da Saúde (OMS) emitiu um apelo urgente nesta quarta-feira, através de sua divisão para a Europa, para que os países reforcem as salvaguardas jurídicas e proteções legais sobre o uso da Inteligência Artificial (IA) no setor da saúde. O alerta reflete uma preocupação crescente de que o desenvolvimento dessas tecnologias está superando a capacidade regulatória das nações, criando uma lacuna que pode comprometer a segurança e a equidade no cuidado aos pacientes.
O alerta da OMS concentra-se, em grande parte, na necessidade de que a IA não seja uma “caixa preta”.
A explicabilidade é a chave
Muitos sistemas avançados de IA funcionam hoje como uma “caixa preta”: eles recebem uma grande quantidade de dados e fornecem um resultado, mas o processo interno que levou a essa conclusão é obscuro. A OMS exige o que se chama de Explicabilidade dos Algoritmos, ou XAI.
Para que se entenda a gravidade, imagine o seguinte cenário:
Um sistema de IA analisa a radiografia de um paciente e sugere um diagnóstico de pneumonia com 90% de certeza.
- Sem Explicabilidade (“Caixa Preta”): O médico recebe apenas a taxa de 90%. Se a condição do paciente não melhorar, o médico não consegue saber se o algoritmo errou, se os dados de entrada estavam incompletos ou se o próprio modelo de IA foi treinado incorretamente. A decisão é cega.
- Com Explicabilidade (XAI): O sistema não só sugere o diagnóstico, mas também aponta quais fatores na radiografia foram determinantes, como “a opacidade na região inferior direita do pulmão contribuiu com 65% da decisão”. Isso permite que o médico audite a sugestão da máquina, verifique se a área destacada é clinicamente relevante e combine o dado com sua própria experiência, garantindo maior segurança e transparência.
Riscos sem regulamentação
A ausência dessa transparência, combinada com a falta de leis específicas, levanta as principais preocupações da OMS:
- Segurança do Paciente: Sem a explicabilidade e testes rigorosos, diagnósticos errados podem ocorrer. A OMS exige que as ferramentas de IA sejam testadas em termos de segurança e eficácia antes de serem implementadas, e que sejam evitadas as decisões cegas da “caixa preta”.
- Privacidade dos Dados: A IA utiliza grandes volumes de informações médicas pessoais e ultrassensíveis, como quem vive com HIV, por exemplo. É fundamental que as leis nacionais estabeleçam padrões rigorosos para a anonimização dos dados e garantam o direito do paciente de saber como suas informações são usadas e armazenadas.
- Aumento das Desigualdades: Se o uso e desenvolvimento da IA se restringirem a países ou instituições ricas, a tecnologia pode agravar as disparidades, negando os benefícios da inovação a populações vulneráveis.
O Apelo da OMS
Para mitigar esses riscos, a OMS pede aos países que adotem mecanismos de indenização e expliquem claramente as responsabilidades legais. Se uma falha no sistema de IA causar dano a um paciente, deve estar claro quem será responsabilizado legalmente e financeiramente.
O objetivo da Organização não é travar o progresso, mas sim garantir que a revolução tecnológica na saúde seja construída sobre uma base de confiança, ética e segurança incondicional para todos os pacientes.
