A Organização Mundial da Saúde publicou nesta segunda-feira (21) novas recomendações para reforçar a supervisão ética de pesquisas em saúde que utilizam inteligência artificial. O documento reconhece o potencial da tecnologia para acelerar descobertas e melhorar sistemas de saúde, mas alerta que os mecanismos tradicionais de avaliação podem não estar preparados para lidar com todos os riscos criados por modelos de IA.
Entre os principais pontos levantados pela OMS estão transparência, viés, equidade, privacidade, responsabilização e os possíveis danos provocados pelo uso rápido de ferramentas ainda pouco compreendidas.
IA já participa de várias etapas da pesquisa em saúde
A inteligência artificial está sendo usada para analisar grandes volumes de dados médicos, identificar padrões em imagens, apoiar desenvolvimento de medicamentos, prever riscos e automatizar partes do trabalho científico.
Esse avanço cria oportunidades, mas também muda a forma como decisões são tomadas dentro de pesquisas. Um algoritmo pode influenciar quem entra em um estudo, quais resultados recebem maior atenção e até quais hipóteses parecem mais promissoras.
Por isso, a OMS afirma que não basta avaliar apenas o objetivo final de uma pesquisa. É necessário acompanhar como os dados foram obtidos, quais modelos foram usados, como foram treinados e quais grupos podem ser afetados pelos resultados.
Relatório separa três tipos de pesquisa envolvendo IA
O documento organiza os estudos em três grandes categorias. A primeira reúne pesquisas de saúde que usam IA para analisar dados. A segunda inclui estudos realizados diretamente com ferramentas e tecnologias de inteligência artificial. A terceira envolve pesquisas destinadas a avaliar as próprias ferramentas de IA aplicadas à saúde.
Essa divisão ajuda comitês de ética e instituições a entender que diferentes projetos podem apresentar riscos distintos, mesmo quando todos são descritos genericamente como “pesquisa com IA”.
Comitês de ética podem precisar de especialistas em tecnologia
A OMS destaca que comitês de ética em pesquisa continuam tendo papel central na proteção dos participantes, mas podem precisar de novas competências técnicas.
Modelos complexos podem funcionar como sistemas pouco transparentes, dificultando entender por que determinada conclusão foi gerada. Além disso, bases de dados podem reproduzir desigualdades existentes e produzir resultados menos precisos para grupos que estiveram pouco representados no treinamento.
Isso significa que avaliar apenas consentimento, metodologia clínica e segurança tradicional pode não ser suficiente em determinados projetos.
Privacidade e uso secundário de dados ganham peso
Outra preocupação está no uso de grandes bancos de dados. Informações de saúde são altamente sensíveis e podem ser reutilizadas para finalidades diferentes daquelas previstas inicialmente.
A capacidade de combinar bases distintas também aumenta a possibilidade de reidentificação de pessoas mesmo quando nomes e dados óbvios foram removidos.
A OMS recomenda que riscos relacionados à governança de dados sejam analisados desde o desenho da pesquisa, e não apenas depois que o sistema já estiver pronto.
Países com menos recursos podem ficar para trás
O relatório também chama atenção para a concentração de pesquisa e desenvolvimento de IA em países de renda mais alta. Se bancos de dados, infraestrutura e equipes técnicas estiverem concentrados em poucos lugares, os benefícios da tecnologia podem não ser distribuídos de maneira equilibrada.
A organização defende mais participação local, formação de especialistas e capacidade de supervisão em países de baixa e média renda.
Regras precisam acompanhar uma tecnologia que muda rapidamente
A OMS trata o documento como um ponto de partida, e não como uma resposta definitiva. Modelos de inteligência artificial continuam evoluindo rapidamente, e novas aplicações surgem em intervalos muito curtos.
Por isso, a organização defende mecanismos de supervisão capazes de se adaptar com rapidez, sem abandonar princípios básicos de segurança, transparência e proteção de direitos.
O relatório e as recomendações foram publicados pela Organização Mundial da Saúde.
Foto ilustrativa: Accuray / Unsplash.
