A aplicação da IA na criação de produtos médicos exige regulação específica, com foco em transparência, responsabilidade, segurança e eficácia.

A famosa reflexão do físico Stephen Hawking, que afirmou que a inteligência artificial poderia ser “a melhor ou a pior coisa que já aconteceu à humanidade”, sintetiza as esperanças e receios em torno dessa transformação tecnológica. Na saúde, a IA se destaca como uma das áreas mais promissoras, desde o auxílio a médicos na realização de diagnósticos até a previsão de tratamentos mais eficazes para pacientes. No entanto, a necessidade de uma regulação adequada é urgente.

O livro Inteligência Artificial e Saúde: Conexões Éticas e Regulatórias, publicado pela Abeto, selo de não ficção do Grupo Aboio, discute as bases e diretrizes para regulamentar o uso da IA nesse setor. A obra é fruto da pesquisa de doutorado de Daniel Dourado, médico, advogado e pesquisador no Centro de Estudos e Pesquisas de Direito Sanitário (Cepedisa) da USP. Dourado enfatiza a diferença entre os mercados de saúde e de tecnologia: “O estado tem a obrigação de regular produtos destinados à saúde”.

Ele explica que qualquer produto voltado para uso clínico deve ser considerado um dispositivo médico e seguir os princípios da área da saúde, que incluem a privacidade dos dados usados para treinar a IA, a ética envolvida no desenvolvimento desses sistemas (uma combinação de ética da IA e bioética) e o reconhecimento da saúde como um direito fundamental dos indivíduos.

Dourado exemplifica com a analogia de uma cadeira:

“Você pode vender uma cadeira, mas se disser que ela alivia dores nas costas, será necessário registrá-la como um produto de saúde”.

Para garantir que esses princípios sejam seguidos, ele destaca três fatores cruciais: transparência no uso dos dados, responsabilidade na sua utilização e, acima de tudo, segurança e eficácia dos produtos. Nesse sentido, ele introduz o conceito de equidade, ressaltando que os modelos de IA podem ser falhos se não forem ajustados para diferentes populações, como mulheres ou grupos raciais diversos.

Embora o uso de IA na saúde esteja avançando globalmente, especialmente na análise de exames e previsão de doenças hereditárias, a criação de regulamentações específicas para a área ainda está em desenvolvimento. Esse atraso tem gerado debates em diversos países, especialmente na Inglaterra, sobre a criação de “sandboxes”.

O conceito de sandbox envolve testar um sistema com dados reais, sem alterar as práticas dos profissionais de saúde. Daniel Dourado explica:

“Se o modelo sugerir uma dose diferente de medicamento, o profissional apenas observa, sem ser obrigado a seguir a recomendação. Ao longo do tempo, os dados são analisados para avaliar a segurança e eficácia do sistema”.

Esse modelo de teste, segundo Dourado, evita complicações jurídicas que poderiam atrasar a regulação e ressalta que a regulação baseada no debate social e em princípios de direito administrativo é muito mais eficaz do que aquela gerada a partir de litígios individuais.

Via: Jornal da USP