A inteligência artificial (IA) abre perspectivas relevantes para a saúde pública, como ampliar a capacidade de analisar informações, apoiar decisões e organizar recursos em um sistema que precisa atender necessidades complexas com orçamento limitado. Da identificação de padrões epidemiológicos ao apoio ao diagnóstico, existem oportunidades para melhorar o cuidado e a gestão. É nesse contexto que o debate sobre o marco legal brasileiro da IA ganha importância. O PL 2.338/2023, encaminhado pelo Senado à Câmara dos Deputados, permanece em tramitação e aguarda parecer na comissão especial, conforme a informação consultada.
Potencial e riscos da IA na saúde
A Organização Mundial da Saúde, por meio do “Ethics and governance of artificial intelligence for health: WHO guidance”, reconhece esse potencial e destaca a necessidade de proteger a autonomia, os direitos humanos e a segurança das pessoas. A intensidade dos controles deve ser proporcional ao risco. Um sistema que auxilia a organização de estoques e outro que influencia a prioridade de atendimento produzem consequências diferentes.
Quanto maior a possibilidade de interferência no acesso, no diagnóstico ou no tratamento, mais consistente deve ser a demonstração de segurança, desempenho e adequação ao contexto de uso.
Projeto de lei organiza o debate
O PL 2.338/2023 abre uma oportunidade para organizar esse debate. A qualidade da incorporação da IA dependerá também da capacidade das instituições de tomar decisões, supervisionar o uso da tecnologia e corrigir rumos. Para os gestores públicos, a preparação começa antes da contratação. Os critérios de escolha devem contemplar evidências de desempenho, validação no contexto de uso, acesso às informações necessárias à auditoria, capacitação das equipes e suporte técnico.
O preço de aquisição deve ser avaliado em conjunto com os custos de manter a solução segura, atualizada e funcional ao longo do tempo.
Avaliação além do desempenho médio
Por isso, considero insuficiente avaliar uma solução apenas pelo seu desempenho médio. É necessário investigar como ela se comporta em diferentes grupos populacionais, regiões e condições assistenciais. A qualidade dos dados e a representatividade das bases utilizadas precisam integrar a decisão de incorporação, assim como os critérios para reavaliar a ferramenta durante sua utilização. Essa abordagem mais criteriosa visa garantir que a tecnologia funcione de forma equitativa e segura para todos os usuários do sistema de saúde.
Governança contínua e monitoramento
A governança também exige continuidade. Recomendo definir indicadores, responsáveis e periodicidade de acompanhamento, com registro de falhas, reclamações e medidas corretivas. Atualizações relevantes precisam ser avaliadas quanto aos seus efeitos sobre o desempenho e a segurança. Mudanças no sistema, nos dados ou no perfil da população atendida podem justificar uma nova validação. É igualmente necessário estabelecer critérios para interromper o uso e preservar o atendimento.
O serviço deve saber como proceder diante de uma indisponibilidade, de uma recomendação inconsistente ou de uma suspeita de incidente, incluindo a retomada de procedimentos previamente definidos. A continuidade assistencial precisa fazer parte do planejamento desde a implantação.
Diálogo com a regulação sanitária
O futuro marco legal também deverá dialogar com a regulação sanitária existente. A Anvisa dispõe de requisitos para a regularização de software como dispositivo médico, previstos na RDC 657/2022. O enquadramento depende das características e da finalidade pretendida; a presença de IA, isoladamente, não determina essa classificação. Vejo, portanto, a necessidade de coordenação entre a governança institucional, a proteção de dados, a segurança da informação e a avaliação sanitária. Cada uma responde a questões específicas, e a articulação entre essas áreas deve orientar decisões proporcionais, documentadas e tecnicamente justificadas.
Práticas de gestão já consolidadas
Defendo que essa estrutura aproveite as práticas de gestão já consolidadas nos serviços de saúde: protocolos, qualificação de fornecedores, gestão de riscos, treinamento, auditoria e investigação de incidentes. A incorporação da IA exige adaptar esses instrumentos às características da tecnologia e assegurar sua aplicação cotidiana. Dessa forma, as instituições podem integrar a inovação sem abrir mão dos processos que garantem a qualidade e a segurança do atendimento.
Inovação com responsabilidade
Defendo uma inovação comprometida com os fundamentos que sustentam a saúde pública: acesso, equidade, segurança e responsabilidade. A governança é uma condição básica para transformar esse compromisso em prática e demonstrar que a tecnologia melhorou o cuidado e preservou os direitos de quem depende dele. O debate em torno do PL 2.338/2023 representa um passo importante para estabelecer diretrizes claras e fomentar o uso ético e eficaz da inteligência artificial no setor.