A inteligência artificial avança um pouco mais todos os dias. Do ponto de vista médico, isso quer dizer que, num futuro próximo, pessoas poderão tirar dúvidas com a tecnologia. Mas, como garantir que essa interação será realmente segura? Esse é um dos dilemas da FDA (Food and Drug Administration), agência federal do Departamento de Saúde e Serviços Humanos dos Estados Unidos.
Responsável por aprovar e regulamentar os dispositivos médicos com IA presentes no mercado dos Estados Unidos, a organização tem enfrentado desafios em acompanhar a rapidez com que a tecnologia é atualizada e, ao mesmo tempo, garantir que não estejam causando mais danos do que melhorias no atendimento de pacientes.
Entre 2020 a 2022, a FDA aprovou mais de 300 dispositivos médicos com recursos de IA, comprovando a rápida da adoção dessa tecnologia na área de saúde. Por isso, a organização está introduzindo novas orientações para o mercado.
Plano de Controle de Mudanças Predeterminados
Em conversa com o The Wall Street, Troy Tazbaz, diretor de Centro de Excelência em Saúde Digital da FDA, explicou o objetivo do projeto:
Garantir que o mercado tenha alguma flexibilidade para continuar a ultrapassar os limites da inovação que está a fazer, ao mesmo tempo que segue as barreiras de proteção que estabelecemos quando aprovamos um produto.
O Plano de Controle de Mudanças Predeterminados não é a única ideia da FDA. Alguns funcionários também discutem a possibilidade de exigir monitorização em tempo real de dispositivos de IA após o lançamento no mercado. Mas, na prática, essa ideia exigiria autoridade legal que a agência ainda não possui.
O que as empresas acham disso?
Empresas do setor estão divididas em relação à regulamentação de dispositivos médicos com IA. Alguns apoiam as novas diretrizes da FDA e enxergam isso como uma oportunidade de melhorar produtos ao longo do tempo. Mas, outros têm preocupações sobre a possibilidade de introduzir riscos, como os preconceitos algorítmicos.
A IA traz consigo tipos muito diferentes de danos – danos algorítmicos que são difíceis de compreender e explicar […] a FDA está dando aos fabricantes muita margem de manobra.
Mason Marks, professor de direito da saúde na Florida State University.
Além disso, as organizações pedem mais clareza sobre as novas orientações, já que prever as atualizações de IA não é tarefa fácil.
Será um desafio pré-determinar antecipadamente quais são as possíveis mudanças que gostaríamos de fazer. A única coisa que sabemos que é previsível na ciência é que é imprevisível.
Lara Jehi, diretora de informações de pesquisa do Cleveland Clinic Health System
Depois da divulgação mais recente da orientação da FDA, a agência afirma que em breve irão surgir outras diretrizes, à medida que o órgão está se esforçando para compreender e acompanhar os avanços do campo.
Fonte: Olhar Digital
Comentários