Caracterização dos riscos do software médico: o que devemos aprender com o guia IMDRF N88 (2025)?

MD, AI and Cybersecurity

29 January 2025

A IA médica ultrapassa as guias

Os dispositivos médicos que incorporam inteligência artificial (IA) estão a progredir a um ritmo impressionante. Diagnóstico assistido, deteção de anomalias, triagem automatizada, tratamento personalizado: o número de casos de utilização está a multiplicar-se. Mas a regulamentação tem por vezes dificuldade em acompanhar o ritmo.

Neste contexto, o Guia N88 do IMDRF, publicado em janeiro de 2025, propõe um conjunto de princípios orientadores para incentivar o desenvolvimento de dispositivos médicos baseados em IA que sejam seguros, eficazes e de elevada qualidade. Este documento destina-se tanto aos fabricantes como às autoridades reguladoras, com uma ambição clara: lançar as bases para as "Boas Práticas de Aprendizagem Automática" (GMLP).

Não se trata de uma norma nem de uma obrigação regulamentar. Mas é um sinal forte. E uma base de trabalho valiosa, sobretudo para quem pretende estruturar o seu dossier técnico ou antecipar as expectativas de um auditor ou organismo notificado.

O que diz o guia N88 do IMDRF: 10 princípios que precisa de saber

O núcleo do guia baseia-se em 10 princípios fundamentais que regem o ciclo de vida de um dispositivo médico que incorpora IA, desde a sua conceção até ao acompanhamento pós-comercialização.

Os 10 princípios da GMLP (Good Machine Learning Practice):

1. Compreensão clara do objetivo do dispositivo e mobilização de competências multidisciplinares.
2. Aplicação de boas práticas de conceção, segurança e gestão da qualidade do software.
3. Utilização de dados representativos da população-alvo.
4. Separação rigorosa dos conjuntos de dados de treino e de teste.
5. Utilização de normas de referência adequadas.
6. Escolha de um modelo em conformidade com os dados e o finalidade prevista.
7. Avaliação do desempenho na interação homem-IA, e não apenas do modelo isoladamente.
8. Testes clinicamente relevantes efectuados em condições realistas.
9. Comunicação clara com os utilizadores (profissionais ou doentes).
10. Acompanhamento pós-implementação e gestão dos riscos de reentrenamento.

Os 10 princípios da GMLP (Good Machine Learning Practice) esquematizados:

Pasted Graphic 2.png

O que se destaca em todos eles:

A importância do objetivo pretendido em todas as fases,
O papel do fator humano (interações, interface, erros previsíveis),
A necessidade deantecipar os riscos associados à deriva do modelo,
A necessidade de documentar, rastrear e explicar cada escolha técnica.

Estudo de caso 1 - Software de deteção de lesões dermatológicas

Um fabricante está a desenvolver uma aplicação móvel que identifica automaticamente lesões suspeitas com base em fotografias tiradas pelo paciente. O modelo é treinado em milhares de imagens anotadas por dermatologistas.

Princípios fundamentais a aplicar:

Princípio 3: a base de treino deve refletir a diversidade de fototipos, idades, géneros, geografias... para evitar enviesamentos.
Princípio 4: as imagens utilizadas para o treino não devem, em caso algum, ser incluídas no conjunto de dados de teste.
Princípio 6: o modelo deve ser resistente às variações de qualidade da imagem (desfocagem, luminosidade, etc.) típicas da utilização pelo consumidor.
Princípio 9: o utilizador deve ser claramente informado das limitações do modelo (por exemplo, "não substitui o aconselhamento médico").

Riscos identificados:

Falsos negativos em certos tons de pele mal representados,
Excesso de confiança do utilizador na aplicação ("efeito mágico da IA").

Medidas de controlo:

Criação de subpopulações para análise do desempenho,
Integração de um módulo educativo na interface do utilizador.

Estudo de caso 2 - Uma solução de IA integrada num dispositivo conectado

Outro contexto: uma empresa em fase de arranque concebe um sensor incorporado num dispositivo de perfusão. Este analisa os sinais fisiológicos em tempo real para adaptar automaticamente o caudal.

Desafios encontrados:

Princípio 7: o desempenho do algoritmo depende muito da capacidade de resposta do utilizador humano, nomeadamente em caso de alerta.
Princípio 10: após o lançamento, o modelo deve ser monitorizado. Uma mudança no tipo de paciente (por exemplo, população pediátrica) pode levar a desvios.

O que o fabricante pôs em prática:

Cenários de simulação envolvendo a equipa de cuidados para testar a sinergia homem-IA.
Uma política clara de criação de versões para o modelo, com validação regulamentar antes de cada atualização significativa.

Exemplos de riscos do GMLP vs. medidas de controlo

Risco identificado	Princípio do GMLP	Exemplo de medidas de controlo implementadas
Conjunto de dados não representativos	#3	Inclusão multicêntrica, monitorização de subgrupos
Sobreajuste após novo treino	#10	Validação cruzada externa, congelamento do modelo validado
Erro de interpretação do utilizador	#9	Interface simplificada, FAQ integradas, mensagem de aviso
Seleção incorrecta do modelo	#6	Justificação documentada para a escolha do algoritmo

Mini FAQ - O que os fabricantes se perguntam frequentemente

Este guia do IMDRF é obrigatório para a marcação CE ou FDA?

Não, não é um texto vinculativo. Mas é altamente recomendado pelas autoridades (incluindo a FDA) e está alinhado com as práticas de auditoria esperadas.

É necessário cumprir estes princípios para obter a marcação CE?

Não, mas incorporá-los no seu SGQ ou na documentação técnica aumenta consideravelmente a sua credibilidade.

Qual é a diferença em relação aos requisitos da norma ISO 13485?

A ISO 13485 fornece um quadro geral para a gestão da qualidade. A N88 visa especificamente os desafios da IA e da aprendizagem automática.

E se eu utilizar um modelo generativo (tipo LLM)?

Esta é precisamente uma das questões levantadas. O guia salienta a dificuldade de validar o desempenho de modelos derivados de um "modelo de base" não controlado pelo fabricante.

Este guia substitui a norma N81?

Não, complementa-o. O N81 ajuda a caraterizar o software como um dispositivo, enquanto o N88 trata das boas práticas de desenvolvimento de IA.

Antecipar, estruturar e documentar: as chaves para uma IA controlada

O IMDRF está a traçar um rumo. Ainda não é a norma, mas será muito provavelmente a evidência de amanhã.

Se está a desenvolver um dispositivo médico que incorpora IA, cada decisão algorítmica, cada conjunto de dados e cada interação com o utilizador pode ter um impacto clínico, ético e regulamentar. O guia N88 dá-lhe um enquadramento para o ajudar a fazer as escolhas certas.

E se não souber por onde começar? Então entre em contacto connosco. A CSDmed trabalhará consigo, desde a conceção até à implementação, para estruturar a sua abordagem de IA, garantir a sua estratégia regulamentar e transformar os seus modelos em dispositivos prontos para o mercado.