Caratterizzare i rischi del software medico: cosa dobbiamo imparare dalla guida N88 dell'IMDRF (2025)?

MD, AI and Cybersecurity

29 Gennaio 2025

L'intelligenza artificiale in campo medico supera le linee guida

I dispositivi medici che incorporano l'intelligenza artificiale (IA) stanno progredendo a un ritmo impressionante. Diagnosi assistita, rilevamento di anomalie, smistamento automatico, trattamento personalizzato: i casi d'uso si moltiplicano. Ma le normative a volte faticano a tenere il passo.

In quest'ottica, la Guida N88 dell'IMDRF, pubblicata nel gennaio 2025, propone una serie di principi guida per incoraggiare lo sviluppo di dispositivi medici basati sull'IA che siano sicuri, efficaci e di alta qualità. Questo documento si rivolge sia ai produttori che alle autorità di regolamentazione, con una chiara ambizione: porre le basi per una "buona pratica di apprendimento automatico" (GMLP).

Non è uno standard né un obbligo normativo. Ma è un segnale forte. E una preziosa base di lavoro, in particolare per chi vuole strutturare il proprio fascicolo tecnico o anticipare le aspettative di un revisore o di un organismo notificato.

Cosa dice la guida IMDRF N88: 10 principi da conoscere

Il nucleo della guida si basa su 10 principi fondamentali che regolano il ciclo di vita di un dispositivo medico che incorpora l'IA, dalla sua progettazione al follow-up post-marketing.

I 10 principi della GMLP (Good Machine Learning Practice):

1.Chiara comprensione dello scopo del dispositivo e mobilitazione di competenze multidisciplinari.
2.Implementazione di buone pratiche nella progettazione del software, nella gestione della sicurezza e della qualità.
3.Utilizzo di dati rappresentativi della popolazione target.
4.Separazione rigorosa dei set di dati di addestramento e di test.
5.Uso di standard di riferimento appropriati.
6.Scelta di un modello allineato ai dati e alla destinazione disponibili.
7.Valutazione delle prestazioni nell'interazione uomo-IA, non solo del modello da solo.
8.Test clinicamente rilevanti condotti in condizioni realistiche.
9.Comunicazione chiara con gli utenti (professionisti o pazienti).
10.Monitoraggio post-impiego e gestione dei rischi di riqualificazione.

I 10 principi della GMLP (Good Machine Learning Practice) schematizzati:

Pasted Graphic 2.png

Ciò che risalta in modo trasversale:

L'importanza delloscopo previsto in ogni fase,
Il ruolo del fattore umano (interazioni, interfaccia, errori prevedibili),
La necessità dianticipare i rischi associati alla deriva del modello,
La necessità di documentare, tracciare e spiegare ogni scelta tecnica.

Caso di studio 1 - Software per il rilevamento di lesioni dermatologiche

Un produttore sta sviluppando un'applicazione mobile che identifica automaticamente le lesioni sospette sulla base delle foto scattate dal paziente. Il modello è stato addestrato su migliaia di immagini annotate da dermatologi.

Principi chiave da applicare:

Principio 3: la base di addestramento deve riflettere la diversità di fototipi, età, sesso, aree geografiche... per evitare pregiudizi.
Principio 4: in nessun caso le immagini utilizzate per l'addestramento devono essere incluse nel dataset di test.
Principio 6: il modello deve essere robusto alle variazioni di qualità delle immagini (sfocatura, luminosità, ecc.) tipiche dell'uso da parte dei consumatori.
Principio 9: l'utente deve essere chiaramente informato dei limiti del modello (ad esempio, "non sostituisce la consulenza medica").

Rischi identificati :

Falsi negativi su alcune tonalità di pelle poco rappresentate,
Eccessiva fiducia dell'utente nell'applicazione ("effetto magico AI").

Misure di controllo:

Creazione di sottopopolazioni per l'analisi delle prestazioni,
Integrazione di un modulo educativo nell'interfaccia utente.

Caso di studio 2 - Una soluzione di IA integrata in un dispositivo connesso

Un altro contesto: una start-up progetta un sensore incorporato in un dispositivo di perfusione. Analizza i segnali fisiologici in tempo reale per adattare automaticamente la portata del flusso.

Sfide incontrate :

Principio 7: le prestazioni dell'algoritmo dipendono strettamente dalla reattività dell'utente umano, in particolare in caso di allarme.
Principio 10: dopo il lancio, il modello deve essere monitorato. Un cambiamento nel tipo di paziente (ad esempio, popolazione pediatrica) può portare a una deriva.

Cosa ha messo in atto il produttore:

Scenari di simulazione che coinvolgono il team di cura per testare la sinergia uomo-IA.
Una chiara politica di versioning per il modello, con la convalida normativa prima di ogni aggiornamento significativo.

Esempi di rischi GMLP e di misure di controllo

Rischio identificato	Principio GMLP	Esempio di misure di controllo implementate
Set di dati non rappresentativo	#3	Inclusione multicentrica, monitoraggio dei sottogruppi
Overfitting dopo il re-training	#10	Convalida incrociata esterna, congelamento del modello convalidato
Errore di interpretazione da parte dell'utente	#9	Interfaccia semplificata, FAQ integrate, messaggio di avvertimento
Selezione errata del modello	#6	Giustificazione documentata della scelta algoritmica

Mini FAQ - Cosa si chiedono spesso i produttori

Questa guida IMDRF è obbligatoria per la marcatura CE o FDA?

No, non è un testo vincolante. Tuttavia, è altamente raccomandata dalle autorità (compresa la FDA) ed è in linea con le pratiche di audit previste.

È necessario rispettare questi principi per ottenere il marchio?

Non in quanto tali, ma incorporarli nel vostro SGQ o nella documentazione tecnica aumenta notevolmente la vostra credibilità.

Qual è la differenza con i requisiti della ISO 13485?

La ISO 13485 fornisce un quadro generale per la gestione della qualità. L'N88 affronta in modo specifico le sfide dell'IA e dell'apprendimento automatico.

Cosa succede se utilizzo un modello generativo (tipo LLM)?

Questo è proprio uno dei problemi sollevati. La guida evidenzia la difficoltà di validare le prestazioni di modelli derivati da un "modello fondante" non controllato dal produttore.

Questa guida sostituisce la N81?

No, la integra. La N81 aiuta a caratterizzare il software come dispositivo, mentre la N88 si occupa delle buone pratiche di sviluppo dell 'IA.

Anticipare, strutturare e documentare: le chiavi per un'IA controllata

L'IMDRF sta tracciando una rotta. Non è ancora la norma, ma molto probabilmente sarà l'evidenza di domani.

Se state sviluppando un dispositivo medico che incorpora l'IA, ogni decisione algoritmica, ogni serie di dati e ogni interazione con l'utente può avere un impatto clinico, etico e normativo. La guida N88 fornisce un quadro di riferimento per aiutarvi a fare le scelte giuste.

E se non sapete da dove cominciare? Allora contattateci. CSDmed lavorerà con voi, dalla progettazione all'implementazione, per strutturare il vostro approccio all'IA, garantire la vostra strategia normativa e trasformare i vostri modelli in dispositivi pronti per il mercato.