Charakterisierung der Risiken von medizinischer Software: Was ist aus dem IMDRF-Leitfaden N88 (2025) zu lernen?

MD, AI and Cybersecurity

29 Januar 2025

Medizinische KI schreitet schneller voran als die Leitlinien

Medizinische Geräte, in die künstliche Intelligenz (KI) integriert ist, machen beeindruckende Fortschritte. Unterstützte Diagnosen, Erkennung von Anomalien, automatisierte Sortierung, personalisierte Behandlungen: Die Anwendungsfälle werden immer zahlreicher. Aber die Regulierung hat manchmal Mühe, mit dieser Entwicklung Schritt zu halten.

Angesichts dieser Tatsache schlägt der im Januar 2025 veröffentlichte IMDRF-Leitfaden N88 eine Reihe von Leitprinzipien vor, um die Entwicklung sicherer, effizienter und qualitativ hochwertiger KI-basierter Medizinprodukte zu fördern. Das Dokument richtet sich gleichermaßen an Hersteller und Regulierungsbehörden und verfolgt ein klares Ziel: die Grundlagen für eine "Good Machine Learning Practice" (GMLP) zu legen.

Es ist weder eine Norm noch eine regulatorische Verpflichtung. Aber es ist ein starkes Signal. Es ist jedoch eine wertvolle Arbeitsgrundlage, insbesondere für diejenigen, die ihre technischen Unterlagen strukturieren oder die Erwartungen eines Auditors oder einer benannten Stelle antizipieren wollen.

Was der IMDRF-Leitfaden N88 sagt: 10 Grundsätze, die Sie kennen sollten

Der Kern des Leitfadens beruht auf 10 Grundprinzipien, die den Lebenszyklus eines KI-fähigen Medizinprodukts von der Konzeption bis zur Nachsorge nach der Markteinführung regeln.

Die 10 Prinzipien der GMLP (Good Machine Learning Practice):

1. Klares Verständnis des Zwecks des Geräts und Mobilisierung multidisziplinärer Kompetenzen.
2. Anwendung bewährter Verfahren für Softwaredesign, Sicherheit und Qualitätsmanagement.
3. Verwendung von Daten, die für die Zielpopulation repräsentativ sind.
4. Strikte Trennung von Trainings- und Testdatasets.
5. Verwendung geeigneter Referenzstandards.
6. Auswahl des Modells in Abstimmung mit den verfügbaren Daten und dem Ziel.
7. Bewertung der Leistung im Zusammenspiel von Mensch und KI, nicht nur des Modells allein.
8. Klinisch relevante Tests, die unter realistischen Bedingungen durchgeführt werden.
9. Klare Kommunikation mit den Nutzern (Fachleuten oder Patienten).
10. Überwachung nach dem Einsatz und Risikomanagement für das Re-Training.

Die 10 Prinzipien der GMLP (Good Machine Learning Practice) schematisch dargestellt:

Pasted Graphic 2.png

Was sich übergreifend herauskristallisiert:

Die Bedeutung des intended purpose (Ziel) in allen Schritten,
Die Rolle des menschlichen Faktors (Interaktionen, Schnittstellen, vorhersehbare Fehler),
Die Notwendigkeit, Risiken im Zusammenhang mit der Drift von Modellen zu antizipieren,
Die Notwendigkeit, jede technische Entscheidung zu dokumentieren, nachzuvollziehen und zu erläutern.

Fallbeispiel 1 - Software zur Erkennung dermatologischer Läsionen

Ein Hersteller entwickelt eine mobile Anwendung, die verdächtige Läsionen anhand von Patientenfotos automatisch identifiziert. Das Modell wird mit Tausenden von Bildern trainiert, die von Dermatologen mit Anmerkungen versehen wurden.

Anzuwendende Schlüsselprinzipien:

Prinzip 3: Die Trainingsbasis muss die Vielfalt von Fototypen, Alter, Geschlecht, Geografie ... widerspiegeln, um Verzerrungen zu vermeiden.
Prinzip 4: Die für das Training verwendeten Bilder dürfen sich unter keinen Umständen im Testdataset wiederfinden.
Prinzip 6: Das Modell muss robust gegenüber Schwankungen der Bildqualität (Unschärfe, Helligkeit usw.) sein, die für den Gebrauch durch die Allgemeinheit typisch sind.
Prinzip 9: Der Nutzer muss klar über die Grenzen des Modells informiert werden (z. B. "ersetzt keinen medizinischen Rat").

Identifizierte Risiken:

Falsche Negative bei einigen schlecht dargestellten Hauttönen,
Übermäßiges Vertrauen des Nutzers in die Anwendung ("magischer AI-Effekt").

Maßnahmen zur Bewältigung:

Bildung von Subpopulationen für die Leistungsanalyse,
Integration eines pädagogischen Moduls in die Benutzeroberfläche.

Fallbeispiel 2 - Eine eingebettete KI-Lösung in einem vernetzten Gerät

Anderer Kontext: Ein Start-up-Unternehmen entwickelt einen Sensor, der in ein Infusionsgerät eingebettet ist. Er analysiert physiologische Signale in Echtzeit, um die Durchflussrate automatisch anzupassen.

Aufgetretene Herausforderungen:

Prinzip 7: Die Leistung des Algorithmus hängt stark von der Reaktionsfähigkeit des menschlichen Nutzers ab, insbesondere im Falle eines Alarms.
Grundsatz 10: Nach dem Start muss das Modell überwacht werden. Eine Änderung des Patiententyps (z. B. pädiatrische Population) kann eine Drift induzieren.

Was der Hersteller implementiert hat:

Simulationsszenarien, die das Pflegeteam einbeziehen, um die Synergie zwischen Mensch und KI zu testen.
Eine klare Versionierungspolitik des Modells, mit behördlicher Validierung vor jeder bedeutenden Aktualisierung.

Beispiele für GMLP-Risiken vs. Kontrollmaßnahmen

Identifiziertes Risiko	GMLP-Prinzip	Beispiel für eingeführte Kontrollmaßnahmen
Nicht repräsentatives Dataset	#3	Multicenter-Inklusion, Nachverfolgung von Subgruppen.
Overfitting nach erneutem Training	#10	Externe Kreuzvalidierung, Einfrieren des validierten Modells.
Fehler bei der Nutzerinterpretation	#9	Vereinfachte Schnittstelle, integrierte FAQ, Warnmeldung.
Falsche Auswahl der Vorlage	#6	Dokumentierte Begründung für die algorithmische Auswahl.

Mini FAQ - Was sich Hersteller oft fragen

Ist dieser IMDRF-Leitfaden für eine CE- oder FDA-Kennzeichnung verbindlich?

Nein, er ist nicht verbindlich. Aber er wird von den Behörden (einschließlich der FDA) sehr empfohlen und orientiert sich an den Praktiken, die bei Audits erwartet werden.

Muss man diesen Grundsätzen entsprechen, um eine Kennzeichnung zu erhalten?

Nicht als solche, aber ihre Integration in Ihr QMS oder Ihre technische Dokumentation stärkt Ihre Glaubwürdigkeit erheblich.

Worin besteht der Unterschied zu den Anforderungen der ISO 13485?

Die ISO 13485 gibt einen allgemeinen Rahmen für das Qualitätsmanagement vor. Die N88 zielt speziell auf die Herausforderungen von KI und Machine Learning ab.

Was ist, wenn ich ein generatives Modell (Typ LLM) verwende?

Genau das ist eine der genannten Herausforderungen. Der Leitfaden betont die Schwierigkeit, die Leistung von Modellen zu validieren, die aus einem "foundational model" stammen, das nicht vom Hersteller kontrolliert wird.

Ersetzt dieser Leitfaden den N81?

Nein, er ergänzt ihn. N81 hilft bei der Charakterisierung von Software als Gerät, während N88 sich mit bewährten Verfahren für die Entwicklung von KI befasst.

Antizipieren, strukturieren, dokumentieren: die Schlüssel zu einer kontrollierten KI

Die IMDRF zeichnet einen Weg vor. Es ist noch nicht die Norm, aber es wird höchstwahrscheinlich die Selbstverständlichkeit von morgen sein.

Wenn Sie ein Medizinprodukt mit integrierter KI entwickeln, kann jede algorithmische Entscheidung, jeder Datensatz und jede Interaktion mit dem Nutzer klinische, ethische und regulatorische Auswirkungen haben. Der Leitfaden N88 bietet Ihnen einen Rahmen, um Ihre Entscheidungen abzusichern.

Und wenn Sie nicht wissen, wo Sie anfangen sollen? Kontaktieren Sie uns. CSDmed begleitet Sie vom Design bis zum Einsatz, um Ihren KI-Ansatz zu strukturieren, Ihre regulatorische Strategie zu sichern und Ihre Modelle in marktreife Geräte umzuwandeln.