Software-Medizinprodukte, die auf künstliche Intelligenz (KI) Technologien beruhen, erleben nach wie vor einen großen Hype. Typische Anwendungsgebiete sind die Radiologie, Kardiologie, Endokrinologie und Onkologie. Seit 2014 wurden mehr als 40 KI-basierte Produkte durch die Food and Drug Administration (FDA) für den US-Markt zugelassen. Auch in Europa wurden unter der noch geltenden Richtlinie 93/42/EWG für Medizinprodukte mehrere dieser Produkte in Verkehr gebracht.
KI-Medizinprodukte stellen als lernende Software nach wie vor regulatorisches Neuland dar. Gegenwärtig werden KI-Algorithmen aus regulatorischen Gründen “eingefroren”, um medizinische Anwendungen zulassen zu können. Damit geht ein wesentlicher Vorteil der KI verloren. Dieser Fachbeitrag erläutert den aktuellen Stand bei der Zulassung medizinischer KI-Technologien anhand zweier Beispiele aus der Praxis.
Technologische Grundlagen
Für die Betrachtung der regulatorischen Anforderungen für KI-basierte Medizinprodukte ist es wichtig, die grundlegende Funktionsweise und insbesondere die Unterschiede zu klassischen Software-Produkten zu betrachten.
Das Maschinelle Lernen (machine learning, ML) als Teilgebiet der KI findet eine große Anwendung in der Medizin. ML lässt sich im Wesentlichen in zwei Gruppen unterteilen, nämlich das überwachte (supervised) und das unüberwachte Lernen (unsupervised learning).
Beim überwachten Lernen werden für das Training bekannte Input-Output-Paare, d. h. Trainingsbeispiele mit Kennzeichnungen (labels), verwendet. Eine typische Anwendung ist die Klassifizierung von Daten, d. h. die Einteilung in Gruppen wie gesund und krank. Das unüberwachte Lernen hingegen berücksichtigt nur Input-Fälle zur Identifizierung von Mustern, z. B. beim Clustern von Patienten. Sowohl beim überwachten und unüberwachten Lernen werden neuronale Netze eingesetzt, die aus mehreren Schichten von Neuronen bestehen, ähnlich wie beim menschlichen Nervensystem.
Die Ergebnisse der einen Schicht werden als Eingabe für die folgende Schicht verwendet. Tiefes Lernen (deep learning) bezeichnet eine Form des ML, bei der eine besonders große Anzahl von Neuronenschichten zum Einsatz kommt und die vor allem beim überwachten Lernen eingesetzt wird. Eine weitere bekannte Untergruppe stellt das teilüberwachte Lernen (semi-supervised learning) dar, bei dem das Feedback aus dem Umfeld die Trainingsdaten sind. Es wird beispielsweise bei der Entwicklung von Arzneimitteln eingesetzt.
Bei der klassischen Software-Produkten steht die Code-Entwicklung im Mittelpunkt, die in der Veröffentlichung (Inbetriebnahme) des laufenden Systems mündet. Auch bei KI/ML-basierten Produkten steht am Anfang die Code-Entwicklung zum Beispiel in der Programmiersprache Python unter Verwendung der Open-Source-Bibliothek PyTorch. Vor der Veröffentlichung findet in einem Zwischenschritt das Training des KI/ML-Modells mit Daten statt.
Das Training lässt sich in die folgenden Phasen einteilen:
- Datensammlung und -vorbereitung: Rohdaten werden in bereinigte Datensätze überführt, um mit fehlenden, verrauschten und inkonsistenten Daten umzugehen. Außerdem werden die Datensätze in einen Test- und einen Trainings- sowie Tuning-Datensatz aufgeteilt.
- Modelltraining und -tuning: Mit den Trainingsdaten werden die Modellparameter zunächst iterativ angepasst bis der Output des Modells optimal zu den Daten passt. Unter Verwendung des Tuning-Datensatzes wird dann die Feineinstellung der Modellparameter vorgenommen.
- Modell-Evaluierung/Validierung: Hier wird der Test-Datensatz verwendet, um die korrekte Funktion des Modells vor dem Einsatz im Markt zu überprüfen. Der Test-Datensatz darf nicht mit dem Trainings- oder Tuning-Datensatz identisch sein.
Nach der Veröffentlichung wird das laufende System im Sinne eines kontinuierlichen Lernens in der Regel weiter trainiert. Ausnahmen hiervor können in regulatorischen Anforderungen begründet sein.
Zugang zu den regulierten Märkten in den USA und Europa
Wie bereits erwähnt, hat die FDA schon eine größere Anzahl KI/ML-basierter Anwendungen für den US-Markt zugelassen. Gerade am Anfang existierten keine Vorgängerprodukte für das vereinfachte 510(k)-Zulassungsverfahren, so dass Hersteller oftmals zur Vermeidung der Einteilung in die höchste Risikoklasse das De Novo Verfahren beantragten. In der Konsequenz wurden die meisten Produkte der zweithöchsten Risikoklasse II zugeordnet, so auch die unten diskutierten Produktbeispiele.
Außerdem wurde einigen Anwendungen der Status „Breakthrough Device“ zuerkannt, wodurch dem Hersteller eine intensive Interaktion und Unterstützung durch die FDA zu Teil wurde. Es muss darauf hingewiesen werden, dass alle bisher in den USA zugelassenen KI/ML-basierten Anwendungen nur mit einem „eingefrorenen“ Algorithmus zugelassen wurden, d. h. ohne die ansonsten intrinsische Eigenschaft des kontinuierlichen Lernens.
Unter dem noch geltenden Rechtsrahmen der EU-Richtlinie 93/42/EWG wurden in Europa KI/ML-basierter Anwendungen oftmals der dritthöchsten Risikoklasse IIa zugeordnet. Als Konformitätsbewertungsverfahren wählten die Hersteller i.d.R. das „Vollständige Qualitätssicherungssystem“ gemäß Anhang II aus. Das gilt auch für die nachstehenden Beispiele.
Praxisbeispiele für Künstliche Intelligenz in der Medizin
Exemplarisch werden im Folgenden zwei bereits im US-Markt befindliche AI/ML-basierte Produkte betrachtet.
IDx-DR für Diagnose einer Netzhauterkrankung bei Diabetespatienten
Beim ersten Beispiel handelt es sich um das Produkt „IDx-DR“ der Fa. IDx Technologies Inc.. Es handelt sich um einem Deep Learning Algorithmus, der automatisch die Augenerkrankung Retinopathie bei Diabetespatienten erkennt. IDx-DR benötigt für die Bedienung keinen Augenarzt und ermöglicht dadurch den Patienten gerade auch im ländlichen Raum einen leichteren Zugang zu Netzhautuntersuchungen. Der Anwender erhält lediglich eine 4-stündige Schulung zur Bedienung der Netzhautkamera.
Die erfassten Netzhaut-Bilder werden an einen Server mit der IDx-DR-Software gesendet. Nach einer Qualitätskontrolle erhält der Benutzer ein Feedback, ob es sich beim Patienten um eine mehr als milde Form der Retinopathie handelt. Wurde diese nicht diagnostiziert, wird in 12 Monaten ein neues Screening durchgeführt.
Im Falle einer positiven Diagnose empfiehlt die Software die sofortige Überweisung des Patienten an einen Augenarzt zur weiteren diagnostischen Beurteilung und Behandlung. Zur Generierung klinischer Daten wurde in den USA eine Studie mit 900 Probanden an 10 Standorten durchgeführt. Dieses System funktioniert also völlig autonom und stellt damit ein besonders hohes Risiko für Patienten dar.
ContaCT für Analysen von Angio-CT-Bilder des Gehirns im klinischen Umfeld
Das zweite Beispiel ist die Anwendung ContaCT, welche Angio-CT-Bilder des Gehirns im klinischen Umfeld analysiert.
ContaCT sendet eine Benachrichtigung an einen Facharzt, wenn ein potenzieller Verschluss eines großen Gefäßes identifiziert wurde und empfiehlt die Überprüfung dieser Bilder. ContaCT stellt also im Gegensatz zum vorher beschriebenen IDx-DR keine eigenständigen Diagnosen, sondern unterstützt die Triage parallel zum Standard-Behandlungsablauf in der Klinik und dies mit einem wesentlich kürzeren Zeitbedarf.
Regulatorische Überlegungen für KI/ML-basierte Anwendungen während des Lebenszyklus
Neben dem Risikomanagement gemäß ISO 14971 sind die software-spezifischen Normen IEC 62304 und 82304-1 mit den darin geforderten Prozessen auch für KI/ML-basierte Anwendungen in der Medizin einschlägig.
