Cyborg Han Gehirn Kuenstliche Intelligenz
Production Perig - stock.adobe.com
05.11.2019 Fachinformation 530 0

Wie erfülle ich die regulatorischen Anforderungen für Künstliche Intelligenz-Anwendungen in der Medizin?

Die Künstliche Intelligenz in der Medizin gewinnt enorm an Aufmerksamkeit. Typische Anwendungsgebiete sind die Neurologie, Kardiologie, Onkologie und Ophthalmologie. Wie bei anderen medizinischen Technologien ist auch der Markt für Künstliche Intelligenz-Anwendungen stark durch den Gesetzgeber reguliert. Trotz dieser Hürden zählte Topol im Jahr 2018 bereits 18 Zulassungen von Produkten mit Künstlicher Intelligenz-Technologie durch die FDA. Im Jahr zuvor waren es nur zwei.

In diesem Artikel erklären wir, wie der Marktzugang für zwei Medizinprodukte mit künstlicher Intelligenz-Technologie in den USA und der EU bislang erreicht wurde.


Software als Medizinprodukt

Im regulatorischen Sinne sind Künstliche Intelligenz-Anwendungen Software-Medizinprodukte. Medizinische Software weist einige Besonderheiten auf, von denen die meisten mit der unterschiedlichen Entwicklung im Vergleich zu anderen Medizinprodukten zusammenhängen:

  • das schnellere und iterative Design,
  • die Verwendung agiler Methoden,
  • die einfachere Implementierung von Änderungen und neuen Funktionen,
  • die Schwierigkeit umfassender Tests und
  • die unterschiedliche Art der Validierung.

Darüber hinaus werden neue Softwareversionen schnell freigegeben und Cybersicherheitsrisiken erfordern während des Entwicklungsprozesses besondere Aufmerksamkeit.


Was ist das Besondere an Künstliche Intelligenz-Anwendungen?

Aufgrund des breiten Spektrums der Technologie und des Blackbox-Charakters wird die Künstliche Intelligenz sowohl von Regulierern als auch von Ärzten in ihrer Funktionsweise oft nur rudimentär verstanden.

Nur wenn die (Trainings-)Daten eine bestimmte Qualität haben, kann die Künstliche Intelligenz in der Medizin ihre Stärken ausspielen, insbesondere bei der Mustererkennung in großen und komplexen Datensätzen. Dies muss auch bei den regulatorischen Prozessen des Herstellers berücksichtigt werden.

Die Lernfähigkeit innerhalb der analysierten Daten (kontinuierliche Anpassung der Parameter) führt zu einer kontinuierlichen Weiterentwicklung der Software. Dies erschwert die Vorhersage der zukünftigen Qualität der Ergebnisse.

Schließlich generieren einige Systeme der Künstlichen Intelligenz ihre Ergebnisse völlig autonom. Dies macht es auch notwendig, die Kontrollmechanismen in der Marktphase zu verstärken.

VDE Medical Software 2020

VDE-Illustration zum Thema Health
VDE

13. Mai 2020, Frankfurt

Künstliche Intelligenz gewinnt als Bestandteil medizinischer Software zunehmend an Bedeutung. Medizinische Software unterliegt weiteren Anforderungen, auf die wir im Rahmen dieses Fachbeitrags nicht eingehen können. Daher veranstalten wir 2020 erneut die Fachtagung VDE Medical Software. Seien Sie dabei!

Mehr erfahren

Praxisbeispiele für Künstliche Intelligenz in der Medizin

Um Ihnen einen Eindruck zu vermitteln, mit welchem Aufwand die Zulassung einer medizinischen Künstlichen Intelligenz-Anwendung verbunden ist, betrachten wir bereits im Markt befindliche Produkte in den USA. 


Beachten Sie, dass alle bisher in den USA zugelassenen Künstliche Intelligenz-Anwendungen nur mit einem „eingefrorenen“ Algorithmus zugelassen wurden, d. h. ein Selbstlernen des Systems war nicht mehr möglich!


iDx-DR für Diagnose einer Netzhauterkrankung bei Diabetespatienten

Beim ersten Beispiel handelt es sich um das Produkt „IDx-DR“ der Fa. IDx Technologies Inc., einem Deep Learning Algorithmus, der automatisch die Augenerkrankung Retinopathie bei Diabetespatienten erkennt. Diabetische Retinopathie tritt als Folge eines hohen Blutzuckerspiegels auf und ist die häufigste Ursache für Sehverlust bei Diabetespatienten. Viele Patienten erhalten keine regelmäßigen Netzhautuntersuchungen durch Augenärzte, weshalb die Erkrankung oftmals zu spät erkannt wird. IDx-DR benötigt für die Bedienung keinen Augenarzt und ermöglicht dadurch den Patienten einen leichteren Zugang zu Netzhautuntersuchungen. Die folgende Abbildung zeigt die Kernkomponenten von IDx-DR:

KI-Anwendung zur Diagnose einer Netzhauterkrankung

Zunächst erhält der Benutzer eine standardisierte 4-stündige Schulung zur Bedienung der Netzhautkamera. Dann werden die erfassten Patienten-Bilder an einen Server mit der IDx-DR-Software gesendet. Nach einer Qualitätskontrolle erhält der Benutzer ein Feedback, ob es sich beim Patienten um eine mehr als milde Form der Retinopathie handelt. Wurde keine Retinopathie diagnostiziert, wird in 12 Monaten ein neues Screening durchgeführt. Im Falle einer positiven Diagnose empfiehlt die Software die sofortige Überweisung des Patienten an einen Augenarzt zur weiteren diagnostischen Beurteilung und Behandlung.


Zulassung von iDx-DR im U.S. Markt

Dem Produkt wurde seitens der U.S. Food and Drug Administration (FDA) die Bezeichnung „Breakthrough Device“ zuerkannt, wodurch dem Hersteller eine intensive Interaktion und Unterstützung durch die FDA zu Teil wurde. Hierbei spielte eine entscheidende Rolle, dass iDx-DR gerade im ländlichen Raum die Diagnosemöglichkeiten für Diabetespatienten verbessern soll.

Die FDA stufte die Software als Medizinprodukt in die zweithöchste Risikoklasse II ein. Für die Zulassung dieser Medizinprodukte müssen allgemeine und spezielle Kontrollen durchgeführt werden. Im Falle von IDx-DR waren dies zum Beispiel eine Dokumentation der Software-Verifikations- und Validierungsaktivitäten, basierend auf einer umfassenden Risikoanalyse sowie die Erhebung von klinischen Daten, welche die Anwendung der Software für die Indikationen unterstützen.

Der Hersteller musste für diese Software außerdem eine umfassende Dokumentation zu den folgenden Themen einreichen:

  • Beschreibung der Software,
  • Risikoanalyse,
  • Software-Anforderungsspezifikationen,
  • Architektur-Design-Diagramm,
  • Software-Design-Spezifikationen,
  • Rückverfolgbarkeit,
  • Beschreibung der Software-Entwicklungsumgebung,
  • Historie des Revisionsstandes,
  • Ungelöste Anomalien der Software und
  • Informationssicherheit.


Im Hinblick auf das Risikomanagement müssen Softwarehersteller zukünftig darauf achten, dass sich Betriebssicherheit (Safety) und Informationssicherheit (Security) gegenseitig beeinflussen.


Klinische Tests und Risikoanalyse als zentrale Bestandteile des Zulassungsverfahrens

Zur Generierung klinischer Daten wurde eine Studie mit 900 Probanden an 10 Standorten mit den folgenden wichtigen Ergebnissen durchgeführt:

  • 96% der aufgenommenen Bilder waren von ausreichender Qualität für die Analyse.
  • Die Software zeigte 87% Sensitivität und 90% Spezifität. Die Sensitivität bezieht sich auf die Anzahl der Patienten, bei denen korrekterweise eine mehr als milde Form der Retinopathie diagnostiziert wurde (Richtig-Positive), im Verhältnis zur Gesamtzahl der erkrankten Individuen in der Stichprobenpopulation. Die Spezifität bezieht sich auf die Anzahl der Patienten, bei denen nicht eine mehr als milde Retinopathie (Richtig-Negative) diagnostiziert wurde, im Verhältnis zur Gesamtzahl der gesunden Individuen in der Stichprobenpopulation.
  • Bei Wiederholungen, verschiedenen Benutzern und Kameras wurde 99,6% Übereinstimmung bei den Ergebnissen gefunden.

Insgesamt zeigt die Vielzahl der erhobenen klinischen Daten den Aufwand für den Hersteller.

Bei der Risikoanalyse wurden u. a. die folgenden Risiken identifiziert:

  • Falsch-Positive oder -Negative Ergebnisse, die durch Fehler im Algorithmus verursacht werden. Dies kann zu unnötigen medizinischen Eingriffen oder zur Verzögerung der nötigen Behandlung führen.
  • Benutzerfehler bei der Erstellung und Übermittlung der Bilder an die iDx-DR Anwendung.

Die entsprechenden Maßnahmen zur Risikominimierung reichten von klinischen Tests über Hinweise in der Gebrauchsanleitung bis hin zu Schulungen der Anwender.


iDx-DR im Europäischen Markt

iDx-DR wurde auf Basis der Anforderungen der geltenden EU-Richtlinie 93/42/EWG (MDD) als Medizinprodukt der Risikoklasse IIa zertifiziert. Die involvierte Benannte Stelle stellte ein Zertifikat über die Zertifizierung eines umfassenden Qualitätssicherungssystems aus.

Ab dem 25. Mai 2020 gilt die neue Europäische Medizinprodukte-Verordnung (MDR). Solange der Hersteller von iDx-DR keine wesentlichen Änderungen im Design und in der Zweckbestimmung der Software vornimmt, kann er noch für eine gewisse Zeit das alte Zertifikat der Benannten Stelle verwenden. Mit der MDR verschärfen sich zukünftig aber viele Anforderungen, wie z. B. die Risikoklassifizierung, die Konformitätsbewertung, die Produktanforderungen, die klinische Bewertung und Studien sowie der Inhalt der technischen Dokumentation. Außerdem kommen neue Bestimmung, z. B. für die Markt-Überwachung und Rückverfolgbarkeit hinzu.


ContaCT für die Analyse von CT Bildern auf den Verschluss großer Blutgefäße

ContaCT analysiert Bilder aus der Angio-CT des Gehirns und sendet Benachrichtigungen an einen neurovaskulären Spezialisten, dass ein potenzieller Verschluss eines großen Gefäßes identifiziert wurde und empfiehlt die Überprüfung dieser Bilder. ContaCT stellt also im Gegensatz zum vorher beschriebenen iDx-DR keine eigenständigen Diagnosen, sondern ist als reines Benachrichtigungstool parallel zum Standard-Behandlungsablauf in der Klinik zu sehen. Die folgende Abbildung zeigt die Kernkomponenten von ContaCT:

ContaCT Workflow

Zulassung von ContaCT im U.S. Markt

Die FDA stufte die Software der Fa. Viz.AI als Medizinprodukt ebenfalls in die Risikoklasse II ein. In die klinische Studie wurden 300 Angio-CT-Bilder von zwei klinischen Standorten mit ungefähr gleichvielen positiven und negativen Diagnosen aufgenommen. Die Software zeigte 87.8 % Sensitivität und 89.6% Spezifität. Mit 7,32 versus 58,72 Minuten war die durchschnittliche Benachrichtigungszeit eines neurovaskulären Spezialisten wesentlich niedriger beim Einsatz von ContaCT gegenüber dem Standard-Behandlungsablauf.

Im Zuge des Risikomanagements wurden keine wesentlichen Risiken identifiziert, da die Software parallel zum Standard-Behandlungsablauf "nicht für diagnostische Zwecke über die Benachrichtigung hinaus" eingesetzt wird. Kleinere Risiken, wie z. B. der Ausfall der Software, könnten zu einer falschen Bewertung des Patienten führen. Diese Risiken wurden durch die von der FDA geforderten Maßnahmen (z. B. Designkontrollen / Gebrauchsanweisung) gemindert.


Unterstützung des Marktzugangs durch Anwendung internationaler Normen

Unabhängig davon, für welchen Markt der Hersteller seine Künstliche Intelligenz-Anwendungen als Medizinprodukt in Verkehr bringen möchte, ist die Anwendung internationaler Normen bzw. der regionalen und nationalen Versionen unbedingt anzuraten. Wie bereits erwähnt, sind Künstliche Intelligenz-Anwendungen mit einem medizinischen Zweck regulatorisch betrachtet Software-Medizinprodukte. Damit kommen auf jeden Fall die folgenden Normen für eine Anwendung in Betracht:

  • ISO 13485 Medizinprodukte – Qualitätsmanagementsysteme – Anforderungen für regulatorische Zwecke
  • ISO 14155 Klinische Prüfung von Medizinprodukten an Menschen – Gute klinische Praxis
  • ISO 14971 Medizinprodukte – Anwendung des Risikomanagements auf Medizinprodukte
  • IEC 62304 Medizingeräte-Software – Software-Lebenszyklus-Prozesse
  • IEC 62366-1 Medizinprodukte – Teil 1: Anwendung der Gebrauchstauglichkeit auf
  • Medizinprodukte
  • IEC 82304-1 Gesundheitssoftware - Teil 1: Allgemeine Anforderungen für die Produktsicherheit

Zurzeit wird in Europa an der Anpassung von Normen der Reihe IEC 62443 aus der Automatisierungstechnik zum Thema Informationssicherheit für die Medizinprodukte gearbeitet. In den USA werden Normen aus dieser Reihe bereits für Medizinprodukte angewendet.

Die internationalen Normungsorganisationen ISO International Organization for Standardization und die IEC (International Electrotechnical Commission erstellen gegenwärtig gemeinsam spezifische Normen für Künstliche Intelligenz-Anwendungen. Fertig ist inzwischen u.a. ein Standard zu Use Cases und damit verbundenen Anforderungen. Eine weitere Norm zu den Risikomanagement-Rahmenbedingungen wird gerade entwickelt. Auch andere Organisationen wie IEEE Standards Association haben entsprechende Normenprojekte angestoßen.


Unsere Empfehlungen für die Erfüllung regulatorischer Anforderungen an Künstliche Intelligenz-Anwendungen

  • Die Zweckbestimmung der Künstlichen Intelligenz-Anwendung spielt wie bei jeder Software als Medizinprodukt eine entscheidende Rolle hinsichtlich des Aufwandes zur Erfüllung der regulatorischen Anforderungen. Sie sollten beachten, dass Angaben in der Zweckbestimmung zur Bedeutung der Information für die Diagnose und der Kritikalität des betrachteten Gesundheitszustandes bei der Risikoklassifizierung eine wichtige Rolle spielen.
  • Hochwertige klinische Daten sind für die Entwicklung und Validierung der Künstlichen Intelligenz-Anwendung unerlässlich!
  • Das Risikomanagement ist der Schlüssel zum Erfolg. Denken Sie sorgfältig über Themen wie klinischer Workflow, Anwender (professionell vs. Patient) und Nutzen-Risiko-Verhältnis nach, da sich diese auf das Risikomanagement auswirken! In der Folge berücksichtigen Sie geeignete Maßnahmen zur Risikominderung!
  • In der EU ist eine Einstufung in höhere Risikoklassen für Künstliche Intelligenz-Anwendung absehbar. Wohingegen in den USA die FDA einen neuen Ansatz für die Zulassungsverfahren entwickelt, der die Qualität der Herstellerorganisation in den Mittelpunkt stellt.

VDE Medical Software 2020

VDE-Illustration zum Thema Health
VDE

13. Mai 2020, Frankfurt

Weitere Informationen zu künstlicher Intelligenz in Medizinprodukten sowie aktuelle Entwicklungen und Neuigkeiten kurz vor dem Geltungsbeginn der MDR erhalten Sie auf unserer großen Veranstaltung VDE Medical Software 2020.

Mehr erfahren

Kontakt

Dr. Thorsten Prinz
Downloads + Links