Technologie-, und Innovationskonzept
peshkova / stock.adobe.com
19.01.2022 Fachinformation

Marktzugang für Künstliche Intelligenz (KI)-basierte Software: BAIM

Wir helfen Herstellern, KI-basierte Medizinprodukte konform und effizient auf den regulierten Markt zu bringen.

Kontakt

Dr. Thorsten Prinz

Hat eine KI-basierte Software eine medizinische Zweckbestimmung, unterliegt sie in der EU den Verordnungen 2017/745 (MDR) oder 2017/746 (IVDR). Um Herstellern von KI-basierter Software in der Medizin bei der Bewältigung der ständig wachsenden hohen Anforderungen für den Marktzugang zu unterstützen, hat der VDE den regulatorischen Ansatz „BAIM - Boost AI to Market“ entwickelt. Was sich dahinter verbirgt, erläutern wir in diesem Beitrag.

Besonders komplexe regulatorische Herausforderungen

Der zukünftige EU Artificial Intelligence Act (AIA) könnte noch höhere Hürden für den Marktzugang mit sich bringen, wie wir in dem Beitrag "Neue Herausforderungen für KI-basierte Medizinprodukte: EU Artificial Intelligence Act" berichteten. In Deutschland gilt für Hersteller dieser Produkte neben den EU-Verordnungen das Medizinprodukterecht-Durchführungsgesetz (MPDG). Weiterhin erscheinen gegenwärtig viele KI-spezifische Normen und Guidelines (z. B. von der IG-NB Interessengemeinschaft der Benannten Stellen für Medizinprodukte in Deutschland), und Best-Practice-Methoden zur Entwicklung von KI-Modellen unterliegen fortlaufenden Neuerungen. Dementsprechend ist es von höchster Wichtigkeit, dass der Hersteller in diesem sehr dynamischen regulatorischen Umfeld die Übersicht behält und seine Prozesse ständig an die Änderungen anpasst.

Regulatorische Anforderungen an KI-basierte Software (1)
VDE

Die regulatorische Komplexität liegt vor allem in den technischen Besonderheiten von KI-basierter Software begründet. Im Gegensatz zu herkömmlicher Software tragen neben dem Software-Code (in Bezug auf das Modell und die Applikation) das Modell selbst und die verwendeten Daten entscheidend zu den Funktionalitäten des Produktes bei. Hieraus ergeben sich für den Hersteller eine ganze Reihe spezieller Herausforderungen, z. B. in Hinsicht auf Generalisierbarkeit, Transparenz und Repräsentativität.

Das BAIM-Konzept

Jeder Medizinprodukte-Hersteller benötigt ein Qualitätsmanagementsystem (QMS) als Grundlage für die regulatorische Compliance mit der MDR. Hierbei kommen eine Reihe von Medizinproduktennormen und MDCG-Guidelines zur Anwendung:

QMS-Prozesse als Basis für Compliance von KI-basierten Medizinprodukten
VDE

Hierauf baut der Fragenkatalog „Künstliche Intelligenz bei Medizinprodukten“ der IG-NB auf. Dieses Dokument wird im Rahmen von BAIM zunächst in eine Liste mit 144 Einzel-Anforderungen überführt, die Referenzen sowohl zu MDCG-Guidelines und gesetzlichen Anforderungen als auch zu Prozessen und Dokumenten aus dem QMS zum Nachweis der Compliance enthält. Weiterhin werden zur Umsetzung fortlaufend KI-spezifische Normen sowie Berichte und Literatur zu Best-Practice-Methoden als Teil des State-of-the-Art analysiert und in die regulatorischen Dokumente integriert.

Umsetzung der Anforderungen entlang des State-of-the-Art
VDE

BAIM zielt vor allem auf die Anpassung der folgenden regulatorischen Bereiche im QMS des Herstellers ab:

Anpassung regulatorischer Bereiche an KI-Anforderungen
VDE

Punktuelle Anpassungen erfolgen außerdem in den QMS-Prozessen:

  • Dokumentation zum Inverkehrbringen,
  • Personalmanagement,
  • Regulatorische Strategie,
  • Infrastruktur,
  • Einkauf und Lieferanten,
  • Externe Prozesse sowie
  • Informationssicherheit (Organisation) und Datenschutz.

Erweiterung der Software-Lebenszyklus-Prozesse um KI-Modell Entwicklung

Hersteller von KI-basierter Software wenden die Norm EN 62304 zum Software-Lebenszyklus an. Handelt es sich überdies um eine eigenständige Software kommt auch noch die Norm EN 82304-1 zur Anwendung. Hierzu implementiert der Hersteller in seinem QMS einen Entwicklungsprozess, einen Release-Prozess, einen Wartungs-Prozess und einen Prozess zur Außerbetriebnahme der Software. Ergänzt werden diese Prozesse durch Validierungs- und Post-Market-Aktivitäten des Herstellers.


BAIM führt für die KI-Komponente einen zusätzlichen KI-Entwicklungsprozess ein, der sich dem eigentlichen Software-Entwicklungsprozess der EN 62304 unterordnet. Dies beinhaltet die Sammlung und Analyse aller Nutzungs- und Systemanforderungen inkl. der KI-spezifischen im allgemeinen Entwicklungsprozess wohingegen das Datenmanagement und die Modellentwicklung im KI-Entwicklungsprozess stattfinden.

Anpassung weiterer zentraler QMS-Prozesse

Gemäß der MDR ist ein Risikomanagementsystem als Teil des QMS verpflichtend für jeden Medizinprodukte-Hersteller. Mit der Komplexität der KI-Technologie gehen auch besondere Gefährdungen wie verschiedene Bias-Formen einher, die im Risikomanagement betrachtet werden müssen. BAIM erweitert die nötige Risikoanalyse um KI-spezifische Risiken und trägt damit zu einer erhöhten Sicherheit dieser Produkte bei. Seit der Neuauflage der einschlägigen Norm EN ISO 14971 im Jahr 2019 müssen beim Risikomanagement die Safety (im Sinne der Betriebssicherheit) zusammen mit der (Cyber-)Security sowie deren Wechselwirkungen betrachtet werden. BAIM verwendet den Cybersecurity-Ansatz ARGOS des VDE, um auch KI-spezifische AssetsInterfaces und Methods of Attack zu analysieren und entsprechende Maßnahmen zu ergreifen.

Im Rahmen des QMS-Prozesses „Gebrauchstauglichkeit“ (Usability Engineering) finden formative Validierungen im Verlauf der Entwicklung (bzw. Wartung) sowie summative Validierungen am Ende der Entwicklung (bzw. Wartung) statt. In einer Prozess-integrierten Checkliste formuliert BAIM spezifische Anforderungen an die gebrauchstauglichkeits-orientierte Entwicklung von KI-basierter Software. Hierzu gehört zum Beispiel der Umgang mit Transparenz, Erklärbarkeit oder dem Automation Bias.

Die klinische Bewertung dient dazu, die Sicherheit und Leistungsfähigkeit sowie ein positives Nutzen-Risiko-Verhältnis für das jeweilige Medizinprodukt nachzuweisen. Neben der einschlägigen Guideline MEDDEV 2.7/1 für die klinische Bewertung von Medizinprodukten ist für Software auch die Guideline MDCG 2020-1 anzuwenden. BAIM unterstützt den Hersteller bei der klinischen Bewertung mit einer Checkliste, welche KI-spezifische Aspekte im entsprechenden QMS-Prozess adressiert. Dies bezieht sich auch auf die Nutzung KI-spezifischer Datenbanken zur Literatursuche

Der Software-Lebenszyklus schließt die Überwachung nach dem Inverkehrbringen und die Vigilanz durch den Hersteller ein. Gerade bei KI-basierter Software wird ein erhebliches Maß an Sicherheit und Leistung durch eine umfassende Überwachung in der Marktphase durch den Hersteller gewährleistet. BAIM erweitert den Plan zur Überwachung nach dem Inverkehrbringen um KI-spezifische Aspekte bspw. in Hinsicht auf die Qualität der Real-Life-Daten und Aktualität der Ground Truth bzw. des Goldstandards. Im Zuge dessen werden entsprechende Methoden und deren Frequenz in der Anwendung sowie zu berücksichtigende Parameter und Grenzwerte implementiert.

Praktische Umsetzung

Ein typisches BAIM-Projekt startet mit der Erstellung bzw. Überarbeitung der Zweckbestimmung der KI-basierten Software, welche das sog. Operating Principle der KI-Komponente ausreichend berücksichtigt. Im weiteren Verlauf wird der KI-Entwicklungs-Prozess im QMS verankert und das Risikomanagement inkl. der Cybersecurity gemäß ARGOS angewendet. Parallel dazu werden gebrauchstauglichkeits-orientierte Aktivitäten gestartet und die erste klinische Bewertung vorgenommen. Im Rahmen der Überwachung (inkl. des Post-Market Clinical Follow-Up) und der Vigilanz wird die Leistung der KI-basierten Software fortlaufend beobachtet und die gesammelten Daten werden der klinischen Bewertung erneut zugeführt.


Zusammenfassend erweitert BAIM entweder ein bestehendes QMS oder wird beim Errichten eines QMS angewendet und stellt so die Compliance des Herstellers mit den spezifischen Anforderungen für KI-basierte Software als Medizinprodukt sicher. Die Anwendung von BAIM sorgt zudem dafür, dass das QMS des Herstellers zukunftsorientiert aufgestellt und gegenüber neuen Herausforderungen wie dem EU AIA gewappnet ist.

Effizienter Marktzugang für KI-basierte Software: BAIM

VDE
08.11.2022 Online Webinar

Mehr erfahren

VDE Symposium: Künstliche Intelligenz (KI) in Medizinprodukten

VDE/prinzdesign
06.12.2022 Frankfurt am Main Symposium

Mehr erfahren

Hands-on-Training Künstliche Intelligenz (KI) bei Medizinprodukten

VDE
07.12.2022 Frankfurt am Main Workshop

Mehr erfahren