Gezielte Anpassungen werden darüber hinaus bei den betreffenden QMS-Prozessen vorgenommen:
- Strategie zur Einhaltung der Rechtsvorschriften,
- Personal,
- Informationen des Herstellers,
- Infrastruktur,
- Einkauf und Lieferanten,
- Externe Prozesse und
- Informationssicherheit/Datenschutz.
Ausweitung der Software-Lebenszyklusprozesse auf die Entwicklung von KI-Modellen
Hersteller von KI-basierten Medizinprodukten wenden die Norm EN 62304 auf den Software-Lebenszyklus an. Handelt es sich um eine eigenständige Software, ist auch die Norm EN 82304-1 von Relevanz. Zu diesem Zweck implementiert der Hersteller in seinem QMS einen Entwicklungsprozess, einen Freigabeprozess, einen Wartungsprozess und einen Prozess zur Außerbetriebnahme der Software. Ergänzt werden diese Prozesse durch Validierungs- und Post-Market-Aktivitäten des Herstellers.
BAIM ergänzt die Softwareentwicklung nach EN 62304 um einen untergeordneten KI-spezifischen Entwicklungsprozess. Während die Erfassung und Analyse sämtlicher Nutzer-, System- und KI-Anforderungen im regulären Softwareentwicklungsprozess erfolgen, werden Datenmanagement und KI-Modellentwicklung im separaten KI-Entwicklungsprozess durchgeführt. Die Bewertung und Validierung des KI-Modells erfolgt anschließend in einem zusätzlichen Prozess zur KI-Modellevaluation.
Anpassung weiterer zentraler QMS-Prozesse
Ein Risikomanagementsystem ist als Bestandteil des Qualitätsmanagementsystems für Hersteller von Medizinprodukten verpflichtend. Da KI-basierte Technologien spezifische Risiken wie Verzerrungen (Bias) oder Fehlinterpretationen von Daten mit sich bringen, müssen diese im Risikomanagement gezielt berücksichtigt werden. BAIM erweitert die klassische Risikoanalyse daher um KI-spezifische Gefährdungen und unterstützt so die sichere Entwicklung und Anwendung von KI-basierten Medizinprodukten.
Zudem betrachtet BAIM das Risikomanagement nach EN ISO 14971 ganzheitlich, indem Sicherheit (Safety), Cybersicherheit (Security) und deren Wechselwirkungen gemeinsam bewertet werden. Hierfür nutzt BAIM den ARGOS-Cybersecurity-Ansatz des VDE, um KI-spezifische Assets, Schnittstellen und potenzielle Angriffsszenarien systematisch zu identifizieren und geeignete Schutzmaßnahmen abzuleiten.
Im Usability Engineering-Prozess werden sowohl formative Bewertungen während der Entwicklung und Wartung als auch summative Validierungen zum Abschluss des Entwicklungsprozesses durchgeführt. BAIM unterstützt diesen Prozess durch eine integrierte Checkliste mit spezifischen Anforderungen an die gebrauchstaugliche Gestaltung KI-basierter Medizinprodukte. Berücksichtigt werden dabei unter anderem Themen wie Transparenz, Erklärbarkeit von KI-Entscheidungen und der Umgang mit Automatisierungsbias.
Die klinische Bewertung dient dem Nachweis von Sicherheit, Leistungsfähigkeit und einem positiven Nutzen-Risiko-Verhältnis eines Medizinprodukts. Neben den etablierten Anforderungen der MEDDEV 2.7/1 und der Leitlinie MDCG 2020-1 für Medizinsoftware unterstützt BAIM diesen Prozess durch eine KI-spezifische Checkliste. Diese adressiert zusätzliche Fragestellungen bei der Bewertung KI-basierter Medizinprodukte und berücksichtigt beispielsweise den Einsatz spezialisierter KI-Datenbanken für die wissenschaftliche Literaturrecherche.
Auch die Überwachung nach dem Inverkehrbringen (Post-Market Surveillance) und die Vigilanz sind wesentliche Bestandteile des Software-Lebenszyklus. Gerade bei KI-basierten Medizinprodukten sind eine kontinuierliche Leistungsüberwachung und die Sicherstellung der Produktqualität im realen Einsatz von besonderer Bedeutung. BAIM erweitert den Post-Market-Surveillance-Prozess daher um KI-spezifische Aspekte, etwa die Bewertung der Qualität von Real-World-Daten sowie die Aktualität des verwendeten Ground Truths beziehungsweise Goldstandards. Hierfür werden geeignete Methoden, Prüfintervalle sowie relevante Kennzahlen und Grenzwerte definiert und in den Überwachungsprozess integriert.
Praktische Umsetzung
Ein typisches BAIM-Projekt beginnt mit der Festlegung der Zweckbestimmung des KI-basierten Medizinprodukts unter Berücksichtigung der eingesetzten KI-Technologie und ihres Funktionsprinzips. Darauf aufbauend werden die KI-spezifischen Entwicklungsprozesse in das Qualitätsmanagementsystem (QMS) integriert und die notwendigen Risikomanagementaktivitäten etabliert. Parallel dazu erfolgen die Planung und Durchführung der Usability-Maßnahmen sowie der Start der klinischen Bewertung. Nach dem Inverkehrbringen wird die Leistung der KI-basierten Software im Rahmen der Post-Market Surveillance, der klinischen Nachbeobachtung und der Vigilanz kontinuierlich überwacht. Die dabei gewonnenen Erkenntnisse fließen fortlaufend in die klinische Bewertung und die Weiterentwicklung des Produkts ein.
Fazit
Die CE-Konformität von KI-basierter Medizinsoftware erfordert die systematische Berücksichtigung regulatorischer, technischer und klinischer Anforderungen. Der BAIM-Ansatz unterstützt Hersteller dabei, diese Anforderungen strukturiert umzusetzen und die Nachweisführung entlang des gesamten Produktlebenszyklus nachvollziehbar zu gestalten.
BAIM kann sowohl ein bestehendes QMS erweitern als auch bei dessen Errichtung unterstützen. Die Anwendung von BAIM stellt sicher, dass das Hersteller-QMS auf die neuen regulatorischen Herausforderungen vorbereitet ist.
Sie entwickeln KI-basierte Medizinprodukte und möchten die regulatorischen Anforderungen effizient erfüllen? Sprechen Sie uns gerne an und erfahren Sie, wie BAIM Sie auf dem Weg zur CE-Konformität unterstützen kann.
