Technische Anforderungen von Anfang an berücksichtigen
Unternehmen stehen vor der Herausforderung, KI-Systeme nicht nur leistungsfähig, sondern auch regulatorisch konform und technisch vertrauenswürdig zu entwickeln. Dazu müssen Anforderungen an Datenqualität, Risikomanagement, Genauigkeit, Robustheit und Cybersicherheit frühzeitig in Entwicklungsprozesse, Systemarchitekturen und Testkonzepte integriert werden.
Mit AI Engineering & Compliance-by-Design unterstützt der VDE Anbieter und Entwickler von KI-Systemen dabei, regulatorische und normative Anforderungen in geeignete technische Maßnahmen zu überführen. So wird Compliance nicht erst am Ende der Entwicklung geprüft, sondern von Beginn an systematisch berücksichtigt.
Die Beratung orientiert sich insbesondere an den Anforderungen des EU AI Act. Dieser verlangt für Hochrisiko-KI-Systeme unter anderem ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit über den gesamten Lebenszyklus. Zudem sind relevante Metriken zu erheben und nachvollziehbar zu dokumentieren.
Leistungsfähigkeit objektiv nachweisen
Für regulatorische Konformität muss die Leistungsfähigkeit eines KI-Systems objektiv bewertet und nachvollziehbar belegt werden können. Entscheidend ist, dass die verwendeten Metriken zum Anwendungskontext, zum vorgesehenen Verwendungszweck und zu den möglichen Risiken passen.
Der VDE unterstützt Sie bei der Definition anwendungsspezifischer Qualitäts- und Leistungsanforderungen. Gemeinsam entwickeln wir geeignete Metriken, Akzeptanzkriterien, Testszenarien und Evaluierungsverfahren.
Robustheit sicherstellen
KI-Systeme müssen auch unter unerwarteten oder veränderten Bedingungen zuverlässig funktionieren. Unsere Experten unterstützen Sie dabei, mögliche Schwachstellen frühzeitig zu erkennen und die Robustheit des Systems systematisch zu untersuchen.
Die Bewertung beschränkt sich nicht auf das trainierte Modell. Berücksichtigt werden auch Datenverarbeitung, Systemarchitektur, Schnittstellen, menschliche Aufsicht und die Einbindung des KI-Systems in das jeweilige Produkt oder den betrieblichen Prozess.
KI-spezifische Cybersecurity berücksichtigen
KI-Systeme können besonderen Sicherheitsrisiken ausgesetzt sein, die über die klassische IT-Sicherheit hinausgehen. Dazu zählen beispielsweise manipulierte Trainingsdaten, veränderte Modellkomponenten und gezielt gestaltete Eingaben, die fehlerhafte oder unerwünschte Ergebnisse hervorrufen.
Der VDE unterstützt Sie dabei, diese Bedrohungen zu identifizieren, ihre Auswirkungen zu bewerten und angemessene Schutzmaßnahmen abzuleiten. Dabei wird die Betrachtung der Cybersecurity mit den Anforderungen an Robustheit, Datenqualität und Risikomanagement verbunden. So entsteht ein konsistentes Sicherheitskonzept für das gesamte KI-System.
Begleitung über den gesamten KI-Lebenszyklus
Mit AI Engineering & Compliance-by-Design betrachten wir den gesamten Lebenszyklus eines KI-Systems. Unsere Experten stehen Ihnen von der ersten Konzeption über das Datenmanagement, die KI-Modell-Entwicklung, das Testen bis hin zur Überwachung im Betrieb zur Seite.
Unsere Unterstützung umfasst unter anderem:
- Übersetzung regulatorischer Anforderungen in technische Spezifikationen,
- Bewertung von Daten, Modellen und Systemarchitekturen,
- Auswahl geeigneter Risikominderungsmaßnahmen,
- Entwicklung von Prüf-, Test- und Validierungskonzepten,
- Aufbau nachvollziehbarer technischer Dokumentation und Prozesse,
- Vorbereitung nachgelagerter Konformitätsaktivitäten sowie
- Bewertung des technischen und regulatorischen Aufwands geplanter KI-Anwendungen.
