KI und Qualität

Unter das Thema Verlässlichkeit fallen beispielsweise die Genauigkeit und Leistung des KI-Systems. Hier steht die Frage im Raum, ob korrekte und reproduzierbare Ergebnisse geliefert werden. Ziel ist es, dass die KI-Ergebnisse richtig sind im Vergleich zu einer bekannten Wahrheit oder zu einem definierten Ziel. Die Robustheit beschreibt ergänzend, inwieweit die KI auch bei leicht veränderten oder unvollständigen Daten zuverlässig funktioniert. Die KI-Anwendung sollte auch bei Störungen, ungewöhnliche Eingaben oder Datenrauschen sinnvolle Ergebnisse liefern oder kontrolliert abbrechen und darüber informieren. Rückfallpläne und funktionale Sicherheit schließlich zeigen auf, was in Störfällen (alternativ) geschieht und inwieweit diese Auswirkungen unwiderruflich sind.

Im Bereich von Datenqualität und -schutz sowie Daten Governance ist einerseits die Repräsentativität von Interesse. Hier stellt sich die Frage ob die Trainingsdaten vollständig genug sind, um Verzerrungen zu vermeiden. Die transparente Herkunft beschreibt, woher die Daten zum Training der KI stammen und ob sie verantwortungsvoll erhoben wurden. Im Bereich der Datenqualität kann ebenfalls deren Aktualität und Korrektheit untersucht werden. Dazu zählt, ob die Trainingsdaten sauber, aktuell und konsistent sind. Hierbei ist neben den rohen Daten auch die Qualität der Labels sowohl von Trainings- als auch von Testdaten von herausragender Bedeutung und es sollten nicht nur klar definierte Guidelines existieren, sondern auch auf Methoden wie das redundante Multi-Labeling zurückgegriffen werden.

Der Schutz personenbezogener und proprietärer Daten: es ist insbesondere wichtig, dass eine Sicherung sensibler, unternehmenseigener Informationen, die nicht öffentlich zugänglich sind und einen Wettbewerbsvorteil darstellen, erfolgt. Gleichfalls wichtig ist der Schutz natürlicher Personen und hier insbesondere ihre Identifizierbarkeit, wie sie beispielsweise bei der Bildverarbeitung passieren könnte. Daten Governance beschreibt, inwiefern ein strategisches Rahmenwerk aus Regeln, Prozessen, Rollen und Richtlinien existiert, dass die Verfügbarkeit, Qualität, Integrität und Sicherheit von Daten über deren gesamten Lebenszyklus sicherstellt.

Im Themenfeld Transparenz sind sowohl die Rückverfolgbarkeit und Dokumentation sowie die Erklärbar- und Interpretierbarkeit von Interesse. Rückverfolgbarkeit und Dokumentation vertiefen die Fragestellungen bzgl. des Lebenszyklus der Daten aus dem bereits genannten Themenbereich Daten Governance. Die KI-Ergebnisse müssen schließlich nachvollziehbar sein und es sollte sich erklären lassen, wie die KI-Anwendung zu Ergebnissen kommt. Mehr zu Transparenz (für Hochrisiko-KI).

Die allgemeine KI-spezifische Cybersicherheit und die Widerstandsfähigkeit gegen KI-spezifische Angriffe beschreibt, inwieweit das KI-System vor Manipulation, Angriffen oder Missbrauch geschützt ist. Technische, organisatorische und rechtliche Schutzmaßnahmen sind für KI-Systeme zwingend erforderlich, um absichtlichen Missbrauch und unabsichtliche Datenpannen zu verhindern. 

Der Bereich der Nicht-Diskriminierung ist aus Qualitätsperspektive relevant, so dass ungerechtfertigte Diskriminierung und Verzerrung ausgeschlossen sind. Die KI-Anwendung darf keine bestimmten Gruppen mittelbar oder unmittelbar benachteiligen. Hier sind inhaltliche Querverweise zu den Bereichen Verlässlichkeit und Datenqualität angesiedelt. Denn nur wenn hochwertige Daten für das Training einer KI-Anwendung genutzt werden, kann auch das Ergebnis entsprechend ausfallen.

Der Themenkomplex menschliche Aufsicht und Kontrolle umfasst die Aspekte menschliche Handlungsfähigkeit und menschliche Aufsicht. So muss der Mensch die volle Kontrolle über die KI behalten, die KI-Entscheidungen nachvollziehen können und darf nicht durch die Technologie manipuliert werden. Oberste Maxime ist, dass der Mensch souverän entscheidet, ob und wie eine KI eingesetzt wird, und er ebenso die Möglichkeit behält, in den Prozess einzugreifen. Der Mensch muss KI-Systeme während ihrer Nutzung kontrollieren, überwachen und bei Bedarf eingreifen können. Das Ziel ist die Vermeidung von Schäden, Diskriminierung oder Fehlfunktionen, realisiert durch menschliche Überwachung, Validierung und Überprüfung von KI-Entscheidungen. Mehr zu menschlicher Aufsicht (für Hochrisiko-KI)