Thomas Jarzombek, Beauftragter des BMWi für Digitale Wirtschaft und Start-ups: „Normen und Standards können bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz eine zentrale Rolle spielen. KI-Systeme müssen über ihren gesamten Lebenszyklus intern und extern überprüfbar sein, insbesondere in sicherheitskritischen Bereichen. Normen und Standards können einen nachvollziehbaren und sicheren Einsatz solcher Systeme für Verbraucher, Anwender und Hersteller gewährleisten. Deshalb fördern wir die entsprechenden Initiativen.“
Die Ergebnisse des Projekts wurden vom Deutschen Institut für Normung e.V. (DIN) und der vom Verband der Elektrotechnik Elektronik und Informationstechnik e.V. (VDE) getragenen Deutschen Kommission für Elektrotechnik Elektronik und Informationstechnik (DKE) im Whitepaper „Ethik und künstliche Intelligenz: Was können Normen und Standards leisten?“ veröffentlicht.
Ziel des Projektes war es, den aktuellen Stand der Normung und Standardisierung im interdisziplinären Themenfeld KI und Ethik darzustellen sowie mögliche zukünftige Handlungsfelder der Normung und Standardisierung aufzuzeigen. Gemeinsam mit insgesamt 77 Expertinnen und Experten aus Wirtschaft, Wissenschaft und Forschung, öffentlicher Hand und Zivilgesellschaft wurden in Workshops die Inhalte des Dokuments erarbeitet.
Im Whitepaper werden acht Handlungsempfehlungen an Normungsgremien und interessierte Fachkreise vorgestellt. Unter anderem wird empfohlen, dass sich die entsprechenden Normungsgremien in ihren Themenbereichen mit dem Aufstellen von konkreten Prüfkriterien befassen sollen, mit denen eine KI auf die Achtung der Autonomie des Menschen überprüft werden kann. Weitere Prüfkriterien fordert das Projektteam z. B. in Bezug auf die Erklärbarkeit, Rückverfolgbarkeit, Überprüfbarkeit, Sicherheit und den Datenschutz. KI-Systeme sollten vor externem Zugriff gesichert sein und nicht zur Gefahr für ihre Umwelt werden. Bei KI-Systemen mit hohem oder eheblichem Gefährdungspotential wird eine Risikoanalyse empfohlen, die beide Aspekte prüft, um Schäden vom Einzelnen und/oder der Gesellschaft abzuwenden. Für den Bereich des Datenschutzes wird aufgezeigt, dass Normen und Standards gesetzliche Vorgaben unterstützen und präzisieren können.
Die Ergebnisse des Whitepapers werden in die Normungsroadmap KI einfließen, die als Teil der nationalen KI-Strategie der Bundesregierung auf dem Digitalgipfel der Bundesregierung am 30. November 2020 vorgestellt wird.
Erhältlich ist das Whitepaper unter www.dke.de. Mehr Informationen zum Nutzen von Normen und Standards im Bereich KI finden sich unter www.dke.de/de/arbeitsfelder/core-safety/kuenstliche-intelligenz.
