nahaufnahme-schach-roboter-autoNahaufnahme eines schachspielenden Roboters, selektiver Fokusmation-205146230
LIGHTFIELD STUDIOS / stock.adobe.com
02.10.2020 Pressemitteilung

Thomas Jarzombek, Digitalbeauftragter des BMWi: „Mit Normen und Standards können wir KI-Systeme nachvollziehbar und sicher machen.“

Wie können technische Standards ethisch wertvolles Verhalten einer autonomen Maschine sicherstellen, beispielsweise eines autonomen Fahrzeugs, das von einer KI gesteuert wird? Dieser Kernfrage ging das vom Bundesministerium für Wirtschaft und Energie (BMWi) geförderte Projekt „Ethikaspekte in der Normung und Standardisierung für Künstliche Intelligenz in autonomen Maschinen und Fahrzeugen“ nach. Die Ergebnisse sind nun in einem Weißbuch veröffentlicht.

Kontakt

Pressesprecherin

Thomas Jarzombek, Beauftragter des BMWi für Digitale Wirtschaft und Start-ups: „Normen und Standards können bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz eine zentrale Rolle spielen. KI-Systeme müssen über ihren gesamten Lebenszyklus intern und extern überprüfbar sein, insbesondere in sicherheitskritischen Bereichen. Normen und Standards können einen nachvollziehbaren und sicheren Einsatz solcher Systeme für Verbraucher, Anwender und Hersteller gewährleisten. Deshalb fördern wir die entsprechenden Initiativen.“

Die Ergebnisse des Projekts wurden vom Deutschen Institut für Normung e.V. (DIN) und der vom Verband der Elektrotechnik Elektronik und Informationstechnik e.V. (VDE) getragenen Deutschen Kommission für Elektrotechnik Elektronik und Informationstechnik (DKE) im Whitepaper „Ethik und künstliche Intelligenz: Was können Normen und Standards leisten?“ veröffentlicht.

Ziel des Projektes war es, den aktuellen Stand der Normung und Standardisierung im interdisziplinären Themenfeld KI und Ethik darzustellen sowie mögliche zukünftige Handlungsfelder der Normung und Standardisierung aufzuzeigen. Gemeinsam mit insgesamt 77 Expertinnen und Experten aus Wirtschaft, Wissenschaft und Forschung, öffentlicher Hand und Zivilgesellschaft wurden in Workshops die Inhalte des Dokuments erarbeitet.

Im Whitepaper werden acht Handlungsempfehlungen an Normungsgremien und interessierte Fachkreise vorgestellt. Unter anderem wird empfohlen, dass sich die entsprechenden Normungsgremien in ihren Themenbereichen mit dem Aufstellen von konkreten Prüfkriterien befassen sollen, mit denen eine KI auf die Achtung der Autonomie des Menschen überprüft werden kann. Weitere Prüfkriterien fordert das Projektteam z. B. in Bezug auf die Erklärbarkeit, Rückverfolgbarkeit, Überprüfbarkeit, Sicherheit und den Datenschutz. KI-Systeme sollten vor externem Zugriff gesichert sein und nicht zur Gefahr für ihre Umwelt werden. Bei KI-Systemen mit hohem oder eheblichem Gefährdungspotential wird eine Risikoanalyse empfohlen, die beide Aspekte prüft, um Schäden vom Einzelnen und/oder der Gesellschaft abzuwenden. Für den Bereich des Datenschutzes wird aufgezeigt, dass Normen und Standards gesetzliche Vorgaben unterstützen und präzisieren können.

Die Ergebnisse des Whitepapers werden in die Normungsroadmap KI einfließen, die als Teil der nationalen KI-Strategie der Bundesregierung auf dem Digitalgipfel der Bundesregierung am 30. November 2020 vorgestellt wird.

Erhältlich ist das Whitepaper unter www.dke.de. Mehr Informationen zum Nutzen von Normen und Standards im Bereich KI finden sich unter www.dke.de/de/arbeitsfelder/core-safety/kuenstliche-intelligenz.

Interessiert an Industrie 4.0, Smart Factory, Industrial Internet of Things?

Industrieroboter in Fertigungshalle
Siegblatt / adobe
29.07.2020 TOP

Der VDE wirkt an der Nahtstelle zwischen Technologien, IT und Anwendung. Er führt bei Themen wie zuverlässige drahtlose Kommunikation, Robotik und autonome Systeme sowie IT-Sicherheit vernetzter System führende Experten und Anwender zusammen und verbreitert deren Wissensbasis. VDE|DKE engagiert sich aktiv in der Plattform Industrie 4.0. Mit der Deutschen Normungs-Roadmap hat sie einen wichtige Grundlage gelegt und das „Standardization Council Industrie 4.0“ gegründet.

Weitere Inhalte zum Thema Industrie 4.0 finden Sie auf unserer Themenseite Industry.

Zur Themenseite Industry