Mission KI

In der Initiative "MISSION KI" entwickelt eine Partnerschaft unter Beteiligung des VDE einen freiwilligen Qualitätsstandard für Niedrig-Risiko-KI. Der Qualitätsstandard begleitet und ergänzt die KI-Regulatorik aus dem EU AI Act. Das Ziel von MISSION KI ist es, faire und vergleichbare Marktbedingungen für alle Akteure durch einheitliche, valide Prüfkriterien und -verfahren zu schaffen. So wird Transparenz, Sicherheit und Vertrauen in KI-Anwendungen für Anwender hergestellt. Auftraggeber von MISSION KI sind das Bundesministerium für Digitales und Staatsmodernisierung sowie acatech – Deutsche Akademie der Technikwissenschaften.

Projektlaufzeit: 01.05.2023-31.12.2025

Projektpartner:

AI Quality & Testing Hub
CertifAI
Fraunhofer IAIS
PwC Deutschland
TÜV AI Lab
VDE

BMDV

Projektförderung: Das Projekt Mission KI wird i.H.v. 32 Mio. € vom Bundesministerium für Digitales und Verkehr gefördert.

Auftraggeber sind das Bundesministerium für Digitales und Verkehr sowie acatech – Deutsche Akademie der Technikwissenschaften.

Projektmotivation

Stärkung der Entwicklung vertrauenswürdiger KI
Mit der Entwicklung eines freiwilligen, praxistauglichen KI-Qualitätsstandards stellen wir Qualität und Vertrauenswürdigkeit von KI sicher, ohne Innovationen zu hemmen. Ziel ist es, Wettbewerbsvorteile für KI-Anbieter zu schaffen, die Verlässlichkeit für KI-Betreiber zu stärken und das Vertrauen der Anwender in KI zu erhöhen. Im Rahmen von KI-Innovations- & Qualitätszentren erhalten Gründerinnen und Gründer, Startups und KMU maßgeschneiderte Unterstützung bei der Entwicklung vertrauenswürdiger KI „Made in Germany“. Gleichzeitig bieten die Zentren einen Erlebnisraum für die breite Öffentlichkeit.

Projektbeschreibung

MISSION KI entwickelt einen freiwilligen Qualitätsstandard für Künstliche Intelligenz (KI), der die Qualität und Vertrauenswürdigkeit von KI-Systemen stärkt.

Seit dem 01.08.2024 reguliert der EU AI Act (KI-Verordnung) europaweit die Entwicklung und den Einsatz von KI-Systemen, um vertrauenswürdige und menschenzentrierte KI in der EU zu fördern. Das Gesetz verfolgt einen risikobasierten Ansatz: Es legt einen Fokus auf verbotene und Hochrisiko-KI-Systeme. Für letztere gelten strenge Anforderungen sowie Konformitätsbewertungsverfahren.

Andere KI-Systeme, etwa in der automatisierten Vertragsprüfung oder der Optimierung von Lieferketten, unterliegen hingegen in Teilen Transparenzanforderungen, das heißt, dass insbesondere die Endnutzerinnen und Endnutzer zu informieren sind, dass sie gerade mit KI interagieren. Dass diese KI-Systeme jedoch auch unter Gesichtspunkten der Finanzierung oder des Qualitätsmanagements in Unternehmen Implikationen mit sich bringen, berücksichtigt die Regulierung nicht direkt.

An diesem Punkt setzt MISSION KI an. Unsere Initiative zielt darauf ab, mit einem freiwilligen, praxistauglichen Qualitätsstandard einen flexiblen Rahmen für jegliche KI-Systeme - auch solche unterhalb der Hoch-Risikoschwelle - zu schaffen. Gleichzeitig knüpft der Standard an die Anforderungen des EU AI Act für Hochrisiko-KI-Systeme an und stellt damit Anschlussfähigkeit sicher.

MISSION KI stärkt Markttransparenz sowie das Vertrauen der KI-Betreiber in KI-Technologien und schafft gleichzeitig Wettbewerbsvorteile für KI-Anbieter, die den Standard anwenden. Durch die Erprobung an realen Anwendungsfällen stellen wir sicher, dass der Standard bedarfsorientiert und praxistauglich entwickelt wird.

Projektziele

Der MISSION KI Qualitätsstandard bietet klare Vorteile für KI-Anbieter und KI-Betreiber.

KI-Anbieter profitieren von einem effizienten Qualitätsnachweis, der für große Unternehmen und Start-ups gleichermaßen nutzbar ist. Dies verbessert ihre Wettbewerbsfähigkeit, da sie sich durch objektiv vergleichbare Qualitätskriterien am Markt abheben können. Zudem legen KI-Anbieter mit dem MISSION KI Qualitätsstandard schon früh den Grundstein, um die Anforderungen des EU AI Acts zu erfüllen. Das ist besonders hilfreich, falls sich der Einsatzbereich ihres KI-Systems so ändert, dass es später als Hochrisiko-KI-System eingestuft wird.

KI-Betreiber wiederum profitieren von höherer Markttransparenz und vergleichbarer Qualität der eingesetzten KI-Systeme. Dies stärkt auch das Vertrauen der Endnutzer*innen in die Technologie und erhöht so die gesellschaftliche Akzeptanz für Künstliche Intelligenz.

Eine Win-Win-Situation, die die Entwicklung eines robusten und vertrauenswürdigen KI-Ökosystems in Europa vorantreibt.