Willkommen auf ai-act-law.eu. Hier finden Sie das PDF der Verordnung über künstliche Intelligenz (KI‑Verordnung oder KI‑VO) übersichtlich aufbereitet. Den finalen Text der KI‑Verordnung gibt es auf Deutsch sowie auf Englisch (AI Act). Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz gilt mit einigen Ausnahmen ab dem 2. August 2026 (vgl. Art. 113 KI‑Verordnung).

Schnellzugriff

Kapitel 1

Inhaltsverzeichnis

Kapitel 1Allgemeine Bestimmungen

Art. 1 KI-VOGegenstand

Art. 2 KI-VOAnwendungsbereich

Art. 3 KI-VOBegriffsbestimmungen

Art. 4 KI-VOKI-Kompetenz

Kapitel 2Verbotene Praktiken im KI-Bereich

Art. 5 KI-VOVerbotene Praktiken im KI-Bereich

Kapitel 3Hochrisiko-KI-Systeme

Abschnitt 1Einstufung von KI-Systemen als Hochrisiko-KI-Systeme

Art. 6 KI-VOEinstufungsvorschriften für Hochrisiko-KI-Systeme

Art. 7 KI-VOÄnderungen des Anhangs III

Abschnitt 2Anforderungen an Hochrisiko-KI-Systeme

Art. 8 KI-VOEinhaltung der Anforderungen

Art. 9 KI-VORisikomanagementsystem

Art. 10 KI-VODaten und Daten-Governance

Art. 11 KI-VOTechnische Dokumentation

Art. 12 KI-VOAufzeichnungspflichten

Art. 13 KI-VOTransparenz und Bereitstellung von Informationen für die Betreiber

Art. 14 KI-VOMenschliche Aufsicht

Art. 15 KI-VOGenauigkeit, Robustheit und Cybersicherheit

Abschnitt 3Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter

Art. 16 KI-VOPflichten der Anbieter von Hochrisiko-KI-Systemen

Art. 17 KI-VOQualitätsmanagementsystem

Art. 18 KI-VOAufbewahrung der Dokumentation

Art. 19 KI-VOAutomatisch erzeugte Protokolle

Art. 20 KI-VOKorrekturmaßnahmen und Informationspflicht

Art. 21 KI-VOZusammenarbeit mit den zuständigen Behörden

Art. 22 KI-VOBevollmächtigte der Anbieter von Hochrisiko-KI-Systemen

Art. 23 KI-VOPflichten der Einführer

Art. 24 KI-VOPflichten der Händler

Art. 25 KI-VOVerantwortlichkeiten entlang der KI-Wertschöpfungskette

Art. 26 KI-VOPflichten der Betreiber von Hochrisiko-KI-Systemen

Art. 27 KI-VOGrundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme

Abschnitt 4Notifizierende Behörden und notifizierte Stellen

Art. 28 KI-VONotifizierende Behörden

Art. 29 KI-VOAntrag einer Konformitätsbewertungsstelle auf Notifizierung

Art. 30 KI-VONotifizierungsverfahren

Art. 31 KI-VOAnforderungen an notifizierte Stellen

Art. 32 KI-VOVermutung der Konformität mit den Anforderungen an notifizierte Stellen

Art. 33 KI-VOZweigstellen notifizierter Stellen und Vergabe von Unteraufträgen

Art. 34 KI-VOOperative Pflichten der notifizierten Stellen

Art. 35 KI-VOIdentifizierungsnummern und Verzeichnisse notifizierter Stellen

Art. 36 KI-VOÄnderungen der Notifizierungen

Art. 37 KI-VOAnfechtungen der Kompetenz notifizierter Stellen

Art. 38 KI-VOKoordinierung der notifizierten Stellen

Art. 39 KI-VOKonformitätsbewertungsstellen in Drittländern

Abschnitt 5Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Art. 40 KI-VOHarmonisierte Normen und Normungsdokumente

Art. 41 KI-VOGemeinsame Spezifikationen

Art. 42 KI-VOVermutung der Konformität mit bestimmten Anforderungen

Art. 43 KI-VOKonformitätsbewertung

Art. 44 KI-VOBescheinigungen

Art. 45 KI-VOInformationspflichten der notifizierten Stellen

Art. 46 KI-VOAusnahme vom Konformitätsbewertungsverfahren

Art. 47 KI-VOEU-Konformitätserklärung

Art. 48 KI-VOCE-Kennzeichnung

Art. 49 KI-VORegistrierung

Kapitel 4Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

Art. 50 KI-VOTransparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

Kapitel 5KI-Modelle mit allgemeinem Verwendungszweck

Abschnitt 1Einstufungsvorschriften

Art. 51 KI-VOEinstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko

Art. 52 KI-VOVerfahren

Abschnitt 2Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 53 KI-VOPflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 54 KI-VOBevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Abschnitt 3Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Art. 55 KI-VOPflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Abschnitt 4Praxisleitfäden

Art. 56 KI-VOPraxisleitfäden

Kapitel 6Maßnahmen zur Innovationsförderung

Art. 57 KI-VOKI-Reallabore

Art. 58 KI-VODetaillierte Regelungen für KI-Reallabore und deren Funktionsweise

Art. 59 KI-VOWeiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor

Art. 60 KI-VOTests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren

Art. 61 KI-VOInformierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren

Art. 62 KI-VOMaßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen

Art. 63 KI-VOAusnahmen für bestimmte Akteure

Kapitel 7Governance

Abschnitt 1Governance auf Unionsebene

Art. 64 KI-VOBüro für Künstliche Intelligenz

Art. 65 KI-VOEinrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz

Art. 66 KI-VOAufgaben des KI-Gremiums

Art. 67 KI-VOBeratungsforum

Art. 68 KI-VOWissenschaftliches Gremium unabhängiger Sachverständiger

Art. 69 KI-VOZugang zum Pool von Sachverständigen durch die Mitgliedstaaten

Abschnitt 2Zuständige nationale Behörden

Art. 70 KI-VOBenennung von zuständigen nationalen Behörden und zentrale Anlaufstelle

Kapitel 8EU-Datenbank für Hochrisiko-KI-Systeme

Art. 71 KI-VOEU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme

Kapitel 9Beobachtung nach dem Inverkehrbringen, Informationsaustausch und Marktüberwachung

Abschnitt 1Beobachtung nach dem Inverkehrbringen

Art. 72 KI-VOBeobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme

Abschnitt 2Austausch von Informationen über schwerwiegende Vorfälle

Art. 73 KI-VOMeldung schwerwiegender Vorfälle

Abschnitt 3Durchsetzung

Art. 74 KI-VOMarktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Art. 75 KI-VOAmtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck

Art. 76 KI-VOBeaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden

Art. 77 KI-VOBefugnisse der für den Schutz der Grundrechte zuständigen Behörden

Art. 78 KI-VOVertraulichkeit

Art. 79 KI-VOVerfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen

Art. 80 KI-VOVerfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden

Art. 81 KI-VOSchutzklauselverfahren der Union

Art. 82 KI-VOKonforme KI-Systeme, die ein Risiko bergen

Art. 83 KI-VOFormale Nichtkonformität

Art. 84 KI-VOUnionsstrukturen zur Unterstützung der Prüfung von KI

Abschnitt 4Rechtsbehelfe

Art. 85 KI-VORecht auf Beschwerde bei einer Marktüberwachungsbehörde

Art. 86 KI-VORecht auf Erläuterung der Entscheidungsfindung im Einzelfall

Art. 87 KI-VOMeldung von Verstößen und Schutz von Hinweisgebern

Abschnitt 5Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 88 KI-VODurchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 89 KI-VOÜberwachungsmaßnahmen

Art. 90 KI-VOWarnungen des wissenschaftlichen Gremiums vor systemischen Risiken

Art. 91 KI-VOBefugnis zur Anforderung von Dokumentation und Informationen

Art. 92 KI-VOBefugnis zur Durchführung von Bewertungen

Art. 93 KI-VOBefugnis zur Aufforderung zu Maßnahmen

Art. 94 KI-VOVerfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck

Kapitel 10Verhaltenskodizes und Leitlinien

Art. 95 KI-VOVerhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen

Art. 96 KI-VOLeitlinien der Kommission zur Durchführung dieser Verordnung

Kapitel 11Befugnisübertragung und Ausschussverfahren

Art. 97 KI-VOAusübung der Befugnisübertragung

Art. 98 KI-VOAusschussverfahren

Kapitel 12Sanktionen

Art. 99 KI-VOSanktionen

Art. 100 KI-VOVerhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union

Art. 101 KI-VOGeldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Kapitel 13Schlussbestimmungen

Art. 102 KI-VOÄnderung der Verordnung (EG) Nr. 300/2008

Art. 103 KI-VOÄnderung der Verordnung (EU) Nr. 167/2013

Art. 104 KI-VOÄnderung der Verordnung (EU) Nr. 168/2013

Art. 105 KI-VOÄnderung der Richtlinie 2014/90/EU

Art. 106 KI-VOÄnderung der Richtlinie (EU) 2016/797

Art. 107 KI-VOÄnderung der Verordnung (EU) 2018/858

Art. 108 KI-VOÄnderungen der Verordnung (EU) 2018/1139

Art. 109 KI-VOÄnderung der Verordnung (EU) 2019/2144

Art. 110 KI-VOÄnderung der Richtlinie (EU) 2020/1828

Art. 111 KI-VOBereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck

Art. 112 KI-VOBewertung und Überprüfung

Art. 113 KI-VOInkrafttreten und Geltungsbeginn

AI Act: Was ist die KI‑Verordnung?

Die KI‑Verordnung ist eine Verordnung der EU zur Regelung von Künstlicher Intelligenz. Zweck der KI‑Verordnung ist es, die Einführung einer auf den Menschen ausgerichteten KI in Europa zu fördern und dabei ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die Grundrechte der Bürger sicherzustellen (Artikel 1 KI‑VO). Dazu definiert die Verordnung KI‑Anwendungsszenarien, die von vornherein verboten sind und solche, die voraussichtlich mit einem „hohen Risiko“ einhergehen und daher besondere Sorgfalt erfordern.

Wann tritt die KI‑Verordnung in Kraft?

Am 12. Juli 2024 wurde die KI-Verordnung im Amtsblatt der EU veröffentlicht. Sie tritt 20 Tage nach ihrer Veröffentlichung am 1. August 2024 in Kraft. Die Regeln für verbotene KI‑Praktiken gelten gemäß Artikel 113 KI‑VO schon nach 6 Monaten, die meisten anderen Regeln nach entweder 1 oder 2 Jahren. Vorgaben und Pflichten für Hochrisiko-KI‑Systeme gelten nach 3 Jahren.

Welche Arten von KI gibt es in der KI‑Verordnung?

In der KI-Verordnung gibt es 3 Arten von KI. Diese werden anhand des Risikos unterschieden, das von ihnen für die Sicherheit und Grundrechte von Menschen ausgeht. Die 3 Arten von KI sind:

Verbotene KI‑Systeme (Artikel 5):
Einige KI‑Systeme sind unvereinbar mit den Werten der Europäischen Union und daher verboten. Das sind z.B. solche, die eine zukünftige Straffälligkeit von Personen vorhersagen sollen.
Hochrisiko-KI‑Systeme (Artikel 6):
Hochrisiko-KI‑Systeme müssen strenge Auflagen erfüllen, bevor ihr Einsatz zugelassen ist. Hierunter fallen z.B. KI bei Chirurgie-Robotern.
KI‑Systeme mit minimalem oder keinem Risiko
KI‑Systemen mit minimalem Risiko reguliert die KI-Verordnung nicht. In diese Kategorie fallen z.B. Spamfilter oder KI‑fähige Videospiele.

Wen betrifft die KI-Verordnung?

Die KI-Verordnung gilt für private Organisationen und Behörden und betrifft laut Artikel 2 KI‑VO fünf Gruppen:

Anbieter,
Betreiber,
Einführer und Händler,
Produkthersteller und
betroffene Personen.

Die KI-Verordnung gilt ausdrücklich nicht für Privatpersonen, sofern sie KI‑Systeme zu rein privaten (in Abgrenzung zu beruflichen) Zwecken verwenden. Zudem gibt es weitere Ausnahmen für die Wissenschaft zu Entwicklungs- und Forschungszwecken, das Militär, Verteidigung und die nationale Sicherheit.

Wo gilt die KI-Verordnung?

Die KI-Verordnung gilt in der Europäischen Union. Ob und wann die KI-Verordnung auch für die EWR-Staaten gelten wird, ist noch unklar, da diese der Übernahme von EU-Vorschiften zustimmen müssen. Darüber hinaus gilt dies KI‑Verordnung auch in Nicht-EU-Ländern für Anbieter oder Betreiber von KI‑Systemen, die diese in der Union in Verkehr bringen oder wenn das hervorgebrachte Ergebnis der KI in der EU verwendet wird.

Was ist Hochrisiko-KI?

Eine Hochrisiko-KI ist gemäß Artikel 6 KI‑VO ein KI‑System, dessen konkreten Einsatz ein erhebliches Risiko der Beeinträchtigung von Gesundheit, Sicherheit oder einer nachteiligen Auswirkung auf die Grundrechte einzelner Personen birgt.

Dies ist einerseits der Fall, weil sie in Produkten oder deren Sicherheitskomponenten eingesetzt werden, die das EU-Recht sowieso schon streng reglementiert, wie z.B. Sicherheitsbauteile für Aufzüge oder Medizinprodukte. Andererseits ist dies der Fall, wenn sie auf bestimmte Art und Weise in Bereichen eingesetzt wird, die der Anhang III der Verordnung festlegt. Diese sind Biometrik, Kritische Infrastruktur, Allgemeine und berufliche Bildung, Beschäftigung, Personalmanagement, Zugänglichkeit und Inanspruchnahme grundlegender Dienste und Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Rechtspflege und demokratische Prozesse. Die EU-Kommission kann diese Liste anpassen, um so auf neue Gegebenheiten zu reagieren. Des Weiteren muss sie spätestens 18 Monate nach Inkrafttreten der KI‑Verordnung eine umfassende Liste mit praktischen Beispielen für Anwendungsfälle für KI‑Systeme veröffentlichen, die hochriskant oder nicht hochriskant sind.

Was ist die Definition von KI und was zählt dazu?

KI wird oft als eine Kombination von unterschiedlichen technischen Ansätzen und Methoden verstanden, die zum Ziel haben, Maschinen menschliche kognitive Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität, imitieren zu lassen. Eine allgemein gültige Definition hat sich noch nicht durchgesetzt und wird kontrovers diskutiert.

Auch die KI-Verordnung liefert eine Definition. KI sind demnach alle maschinengestützten Systeme, die für einen in wechselndem Maße autonomen Betrieb ausgelegt sind, die nach seiner Einführung anpassungsfähig sein können und die aus den erhaltenen Eingaben explizite oder implizite Ziele ableiten, wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorbringen können, die physische oder virtuelle Umgebungen beeinflussen können (Artikel 3 KI‑VO).

Diese Definition von KI ist sehr weit, da die meisten Voraussetzungen auch auf klassische Softwareprogramme zutreffen. Ausschlaggebend wird bei der Frage, ob es sich um eine KI handelt, daher meistens sein, ob das System für einen autonomen Betrieb ausgelegt ist.

Warum ist KI gefährlich? Ist KI eine Bedrohung?

KI kann eine Bedrohung für Menschen darstellen, indem sie deren Verhalten maßgeblich nachteilig beeinflusst. Zudem kann sie die Ursache für Diskriminierung oder andere ungerechtfertigte Eingriffe in deren Grundrechte sein. Dadurch können Schäden durch erhebliche nachteilige Auswirkungen auf deren physische und psychische Gesundheit oder auf finanzielle Interessen entstehen. Der europäische Gesetzgeber beschreibt daher in Artikel 5 KI‑VO Praktiken, die ein unannehmbares Risiko für Personen darstellen und daher in der EU verboten sind. Die Liste umfasst folgende Anwendungszwecke von KI‑Systemen:

Kognitive Verhaltensmanipulation
Ausnutzung von Situation, Schwäche oder Schutzbedürftigkeit einer Person
Sozialkredit-Systeme
Predictive Policing in Bezug auf einzelne Personen
Scraping von Gesichtsbildern zur Erstellung einer Gesichtserkennungsdatenbank
Erkennung von Emotionen am Arbeitsplatz oder in Bildungseinrichtungen
Biometrische Kategorisierung aufgrund von sensiblen Daten gemäß Art. 9 DSGVO
Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme (Gesichtserkennung) in der Öffentlichkeit zu Strafverfolgungszwecken, außer wenn diese für die in der Verordnung festgelegten Taten unbedingt erforderlich ist.

Die EU-Kommission wird Leitlinien veröffentlichen, in denen die verbotenen Praktiken näher eingegrenzt werden. Außerdem hat sie die Aufgabe, die Liste zu überprüfen. Dabei wirkt das KI‑Amt mit.