Erwägungsgründe

Die Verordnung über künstliche Intelligenz (KI‑VO) wurde in Erwägung der nachstehenden Gründe verabschiedet.

(1)Zweck der Verordnung
(2)Einklang mit den Werten der Union
(3)Einheitliches Schutzniveau
(4)Künstliche Intelligenz
(5)Risiken und Schäden
(6)Menschenzentrierte Technologie
(7)Hochrisiko-KI-Systeme
(8)Rechtsrahmen mit harmonisierten Vorschriften
(9)Anwendbarkeit bestehender Rechte und Rechtsbehelfe
(10)Grundrecht auf Schutz personenbezogener Daten
(11)Verantwortlichkeit der Vermittler der Richtlinie 2000/31/EG
(12)KI-System
(13)Betreiber
(14)Biometrische Daten
(15)Biometrische Identifizierung
(16)Biometrische Kategorisierung
(17)Biometrisches Fernidentifizierungssystem
(18)Emotionserkennungssystem
(19)Öffentlich zugänglicher Raum
(20)Ausstattung mit notwendigen Konzepten
(21)Anwendung auf Anbieter und Betreiber
(22)Anwendung auf Akteure im Drittland
(23)Anwendung auf EU-Organe, Einrichtungen und sonstige Stellen
(24)Ausnahme der Bereiche Militär, Verteidigung und nationale Sicherheit
(25)Ausnahme wissenschaftlicher Forschungs- und Entwicklungstätigkeiten
(26)Risikobasierter Ansatz
(27)Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI
(28)Verbot schädlicher und missbräuchlicher Verwendung
(29)KI-gestützter Einfluss auf menschliches Verhalten
(30)KI-Systeme zur biometrischen Kategorisierung
(31)KI-Systeme zur sozialen Bewertung
(32)KI-Systeme zur biometrischen Echtzeit-Fernidentifizierung
(33)Biometrische Echtzeit-Fernidentifizierungssysteme für Strafverfolgungszwecke
(34)Grundrechte-Folgenabschätzung
(35)Genehmigungspflicht
(36)Unterrichtung zuständiger Behörden
(37)Übernahme in nationale Rechtsvorschriften
(38)Verwendung und Verarbeitung biometrischer Daten
(39)Anwendbarkeit der Richtlinie (EU) 2016/680
(40)Eingeschränkte Bindungswirkung für Irland
(41)Eingeschränkte Bindungswirkung für Dänemark
(42)Unschuldsvermutung und Profiling
(43)Verbot von KI-Gesichtserkennung zur Massenüberwachung
(44)Risiken und Grenzen emotionserkennender KI-Systeme
(45)Unzulässige Praktiken nach EU-Recht bleiben unberührt
(46)Verbindliche Sicherheitsanforderungen für Hochrisiko-KI-Systeme in der EU
(47)Risikominimierung bei KI-Systemen für Gesundheit und Sicherheit
(48)Grundrechte und Risikoeinschätzung von KI-Systemen
(49)Anpassung von Rechtsvorschriften für Hochrisiko-KI-Systeme in sicherheitsrelevanten Produkten und Systemen
(50)Hochrisiko-Einstufung für KI-Sicherheitsprodukte
(51)Hochrisiko-KI-Systeme und Produktrisiko
(52)Klassifizierung und Regulierung von Hochrisiko-KI-Systemen
(53)Ergänzung menschlicher Tätigkeit und Mustererkennung
(54)Risikobewertung und Anwendungsfälle für biometrische Systeme
(55)Hochrisiko-KI-Systeme der kritischen Infrastruktur
(56)Hochrisiko-KI-Systeme im Bildungswesen
(57)Hochrisiko-KI-Systeme in Beschäftigung und Personalwesen
(58)Hochrisiko-KI-Systeme in sozialer Leistung, Kreditwürdigkeit und Notfällen
(59)Hochrisiko-KI-Systeme in der Strafverfolgung
(60)Hochrisiko-KI-Systeme in Migration und Asyl
(61)Hochrisiko-KI-Systeme in der Rechtspflege
(62)Hochrisiko-KI-Systeme bei Wahlen
(63)Rechtmäßigkeit
(64)Konformität mit sonstigem Unionsrecht
(65)Risikomanagementsystem
(66)Anwendungsbereiche der Anforderungen
(67)Daten-Governance- und Datenverwaltungsverfahren
(68)Zugang zu hochwertigen Daten
(69)Datenschutz
(70)Verarbeitung besonderer Kategorien personenbezogener Daten
(71)Dokumentation der Entwicklung
(72)Transparenz bei Hochrisiko-KI-Systemen
(73)Überwachung durch natürliche Personen
(74)Leistungskennzahlenniveau
(75)Resilienz von Hochrisiko-KI-Systemen
(76)Angemessenes Cybersicherheitsniveau
(77)Anforderungen an die Cybersicherheit aus der Verordnung
(78)Konformitätsbewertung
(79)Bestimmtheit des Anbieters
(80)Besonderer Schutz und Gleichstellung von Menschen mit Behinderungen
(81)Einrichtung eines Qualitätsmanagements
(82)Gleiche Wettbewerbsbedingungen für Akteure
(83)Präzisierung der Rollen und Pflichten von Akteuren in der Wertschöpfungskette
(84)Pflichtenerweiterung auf Händler, Einführer, Betreiber oder andere Dritte als Anbieter von Hochrisiko-KI-Systemen
(85)Zusammenarbeit der Anbieter von Hochrisiko-KI-Systemen entlang der Wertschöpfungskette und mit Behörden
(86)Pflicht zur Zusammenarbeit ehemaliger Anbieter
(87)Pflichten bei Hochrisiko-KI-System als Sicherheitskomponente eines Produktes
(88)Schriftliche Vereinbarung über Bereitstellung von Informationen
(89)Freistellung von Verantwortlichkeiten in der Wertschöpfungskette und Förderung vertrauenswürdiger KI
(90)Ausarbeitung von freiwilligen Mustervertragsbedingungen durch die Kommission
(91)Festlegung besonderer Zuständigkeiten und Pflichten für Betreiber
(92)Pflicht der Arbeitgeber, Arbeitnehmer oder ihre Vertreter zu unterrichten und anzuhören
(93)Unterrichtung und Information der Betroffenen durch den Betreiber
(94)Anwendung RL (EU) 2016/680 bei Verwendung von KI-Systemen für die biometrische Identifizierung zu Strafverfolgungszwecken
(95)Einhaltung von Schutzvorkehrungen bei nachträglicher biometrischer Fernidentifizierung
(96)Durchführung Grundrechte-Folgenabschätzung und weitere Folgemaßnahmen
(97)Genaue Begriffsbestimmung einzelner KI-Modelle
(98)Modellbestimmung anhand von Parametern
(99)Beispiel für KI-Modell mit allgemeinem Verwendungszweck
(100)Weitere Fälle eines KI-Modells mit allgemeinem Verwendungszweck
(101)Transparenzpflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
(102)Transparenzpflichten für KI-Modelle mit allgemeinem Verwendungszweck und freier und quelloffener Lizenz
(103)Begriff KI-Modell mit allgemeinem Verwendungszweck und freier und quelloffener Lizenz
(104)Ausnahmen für Transparenzpflichten für KI-Modelle mit allgemeinem Verwendungszweck und freier und quelloffener Lizenz
(105)Einsatz geschützter Inhalte für Entwicklung von KI-Modellen mit allgemeinem Verwendungszweck
(106)Strategie zur Einhaltung geltenden Rechts für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
(107)Transparenzpflichten bei Trainingsdaten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
(108)Pflichteneinhaltungskontrolle durch Amt für KI
(109)Verhältnismäßigkeit von Überwachungsmaßnahmen des Amts für KI
(110)Systemische Risiken von KI-Modellen mit allgemeinem Verwendungszweck
(111)Methodik zur Einstufung von KI-Modellen als systemisch riskant
(112)Erfassung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko beim Amt für KI
(113)Nachträgliche Ausweisung von KI-Modellen mit allgemeinem Verwendungszweck als systemsich riskant
(114)Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischen Risiken
(115)Meldepflicht für Risikoeintritte für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischen Risiken
(116)Verhaltenskodizes für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischen Risiken
(117)Schaffung harmonisierter Verhaltenskodizes durch EU-Kommission
(118)KI-Verordnung und Gesetz über digitale Dienste bei Einbettung von KI-Modellen in Plattformen und Suchmaschinen
(119)KI-Systeme als Vermittlungsdienste nach dem Gesetz über digitale Dienste
(120)Pflicht zur Ermittlung systemischer Risiken für KI-Modelle und Vermittlungsdienste
(121)Gemeinsame Spezifikationen der Kommission
(122)Übereinstimmung mit Cybersicherheitsanforderungen
(123)Konformitätsbewertung für Hochrisiko-KI-Systeme
(124)Konformitätsbewertung nach EU-Harmoniserungsvorschriften
(125)Eingeschränkte Konformitätsbewertung durch Dritte
(126)Verfahren für Anbieter von Konformitätsbewertungen
(127)Anerkennung von Konformitätsergebnissen aus Drittländern
(128)Erneute Konformitätsbewertung bei wesentlichen Systemänderungen
(129)CE-Kennzeichnung für Hochrisiko-KI-Systeme
(130)Genehmigung für Hochrisiko-KI-Systeme im öffentlichen Interesse
(131)Registrierungspflichten für Anbieter und Betreiber von Hochrisiko-KI-Systemen in EU-Datenbank
(132)Transparenzpflichten für KI-Systeme
(133)Kennzeichnungspflicht für KI-Ergebnisse
(134)Offenlegungspflicht künstlich erzeugter Inhalte
(135)Ausarbeitung von Verhaltenskodizes auf Unionsebene zur KI-Inhaltsüberprüfung
(136)Bedeutung von Transparenz für Umsetzung der KI-Verordnung
(137)Transparenz ersetzt keine Rechtmäßigkeit
(138)Einführung von Reallaboren zur Erprobung innovativer Systeme
(139)Ziele der KI-Reallabore
(140)Rechtsgrundlage für die Verwendung personenbezogener Daten zur Entwicklung von KI-Systemen im öffentlichen Interesse
(141)Voraussetzungen für das Testen von Hochrisiko-KI-Systemen unter realen Bedingungen
(142)Ermutigung der Förderung von Forschung und Entwicklung zu KI-Lösungen
(143)Besondere Berücksichtigung der Interessen von KMU
(144)Förderung und Schutz von Innovation
(145)Risikominimierung und Erleichterung der Pflichtenerfüllung bei der Umsetzung der Verordnung
(146)Erleichterung bei der Einführung eines Qualitätsmanagements für Kleinstunternehmen
(147)Erleichterung des Zugangs zu Test- und Versuchseinrichtungen für bestimmte Stellen
(148)Schaffung eines Governance-Rahmens
(149)Einrichtung eines Ausschusses
(150)Einrichtung eines Beratungsforums
(151)Einrichtung eines wissenschaftlichen Gremiums
(152)Einrichtung von Unionsstrukturen zur Unterstützung der Prüfung von KI-Systemen
(153)Einrichtung mindestens einer notifizierenden Behörde und einer Marktüberwachungsbehörde pro Mitgliedstaat
(154)Unabhängigkeit, Unparteilichkeit und Verschwiegenheit der zuständigen nationalen Behörden
(155)System zur Beobachtung von Hochrisiko-KI-Systemen und System zur Meldung schwerwiegender Vorfälle
(156)System der Marktüberwachung und der Konformität von Produkten
(157)Stellung von nationalen Behörden oder weiteren Stellen im Verhältnis zu den Regelungen dieser Verordnung
(158)Kohärente Anwendung und Durchsetzung der Pflichten bezüglich Finanzdienstleistungen
(159)Befugnisse von Marktüberwachungsbehörden für Hochrisiko-KI-Systeme im Bereich der biometrischen Daten
(160)Gemeinsame Tätigkeiten der Marktüberwachungsbehörden der Mitgliedstaaten bzw. der Kommission
(161)Präzisierung von Verantwortlichkeiten und Zuständigkeiten
(162)Synergien auf Unionsebene
(163)Unterstützung des Amts für KI durch wissenschaftliches Gremium
(164)Kompetenzen des Amts für KI
(165)Freiwillige Verhaltenskodizes
(166)Sicherheit von KI-Systemen ohne hohem Risiko
(167)Vertrauensvolle Zusammenarbeit der zuständigen Behörden
(168)Sicherstellung der Durchführung der Bestimmungen
(169)Geldbußen
(170)Rechtsbehelfe für natürliche und juristische Personen
(171)Erklärung über die Nutzung von Hochrisikosystemen
(172)Schutz von Hinweisgebern
(173)Übertragung von Befugnissen auf die Kommission
(174)Regelmäßige Bewertung und Überprüfung
(175)Durchführungsbefugnisse der Kommission
(176)Subsidiaritätsprinzip und Grundsatz der Verhältnismäßigkeit
(177)Gewährleistung der Kontinuität
(178)Freiwillige Einhaltung
(179)Zeitpunkt der Geltung
(180)Erlass der Verordnung
KI-VO Inhaltsverzeichnis