Art. 13 KI-Gesetz Transparenz und Bereitstellung von Informationen für die Betreiber

  1. Hochrisiko-KI‑Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend transparent ist, damit die Betreiber die Ausgaben eines Systems angemessen interpretieren und verwenden können. Die Transparenz wird auf eine geeignete Art und in einem angemessenen Maß gewährleistet, damit die Anbieter und Betreiber ihre in Abschnitt 3 festgelegten einschlägigen Pflichten erfüllen können.
  2. Hochrisiko-KI‑Systeme werden mit Betriebsanleitungen in einem geeigneten digitalen Format bereitgestellt oder auf andere Weise mit Betriebsanleitungen versehen, die präzise, vollständige, korrekte und eindeutige Informationen in einer für die Betreiber relevanten, barrierefrei zugänglichen und verständlichen Form enthalten.
  3. Die Betriebsanleitungen enthalten mindestens folgende Informationen:
    1. den Namen und die Kontaktangaben des Anbieters sowie gegebenenfalls seines Bevollmächtigten;
    2. die Merkmale, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI‑Systems, einschließlich
      1. seiner Zweckbestimmung,
      2. des Maßes an Genauigkeit – einschließlich diesbezüglicher Metriken –, Robustheit und Cybersicherheit gemäß Artikel 15, für das das Hochrisiko-KI‑System getestet und validiert wurde und das zu erwarten ist, sowie aller bekannten und vorhersehbaren Umstände, die sich auf das erwartete Maß an Genauigkeit, Robustheit und Cybersicherheit auswirken können;
      3. aller bekannten oder vorhersehbaren Umstände bezüglich der Verwendung des Hochrisiko-KI‑Systems im Einklang mit seiner Zweckbestimmung oder einer vernünftigerweise vorhersehbaren Fehlanwendung, die zu den in Artikel 9 Absatz 2 genannten Risiken für die Gesundheit und Sicherheit oder die Grundrechte führen können,
      4. gegebenenfalls der technischen Fähigkeiten und Merkmale des Hochrisiko-KI‑Systems, um Informationen bereitzustellen, die zur Erläuterung seiner Ausgaben relevant sind;
      5. gegebenenfalls seiner Leistung in Bezug auf bestimmte Personen oder Personengruppen, auf die das System bestimmungsgemäß angewandt werden soll;
      6. gegebenenfalls der Spezifikationen für die Eingabedaten oder sonstiger relevanter Informationen über die verwendeten Trainings-, Validierungs- und Testdatensätze, unter Berücksichtigung der Zweckbestimmung des Hochrisiko-KI‑Systems;
      7. gegebenenfalls Informationen, die es den Betreibern ermöglichen, die Ausgabe des Hochrisiko-KI‑Systems zu interpretieren und es angemessen zu nutzen;
    3. etwaige Änderungen des Hochrisiko-KI‑Systems und seiner Leistung, die der Anbieter zum Zeitpunkt der ersten Konformitätsbewertung vorab bestimmt hat;
    4. die in Artikel 14 genannten Maßnahmen zur Gewährleistung der menschlichen Aufsicht, einschließlich der technischen Maßnahmen, die getroffen wurden, um den Betreibern die Interpretation der Ausgaben von Hochrisiko-KI‑Systemen zu erleichtern;
    5. die erforderlichen Rechen- und Hardware-Ressourcen, die erwartete Lebensdauer des Hochrisiko-KI‑Systems und alle erforderlichen Wartungs- und Pflegemaßnahmen einschließlich deren Häufigkeit zur Gewährleistung des ordnungsgemäßen Funktionierens dieses KI‑Systems, auch in Bezug auf Software-Updates;
    6. gegebenenfalls eine Beschreibung der in das Hochrisiko-KI‑System integrierten Mechanismen, die es den Betreibern ermöglicht, die Protokolle im Einklang mit Artikel 12 ordnungsgemäß zu erfassen, zu speichern und auszuwerten.