AIA

Verordnung über künstliche Intelligenz

Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)

Vom 12.7.2024 (ABl. L, 2024/1689, 12.7.2024)

Geltungsbereich: Europa (EU)

[Erwägungsgründe]

Kapitel I

ALLGEMEINE BESTIMMUNGEN

Art. 1Gegenstand

Art. 2Anwendungsbereich

Art. 3Begriffsbestimmungen

Art. 4KI-Kompetenz

Kapitel II

VERBOTENE PRAKTIKEN IM KI-BEREICH

Art. 5Verbotene Praktiken im KI-Bereich

Kapitel III

HOCHRISIKO-KI-SYSTEME

Abschnitt 1

Einstufung von KI-Systemen als Hochrisiko-KI-Systeme

Art. 6Einstufungsvorschriften für Hochrisiko-KI-Systeme

Art. 7Änderungen des Anhangs III

Abschnitt 2

Anforderungen an Hochrisiko-KI-Systeme

Art. 8Einhaltung der Anforderungen

Art. 9Risikomanagementsystem

Art. 10Daten und Daten-Governance

Art. 11Technische Dokumentation

Art. 12Aufzeichnungspflichten

Art. 13Transparenz und Bereitstellung von Informationen für die Betreiber

Art. 14Menschliche Aufsicht

Art. 15Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3

Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter

Art. 16Pflichten der Anbieter von Hochrisiko-KI-Systemen

Art. 17Qualitätsmanagementsystem

Art. 18Aufbewahrung der Dokumentation

Art. 19Automatisch erzeugte Protokolle

Art. 20Korrekturmaßnahmen und Informationspflicht

Art. 21Zusammenarbeit mit den zuständigen Behörden

Art. 22Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen

Art. 23Pflichten der Einführer

Art. 24Pflichten der Händler

Art. 25Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Art. 26Pflichten der Betreiber von Hochrisiko-KI-Systemen

Art. 27Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme

Abschnitt 4

Notifizierende Behörden und notifizierte Stellen

Art. 28Notifizierende Behörden

Art. 29Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Art. 30Notifizierungsverfahren

Art. 31Anforderungen an notifizierte Stellen

Art. 32Vermutung der Konformität mit den Anforderungen an notifizierte Stellen

Art. 33Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen

Art. 34Operative Pflichten der notifizierten Stellen

Art. 35Identifizierungsnummern und Verzeichnisse notifizierter Stellen

Art. 36Änderungen der Notifizierungen

Art. 37Anfechtungen der Kompetenz notifizierter Stellen

Art. 38Koordinierung der notifizierten Stellen

Art. 39Konformitätsbewertungsstellen in Drittländern

Abschnitt 5

Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Art. 40Harmonisierte Normen und Normungsdokumente

Art. 41Gemeinsame Spezifikationen

Art. 42Vermutung der Konformität mit bestimmten Anforderungen

Art. 43Konformitätsbewertung

Art. 44Bescheinigungen

Art. 45Informationspflichten der notifizierten Stellen

Art. 46Ausnahme vom Konformitätsbewertungsverfahren

Art. 47EU-Konformitätserklärung

Art. 48CE-Kennzeichnung

Art. 49Registrierung

Kapitel IV

TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME

Art. 50Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

Kapitel V

KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK

Abschnitt 1

Einstufungsvorschriften

Art. 51Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko

Art. 52Verfahren

Abschnitt 2

Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 53Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 54Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Abschnitt 3

Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Art. 55Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko

Abschnitt 4

Praxisleitfäden

Art. 56Praxisleitfäden

Kapitel VI

MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG

Art. 57KI-Reallabore

Art. 58Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise

Art. 59Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor

Art. 60Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren

Art. 61Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren

Art. 62Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen

Art. 63Ausnahmen für bestimmte Akteure

Kapitel VII

GOVERNANCE

Abschnitt 1

Governance auf Unionsebene

Art. 64Büro für Künstliche Intelligenz

Art. 65Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz

Art. 66Aufgaben des KI-Gremiums

Art. 67Beratungsforum

Art. 68Wissenschaftliches Gremium unabhängiger Sachverständiger

Art. 69Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten

Abschnitt 2

Zuständige nationale Behörden

Art. 70Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle

Kapitel VIII

EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME

Art. 71EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme

Kapitel IX

BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG

Abschnitt 1

Beobachtung nach dem Inverkehrbringen

Art. 72Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme

Abschnitt 2

Austausch von Informationen über schwerwiegende Vorfälle

Art. 73Meldung schwerwiegender Vorfälle

Abschnitt 3

Durchsetzung

Art. 74Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Art. 75Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck

Art. 76Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden

Art. 77Befugnisse der für den Schutz der Grundrechte zuständigen Behörden

Art. 78Vertraulichkeit

Art. 79Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen

Art. 80Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden

Art. 81Schutzklauselverfahren der Union

Art. 82Konforme KI-Systeme, die ein Risiko bergen

Art. 83Formale Nichtkonformität

Art. 84Unionsstrukturen zur Unterstützung der Prüfung von KI

Abschnitt 4

Rechtsbehelfe

Art. 85Recht auf Beschwerde bei einer Marktüberwachungsbehörde

Art. 86Recht auf Erläuterung der Entscheidungsfindung im Einzelfall

Art. 87Meldung von Verstößen und Schutz von Hinweisgebern

Abschnitt 5

Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 88Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Art. 89Überwachungsmaßnahmen

Art. 90Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken

Art. 91Befugnis zur Anforderung von Dokumentation und Informationen

Art. 92Befugnis zur Durchführung von Bewertungen

Art. 93Befugnis zur Aufforderung zu Maßnahmen

Art. 94Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck

Kapitel X

VERHALTENSKODIZES UND LEITLINIEN

Art. 95Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen

Art. 96Leitlinien der Kommission zur Durchführung dieser Verordnung

Kapitel XI

BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN

Art. 97Ausübung der Befugnisübertragung

Art. 98Ausschussverfahren

Kapitel XII

SANKTIONEN

Art. 99Sanktionen

Art. 100Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union

Art. 101Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Kapitel XIII

SCHLUSSBESTIMMUNGEN

Art. 102Änderung der Verordnung (EG) Nr. 300/2008

Art. 103Änderung der Verordnung (EU) Nr. 167/2013

Art. 104Änderung der Verordnung (EU) Nr. 168/2013

Art. 105Änderung der Richtlinie 2014/90/EU

Art. 106Änderung der Richtlinie (EU) 2016/797

Art. 107Änderung der Verordnung (EU) 2018/858

Art. 108Änderungen der Verordnung (EU) 2018/1139

Art. 109Änderung der Verordnung (EU) 2019/2144

Art. 110Änderung der Richtlinie (EU) 2020/1828

Art. 111Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck

Art. 112Bewertung und Überprüfung

Art. 113Inkrafttreten und Geltungsbeginn

Anhang IListe der Harmonisierungsrechtsvorschriften der Union

Anhang IIListe der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii

Anhang IIIHochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2

Anhang IVTechnische Dokumentation gemäß Artikel 11 Absatz 1

Anhang VEU-Konformitätserklärung

Anhang VIKonformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle

Anhang VIIKonformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation

Anhang VIIIBei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen

Anhang IXBezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen

Anhang XRechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts

Anhang XITechnische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a – technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Anhang XIITransparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b – technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das Modell in ihr KI-System integrieren

Anhang XIIIKriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gemäß Artikel 51

Teste LX Pro.

LX Gesetze auf allen Geräten nutzen

Teste LX Pro auf all deinen Geräten – kostenlos und unverbindlich.
Zugriff auf alle Gesetze und Funktionen.
Der Probemonat endet automatisch.

Jetzt Probemonat starten

Du hast schon ein Nutzerkonto?
Hier einloggen.

Alle Gesetze.
Ein Preis.

LX Gesetze auf allen Geräten nutzen

Mit LX Pro Zugriff auf alle Gesetze und Funktionen.
Zugang endet automatisch – keine Kündigung nötig.

LX Pro aktivieren ×