Risikostufen · Art. 5, 6, 50, 51

Fünf Stufen, eine Leiter.

Ein System steht auf einer Sprosse der Leiter; Transparenzpflichten und Pflichten für Modelle mit allgemeinem Verwendungszweck kommen obendrauf.

  1. 01Verbotene Praktiken

    Art. 5

    Praktiken, die die Verordnung vollständig untersagt. Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines solchen Systems ist unabhängig von der Rolle verboten.

    Was darunter fällt

    • Unterschwellige, manipulative oder täuschende Techniken, die das Verhalten verzerren und erheblichen Schaden verursachen (Art. 5 Abs. 1 Buchst. a)
    • Ausnutzung der Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage (Art. 5 Abs. 1 Buchst. b)
    • Social Scoring mit nachteiliger oder unverhältnismäßiger Behandlung (Art. 5 Abs. 1 Buchst. c)
    • Vorhersage von Straftaten allein aufgrund von Profiling oder Persönlichkeitsmerkmalen (Art. 5 Abs. 1 Buchst. d)
    • Ungezieltes Auslesen von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken (Art. 5 Abs. 1 Buchst. e)
    • Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f)
    • Biometrische Kategorisierung zur Ableitung von Rasse, politischen Meinungen, Gewerkschaftszugehörigkeit, Religion, Sexualleben oder sexueller Ausrichtung (Art. 5 Abs. 1 Buchst. g)
    • Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken außerhalb der aufgeführten Ausnahmen (Art. 5 Abs. 1 Buchst. h)
    • Ab dem 2. Dezember 2026: nicht einvernehmliche intime Deepfakes (Art. 5 Abs. 1 Buchst. ba) und Darstellungen sexuellen Kindesmissbrauchs (Art. 5 Abs. 1 Buchst. bb)

  2. 02Hochrisiko: Produkte nach Anhang I

    Art. 6 Abs. 1, Anhang I

    Ein KI-System, das Sicherheitsbauteil eines Produkts oder selbst ein Produkt ist, das unter die Harmonisierungsrechtsvorschriften der Union in Anhang I Abschnitt A fällt und nach diesen Vorschriften einer Konformitätsbewertung durch Dritte unterzogen werden muss.

    Was darunter fällt

    • Maschinen, Spielzeug, Aufzüge, Druckgeräte, Sportboote, Seilbahnen
    • Medizinprodukte und In-vitro-Diagnostika
    • Funkanlagen, Gasverbrauchseinrichtungen, persönliche Schutzausrüstung
    • Produkte nach Anhang I Abschnitt B (zivile Luftfahrt, Fahrzeuge, Schiffsausrüstung, Eisenbahn, land- und forstwirtschaftliche Fahrzeuge) folgen ihren eigenen sektoralen Vorschriften (Art. 2 Abs. 2)

  3. 03Hochrisiko: Bereiche nach Anhang III

    Art. 6 Abs. 2, Anhang III

    Ein KI-System, das in einem der acht in Anhang III aufgeführten Bereiche eingesetzt wird. Vorbehaltlich der Ausnahme nach Art. 6 Abs. 3 und stets hochriskant, wenn das System ein Profiling natürlicher Personen vornimmt.

    Was darunter fällt

    • Acht Bereiche: Biometrie; kritische Infrastruktur; allgemeine und berufliche Bildung; Beschäftigung; Zugang zu wesentlichen Diensten; Strafverfolgung; Migration, Asyl und Grenzkontrolle; Rechtspflege und demokratische Prozesse
    • Anforderungen der Art. 9 bis 15, Anbieterpflichten der Art. 16 bis 22, Betreiberpflichten der Art. 26 und 27
    • Gilt ab dem 2. Dezember 2027

  4. 04Transparenzpflichten

    Art. 50

    Systeme, die mit Menschen interagieren, synthetische Inhalte erzeugen, Emotionen erkennen oder biometrisch kategorisieren oder Deepfakes erzeugen, unterliegen Hinweis- und Kennzeichnungspflichten, zusätzlich zu jeder anderen Stufe.

    Was darunter fällt

    • Chatbots und Sprachassistenten müssen Personen mitteilen, dass sie mit einem KI-System interagieren (Art. 50 Abs. 1)
    • Erzeugte Audio-, Bild-, Video- und Textinhalte müssen in einem maschinenlesbaren Format gekennzeichnet werden (Art. 50 Abs. 2)
    • Betreiber informieren Personen, die Emotionserkennung oder biometrischer Kategorisierung ausgesetzt sind (Art. 50 Abs. 3)
    • Betreiber legen Deepfakes und KI-generierte Texte offen, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden (Art. 50 Abs. 4)
    • Gilt ab dem 2. August 2026; bestehende generative Systeme bis zum 2. Dezember 2026 (Art. 111 Abs. 4)

  5. 05KI-Modelle mit allgemeinem Verwendungszweck

    Art. 51 bis 56

    Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, mit zusätzlichen Pflichten für Modelle mit systemischem Risiko (vermutet oberhalb der Rechenschwelle nach Art. 51 Abs. 2).

    Was darunter fällt

    • Technische Dokumentation, Informationen für nachgelagerte Anbieter, Urheberrechtsstrategie, Zusammenfassung der Trainingsinhalte (Art. 53)
    • Modellbewertung, Risikominderung, Meldung von Vorfällen und Cybersicherheit für Modelle mit systemischem Risiko (Art. 55)
    • Gilt ab dem 2. August 2025; vorher in Verkehr gebrachte Modelle bis zum 2. August 2027 (Art. 111 Abs. 3)

  6. 06Minimales Risiko

    Art. 4, Art. 95

    Jedes andere KI-System. Die Verordnung stellt keine systemspezifischen Anforderungen; die Organisation schuldet weiterhin die KI-Kompetenz nach Art. 4 und kann freiwillige Verhaltenskodizes übernehmen.

    Was darunter fällt

    • Spamfilter, Bedarfsprognosen, interne Programmierassistenten, Bestandsoptimierung
    • Das System im Verzeichnis führen: Eine Änderung der Zweckbestimmung kann die Stufe ändern

Die acht Bereiche des Anhangs III

Ein für einen dieser Bereiche bestimmtes System ist hochriskant, sofern nicht die Ausnahme nach Art. 6 Abs. 3 greift, und stets hochriskant, wenn es Profiling vornimmt.

  1. Nr. 1

    Biometrie

    Biometrische Fernidentifizierung; biometrische Kategorisierung nach sensiblen Merkmalen; Emotionserkennung (soweit nicht nach Art. 5 verboten)

  2. Nr. 2

    Kritische Infrastruktur

    Sicherheitsbauteile bei der Verwaltung und dem Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs sowie der Wasser-, Gas-, Wärme- oder Stromversorgung

  3. Nr. 3

    Allgemeine und berufliche Bildung

    Zulassung oder Zuweisung; Bewertung von Lernergebnissen; Bestimmung des angemessenen Bildungsniveaus; Überwachung unzulässigen Verhaltens bei Prüfungen

  4. Nr. 4

    Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit

    Einstellung und Auswahl (gezielte Stellenanzeigen, Sichtung von Bewerbungen, Bewertung von Bewerbern); Entscheidungen über Beförderung, Kündigung oder Aufgabenzuweisung; Überwachung und Bewertung von Beschäftigten

  5. Nr. 5

    Zugang zu wesentlichen privaten und öffentlichen Diensten und Leistungen

    Anspruch auf öffentliche Unterstützungsleistungen; Kreditwürdigkeit und Bonitätsbewertung (außer Betrugserkennung); Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung; Triage und Disposition von Notrufen

  6. Nr. 6

    Strafverfolgung

    Bewertung des Risikos, Opfer zu werden; Lügendetektoren; Bewertung der Verlässlichkeit von Beweismitteln; Bewertung des Risikos der Straffälligkeit oder Rückfälligkeit (nicht allein auf Profiling gestützt); Profiling bei Aufdeckung und Ermittlung

  7. Nr. 7

    Migration, Asyl und Grenzkontrolle

    Lügendetektoren; Bewertung von Sicherheits-, Migrations- oder Gesundheitsrisiken einreisender Personen; Prüfung von Asyl-, Visum- oder Aufenthaltsanträgen; Identifizierung von Personen

  8. Nr. 8

    Rechtspflege und demokratische Prozesse

    Unterstützung von Justizbehörden bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften; Beeinflussung des Ergebnisses einer Wahl oder eines Referendums oder des Wahlverhaltens

Die Ausnahme nach Art. 6 Abs. 3

Ein System nach Anhang III gilt nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung der Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, auch indem es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Das ist der Fall, wenn eine der folgenden Bedingungen erfüllt ist:

Eine der folgenden Bedingungen muss erfüllt sein

  1. (a)das KI-System ist dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen
  2. (b)das KI-System ist dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern
  3. (c)das KI-System ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und soll die zuvor abgeschlossene menschliche Bewertung nicht ohne angemessene menschliche Überprüfung ersetzen oder beeinflussen
  4. (d)das KI-System ist dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist

Profiling-Regel

Ein in Anhang III aufgeführtes KI-System gilt immer als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt. Die Profiling-Regel geht jeder der genannten Bedingungen vor.

Dokumentation und RegistrierungEin Anbieter, der sich auf die Ausnahme beruft, dokumentiert seine Bewertung vor dem Inverkehrbringen oder der Inbetriebnahme (Art. 6 Abs. 4) und registriert das System nach Art. 49 Abs. 2.

Anhang I: der Produktweg

Anhang I führt Harmonisierungsrechtsvorschriften der Union auf. Produkte nach Abschnitt A (zum Beispiel Maschinen, Spielzeug, Aufzüge, Medizinprodukte, Funkanlagen) fallen in die Hochrisiko-Stufe, wenn das KI-System Sicherheitsbauteil oder das Produkt selbst ist und eine Konformitätsbewertung durch Dritte vorgeschrieben ist. Produkte nach Abschnitt B (Luftfahrt, Fahrzeuge, Schiffsausrüstung, Eisenbahn) bleiben unter ihren sektoralen Rechtsakten, die die Anforderungen der Verordnung integrieren (Art. 2 Abs. 2).

Verordnung (EU) 2024/1689 in der Fassung der Verordnung (EU) 2026/1744; Fristen nach Art. 113 und Art. 111. Korpus-Snapshot 02024R1689-20260727. Information, keine Rechtsberatung.

Beginnen Sie mit einem KI-System.

Führen Sie die kostenlose Prüfung durch, übernehmen Sie das Ergebnis als ersten Eintrag Ihres Verzeichnisses und laden Sie Ihr Team ein, wenn Sie so weit sind.

Ein KI-System kostenlos prüfenKonto erstellen