Wie erkenne ich, ob unser System Hochrisiko ist?

Ein KI-System ist hochriskant, wenn es entweder als Sicherheitsbauteil eines nach Annex I regulierten Produkts dient oder in einen der Anwendungsbereiche von Annex III fällt. Alles andere ist kein Hochrisiko-System — die Einstufung folgt der Liste, nicht dem Bauchgefühl.

Die Begründung: Artikel 6 kennt genau zwei Wege

Artikel 6 der Verordnung (EU) 2024/1689 definiert Hochrisiko abschließend über zwei Pfade. Beide sind unabhängig voneinander zu prüfen; einer reicht.

Pfad 1 — Produktsicherheit (Art. 6 Abs. 1, Annex I). Das KI-System ist Sicherheitsbauteil eines Produkts, das unter eine der in Annex I gelisteten Harmonisierungsvorschriften fällt — oder es ist selbst ein solches Produkt — und für dieses Produkt ist ohnehin eine Konformitätsbewertung durch Dritte vorgeschrieben. Typische Felder: Maschinen, Medizinprodukte, Aufzüge, Druckgeräte, Fahrzeuge, Spielzeug.

Pfad 2 — Anwendungsbereich (Art. 6 Abs. 2, Annex III). Das System wird in einem der acht gelisteten Bereiche eingesetzt: Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen privaten und öffentlichen Diensten, Strafverfolgung, Migration und Grenzkontrolle, Rechtspflege und demokratische Prozesse.

Die Gegenausnahme (Art. 6 Abs. 3). Ein System aus Annex III gilt trotzdem nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt — etwa weil es nur eine eng umgrenzte Verfahrensaufgabe erfüllt, ein zuvor abgeschlossenes menschliches Ergebnis verbessert, Entscheidungsmuster lediglich erkennt ohne sie zu ersetzen, oder eine vorbereitende Aufgabe wahrnimmt. Diese Ausnahme greift nie beim Profiling natürlicher Personen. Wer sich darauf beruft, muss die Bewertung dokumentieren und das System vor Inbetriebnahme registrieren — die Ausnahme ist also kein Freibrief, sondern eine begründungspflichtige Position.

Praktisch heißt das: Die Prüfung ist eine Listenprüfung mit anschließender Plausibilisierung, kein freies Risikourteil. Sie erfolgt pro System und pro Zweckbestimmung — dasselbe Modell kann in einem Kontext hochriskant sein und in einem anderen nicht.

Wenn-dann: typische Sonderfälle

• Ein Standard-Tool wird für HR-Entscheidungen zweckentfremdet: Maßgeblich ist die tatsächliche Zweckbestimmung, nicht das Produktlabel. Bewerber-Screening fällt unter Annex III Nr. 4.
• Das System unterstützt nur, entscheidet aber nicht: Das allein schließt Hochrisiko nicht aus. Entscheidend ist, ob das Ergebnis die Entscheidung über Personen maßgeblich beeinflusst.
• Sie ändern den Zweck eines eingekauften Systems wesentlich: Sie können nach Art. 25 selbst zum Provider werden — mit dessen vollem Pflichtenkatalog.
• Das System fällt unter Annex I, braucht aber keine Dritt-Konformitätsbewertung: Dann greift Pfad 1 nicht. Pfad 2 bleibt trotzdem zu prüfen.
• Kein Hochrisiko festgestellt: Transparenzpflichten nach Art. 50 und die KI-Kompetenzpflicht nach Art. 4 können dennoch gelten.

Weiterführend

Die vier Risikoklassen im Detail erklärt ki-risikostufe.de; konkrete Annex-III-Anwendungsfälle sind in der Use-Case-Bibliothek auf hochrisiko-ki.com aufgeschlüsselt. Den Gesamtkontext liefert der Leitfaden auf eu-ai-verordnung.de. Wer bereits eingestuft hat, findet die Rollenabgrenzung in unserer FAQ Was ist der Unterschied zwischen Provider und Deployer?.

AEGIRA AI Navigator macht die Einstufung je System nachvollziehbar und audit-ready dokumentierbar: aegira.ai.