Art. 26 Abs. 11 KI-VO: Hochrisiko-KI entscheidet mit? Betreiber muss betroffene Personen informieren!

Die Nutzung biometrischer Daten wie Gesichtserkennung oder Stimmerkennung gilt als besonders sensibel und risikobehaftet. Aus diesem Grund regelt Artikel 26 Absatz 11 der KI-VO (KI-VO) eine zentrale Pflicht: Betreiber müssen betroffene Personen darüber informieren, wenn ein Hochrisiko-KI-System mithilfe biometrischer Daten Entscheidungen trifft oder an ihnen mitwirkt.

Art. 26 Abs. 11 betrifft sogenannte biometrische Kategorisierungssysteme. Dabei handelt es sich um KI-Systeme, die Menschen anhand körperlicher Merkmale wie Gesicht, Stimme, Gang oder Fingerabdruck einer bestimmten Gruppe zuordnen – z. B. nach Alter, Geschlecht oder ethnischer Herkunft. Aber auch solche betreffend die kritischen Infrastrukturen oder die Bereiche beruflicher Bildung sind gemeint. (1)

Die Vorschrift verpflichtet Betreiber dazu, darauf hinzuweisen, dass ein solches System verwendet wird, also die Zweckbestimmung betreffend. Diese Information muss vor oder spätestens beim Kontakt mit dem System erfolgen. Ziel ist es, den betroffenen Personen bewusstes Handeln und ggf. Widerspruch zu ermöglichen.

Die Regelung stärkt damit das Prinzip der informierten Einwilligung, schützt vor verdecktem Einsatz sensibler KI-Technologien und setzt ein klares Zeichen für Transparenz und Achtung der Grundrechte.

Übrigens: Werden hochriskante KI-Systeme für die Strafverfolgung eingesetzt, dann gilt Artikel 13 der Richtlinie (EU) 2016/680.

(Quellenangaben:
1 Vgl.: BeckOK KI-Recht/Denga KI-VO Art. 26 Rn. 119-122)