Registrierungspflicht für hochriskante KI-Systeme in der EU-Datenbank gem. Art. 49 KI-VO

Mit Art. 49 legt die KI-VO ein zentrales Transparenz- und Überwachungsinstrument fest: die Pflicht zur Registrierung für hochriskante KI-Systeme in der EU-Datenbank (gem. Art. 71 KI-VO). Verantwortlich dafür wird die EU-Kommission sein. Zum einen möchte der Verordnungsgeber dadurch erreichen, dass Marktüberwachungsbehörden es leichter haben, die Systeme zu überwachen; zum anderen soll diese Pflicht für mehr Transparenz sorgen. (1)

Was gilt für wen?

Die Pflicht zur Eintragung in der EU-Datenbank richtet sich an Anbieter oder Bevollmächtigte von Hochrisiko-KI. An Betreiber aber nur, wenn diese Behörden sind. Die Registrierung muss selbstständig vorgenommen werden, bevor KI-Systeme auf den Markt beziehungsweise in Betrieb kommen.

Bei KI-Systemen in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement, findet eine Registrierung in einem nicht öffentlichen Teil der Datenbank statt.

Von der Pflicht zur Registrierung in der EU-Datenbank ausgenommen sind KI-Systeme, die in kritischen Infrastrukturen, also beispielsweise im Straßenverkehr oder bei der Stromversorgung, zum Einsatz kommen. Denn diese werden nicht EU-weit, sondern national registriert.

Öffentliche Einsicht

Da durch die Pflicht zur Registrierung die meisten hochriskanten KI-Systeme öffentlich einsehbar werden, wird sich auch die allgemeine Bevölkerung einen Überblick dazu verschaffen können. Das ist grundsätzlich gut, denn bestenfalls führt diese Maßnahme dazu, dass sich Interessierte mit dieser Thematik auseinandersetzen und das Vertrauen auch in Hochrisiko-KI erhöht werden kann.

Es gibt aber auch kritische Stimmen, da aktuell nicht klar ist, was geschieht, wenn in der Datenbank KI-Systeme registriert werden, die nicht alle Anforderungen an Hochrisiko-KI laut der KI-VO einhalten. (2) Schließlich könnte bei der interessierten Bevölkerung allein durch die Registrierung des Hochrisiko-KI-Systems in einer offiziellen EU-Datenbank ein potenziell falscher guter Eindruck entstehen.

(Quellenangaben:
1 Vgl.: BeckOK KI-Recht/Steege KI-VO Art. 49 Rn. 1, 2
2 Vgl. ebd.)