Was bedeuten die drei Punkte Genauigkeit, Robustheit und Cybersicherheit gemäß Art. 15 KI-VO?

Die EU-KI-Verordnung will den sicheren und verantwortungsvollen Einsatz von KI-Systemen fördern. Artikel 15 trägt genau dazu bei, indem er dauerhaft, also während ihrer gesamten Existenzzeit, klare Anforderungen an Anbieter von Hochrisiko-KI-Systemen in puncto Genauigkeit, Robustheit und Cybersicherheit dieser Systeme stellt. Doch was heißt das konkret?

Genauigkeit: So präzise wie möglich

KI-Systeme müssen verlässliche sowie vertrauenswürdige Ergebnisse liefern. Der Punkt Genauigkeit ist allerdings in der KI-VO nicht detailliert ausgeführt, aber man kann ein Beispiel zum besseren Verständnis heranziehen: Angenommen, es wird ein KI-System zur Erkennung von Krebs in Röntgenbildern eingesetzt. Dieses muss so verlässlich und genau eine Diagnose erstellen können, die in etwa 95 % entspräche, sofern es ein ähnliches System-Niveau bereits geben würde. Also muss die Genauigkeit der Diagnose so hoch wie möglich sein. Fehldiagnosen oder nicht gesehene Krebskrankheiten müssen weitestgehend minimiert sein. Je nach Anwendungsbeispiel gelten aber auch andere Zweckbestimmungen und somit verschiedene Risikoklassen. (1)

Robustheit: Fehlern standhalten

KI-Systeme, insbesondere hochriskante KIs, muss auch unter „schwierigen Bedingungen“ stabil bleiben. Sie dürfen nicht einfach ausfallen oder falsche Entscheidungen treffen, wenn sie mit Störungen, schlechten oder manipulierten Daten oder ungewöhnlichen Situationen zu tun haben. Störungen können dabei sowohl technischer als auch menschlicher Art sein wie beispielsweise eine Netzstörung oder ein menschlicher Fehler. (2) Robustheit heißt also: Die KI hält Belastungen aus und funktioniert sicher, selbst wenn nicht alles ideal läuft.

Cybersicherheit: Schutz gegen Angriffe von außen

KI-Systeme müssen so gebaut sein, dass sie gegen Angriffe von außen geschützt sind. Hacker oder böswillige Angreifer dürfen das System nicht leicht manipulieren, lahmlegen und schon gar nicht übernehmen können. Dazu gehören Schutzmaßnahmen gegen Datendiebstahl, Sabotage oder Manipulation von Ergebnissen. Schwachstellen müssen frühzeitig erkannt und abgesichert werden.

Hand in Hand: Robustheit, Cybersicherheit und Ethik

Im Grunde genommen bedeuten alle drei Worte, dass bestimmte Sicherheitsmechanismen von der Entwicklung an in KI-Systeme integriert werden müssen, um Risiken – vor allem bei Hochrisiko-KI – vorzubeugen und zu vermeiden. Sie sollen Grundrechte schützen und lehnen sich auch an die im Jahr 2019 veröffentlichten „Ethik-Leitlinien für eine vertrauenswürdige KI“. (3)

(Quellenangaben:
1 Vgl.: BeckOK KI-Recht/Buchner KI-VO Art. 15 Rn. 31-33
2 Vgl. ebd. KI-VO Art. 15 Rn. 34, 35
3 Vgl. ebd. KI-VO Art. 15 Rn. 7, 8)