Was ist erklärbare KI (XAI)?

Und wie hängt XAI mit dem AI Act zusammen? Erklärbare KI (engl. Explainable AI, XAI) beschreibt Systeme der Künstlichen Intelligenz (KI), deren Entscheidungsprozesse für Menschen nachvollziehbar und verständlich sind. Viele leistungsstarke KI-Modelle, insbesondere tiefe neuronale Netze, treffen zwar akkurate Entscheidungen, doch deren innere Mechanismen, zum Beispiel bei Deep-Learning-Systemen, bleiben oft intransparent.

Diese „Black Box“-Problematik erschwert das Verständnis, warum eine KI zu einem bestimmten Ergebnis kommt. XAI soll dieses Problem mittels spezieller Techniken und Methoden lösen. Kurzum: XAI hilft uns dabei, zu verstehen, warum wir diese oder jene Ergebnisse durch die KI erhalten.

Der Zusammenhang zwischen XAI und dem AI Act

Der AI Act der EU regelt die Entwicklung, den Einsatz und die Überwachung von KI-Systemen und unterteilt sie nach ihrem Risiko in vier Kategorien: unzulässige, hochriskante, begrenzt riskante und minimale Risiko-KI. Je höher das Risiko, desto strenger sind die Anforderungen an Transparenz und Erklärbarkeit. Ohne erklärbare KI wäre es kaum möglich, diese Vorgaben einzuhalten.

Erklärbarkeit im AI Act spielt zentrale Rolle

Hochrisiko-KI-Systeme: Systeme, die in sicherheitskritischen Bereichen wie Medizin, Justiz oder Verkehr eingesetzt werden, müssen laut EU AI Act nachvollziehbare Entscheidungen treffen. Ohne erklärbare KI könnten solche Systeme nicht regulatorisch zugelassen werden.

Weitere Gründe, warum KI erklärbar sein muss:

1. Recht auf Erklärungen: Der AI Act verlangt, dass Nutzende verstehen können, wie und warum eine KI eine Entscheidung getroffen hat, insbesondere wenn diese schwerwiegende Konsequenzen hat.
2. Verantwortlichkeit und Transparenz: Entwickler und Anbieter müssen nachweisen, dass ihre KI-Systeme fair und nachvollziehbar arbeiten. Erklärbare KI ist ein entscheidendes Werkzeug, um diesen Nachweis zu erbringen und die Black-Box-Problematik zu vermeiden.
3. Auditierbarkeit: KI-Systeme müssen überprüfbar sein, damit ihre Entscheidungen im Nachhinein analysiert und bewertet werden können. Spezielle XAI-Techniken leisten hierzu einen wichtigen Beitrag.

Erklärbare KI: Grundvoraussetzung für Vertrauen & Regulierung

Da der AI Act hohe Anforderungen an Nachvollziehbarkeit und Transparenz stellt, ist erklärbare KI eine wesentliche Voraussetzung für die Einhaltung der gesetzlichen Vorgaben. XAI soll also dabei helfen, dass die Entscheidungsgründe der KIs eben nicht in einer Art Black Box verschwinden.

Vertiefende Infos zu XAI:

• Kompetenzzentrum Öffentliche IT 
• Bei IBM erklärt
• Bei Wikipedia erklärt