KI-Modelle mit systemischem Risiko: Warum Cybersicherheit und robuste Infrastruktur zur Pflicht werden

Mit der neuen KI-Verordnung verfolgt die Europäische Union ein zentrales Ziel: Hoch entwickelte KI-Systeme mit allgemeinem Verwendungszweck – etwa große Sprachmodelle, multimodale Systeme oder generative Bild-KI – sollen nicht nur leistungsfähig, sondern auch sicher, verlässlich und verantwortungsvoll sein.

Neben Red-Teaming-Verfahren zur Risikoerkennung (Art. 55 lit. a KI-Verordnung) rückt dabei ein weiterer Aspekt zunehmend in den Fokus: die Gewährleistung eines angemessenen Maßes an Cybersicherheit und Infrastrukturresilienz, wie in Art. 55 Abs. 1 lit. d KI-Verordnung ausdrücklich gefordert.

KI trifft auf kritische Infrastruktur

Modelle mit systemischem Risiko sind keine bloßen Softwareprodukte, sondern Bestandteil kritischer digitaler Infrastrukturen. Sie beeinflussen Geschäftsprozesse, öffentliche Kommunikation, politische Entscheidungsfindung und zunehmend auch die Sicherheit staatlicher und wirtschaftlicher Systeme. Damit wächst auch ihre Anfälligkeit: für gezielte Angriffe, Manipulationen, Datenlecks oder Missbrauch durch Dritte.

Der Gesetzgeber zieht hier deshalb klare Linien: Wer solche Systeme bereitstellt, trägt Verantwortung für ihre technische Absicherung entlang der gesamten Infrastrukturkette. Das reicht von der Datenverarbeitung über Modellbereitstellung bis zur Schnittstelle zum Endnutzer.

Was „angemessene Cybersicherheit“ konkret bedeutet

Die KI-Verordnung bleibt technologieneutral, in der Praxis wird damit ein mehrschichtiges Sicherheitskonzept vorgegeben:

• Härtung von Schnittstellen gegen unautorisierte Zugriffe oder Manipulation.
• Schutz sensibler Trainings- und Nutzungsdaten vor Verlust, Diebstahl oder unkontrollierter Weitergabe.
• Monitoring und Incident Response: Systeme müssen fortlaufend überwacht werden, um Bedrohungen frühzeitig zu erkennen und auf Sicherheitsvorfälle reagieren zu können.
• Skalierbare Infrastruktur: Die eingesetzten Ressourcen – etwa Cloud-Plattformen oder Rechenzentren – müssen Angriffen widerstehen können und auch bei Ausfällen oder Überlastung stabil bleiben.

Zugleich ist Sicherheit nicht statisch. Anbieter müssen ihre Sicherheitsarchitektur regelmäßig überprüfen, aktualisieren und dokumentieren. Die Anforderungen steigen mit der potenziellen Wirkungskraft des Modells.

Sicherheit schafft Vertrauen

Für Anbieter mag das auf den ersten Blick zusätzlichen Aufwand bedeuten, doch langfristig schafft ein hoher Cybersicherheitsstandard einen echten Wettbewerbsvorteil. Denn Nutzer, Unternehmen und Behörden setzen zunehmend auf Systeme, deren Integrität, Verfügbarkeit und Verlässlichkeit nachvollziehbar gewährleistet sind.

Die EU definiert mit Artikel 55 lit. d KI-Verordnung somit keinen abstrakten Anspruch, sondern ein klares Signal: Wer KI mit systemischer Wirkung entwickelt, muss technische Sicherheit von Anfang an mitdenken – nicht als Option, sondern als Voraussetzung für Marktzugang und gesellschaftliche Akzeptanz.

Veröffentlicht am 5. August 2025