Was Hochrisiko-KI erfüllen muss – und ab wann

Der Digital Omnibus hat die Hochrisiko-Pflichten auf Dezember 2027 verschoben. Warum das keine Verschnaufpause ist, und was Einstufung und Aufbau jetzt schon verlangen.

Die Verordnung (EU) 2024/1689 ist seit dem 1. August 2024 in Kraft und wird gestaffelt wirksam. Die ersten Stufen sind durch: verbotene Praktiken und die Pflicht zur KI-Kompetenz seit Februar 2025, Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit August 2025.

Am 2. August 2026 ist die Verordnung allgemein anwendbar geworden, samt Transparenzpflichten nach Art. 50 und der nationalen Aufsichts- und Sanktionsstruktur.

Die Anforderungen an Hochrisiko-KI-Systeme greifen dagegen später, als ursprünglich geplant. Der sogenannte Digital Omnibus, dem der Rat am 29. Juni 2026 final zugestimmt hat, verschiebt den Anwendungsbeginn:

Was	Ab wann
Eigenständige Hochrisiko-Systeme nach Anhang III	2. Dezember 2027
KI als Sicherheitsbauteil in Produkten nach Anhang I	2. August 2028

Sechzehn zusätzliche Monate klingen nach Verschnaufpause. Sie sind keine. Wer jetzt nicht inventarisiert und einstuft, steht Ende 2027 vor derselben Aufgabe mit derselben Vorlaufzeit – nur mit weniger Ruhe. Und die Pflicht zur KI-Kompetenz nach Art. 4 gilt bereits, unabhängig von jeder Risikoklasse.

Ohne Inventar lässt sich ohnehin keine Frist planen.

Schritt 1: Rolle klären

Vor jeder inhaltlichen Frage steht die Rollenfrage, denn sie entscheidet über den Pflichtenumfang.

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System unter eigener Verantwortung verwendet.

Der Punkt, den viele Unternehmen unterschätzen: Nach Art. 25 können Sie vom Betreiber zum Anbieter werden. Etwa dann, wenn Sie ein zugekauftes System unter eigenem Namen anbieten, seine Zweckbestimmung ändern oder es wesentlich verändern. Ein Sprachmodell, das Sie mit eigenen Daten für einen Zweck feinjustieren, den der ursprüngliche Anbieter nicht vorgesehen hat, kann Sie in die Anbieterrolle bringen – mit dem vollen Pflichtenkatalog.

Schritt 2: Einstufen

Hochrisiko sind KI-Systeme in zwei Konstellationen. Nach Art. 6 Abs. 1 solche, die als Sicherheitsbauteil eines Produkts dienen, das unter die in Anhang I gelisteten Harmonisierungsrechtsvorschriften fällt und einer Konformitätsbewertung durch Dritte bedarf. Nach Art. 6 Abs. 2 solche, die unter einen der Anwendungsfälle aus Anhang III fallen – darunter biometrische Systeme, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen privaten und öffentlichen Diensten, Strafverfolgung, Migration sowie Rechtspflege.

Für den Finanz- und Versicherungssektor sind zwei Einträge aus Anhang III besonders relevant: die Bewertung der Kreditwürdigkeit natürlicher Personen und die Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen.

Art. 6 Abs. 3 enthält eine Ausnahme: Ein System aus Anhang III gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt – etwa weil es nur eine eng gefasste Verfahrensaufgabe erfüllt oder eine rein vorbereitende Aufgabe übernimmt. Diese Ausnahme ist keine Selbsteinschätzung nebenbei: Sie muss dokumentiert werden, und das System ist vor dem Inverkehrbringen zu registrieren. Profiling natürlicher Personen ist von der Ausnahme ohnehin ausgenommen.

Schritt 3: Die Anforderungen an das System

Für Hochrisiko-KI verlangt Abschnitt 2 des Kapitels III sieben Dinge, die zusammen ein Managementsystem ergeben:

Risikomanagementsystem (Art. 9) – fortlaufend über den gesamten Lebenszyklus, nicht als einmalige Bewertung.
Daten-Governance (Art. 10) – Trainings-, Validierungs- und Testdaten müssen relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein; Verzerrungen sind zu untersuchen.
Technische Dokumentation (Art. 11) – nach Anhang IV, vor dem Inverkehrbringen und aktuell zu halten.
Protokollierung (Art. 12) – automatische Aufzeichnung von Ereignissen über die Lebensdauer.
Transparenz und Betreiberinformation (Art. 13) – eine Betriebsanleitung, die den Betreiber in die Lage versetzt, das System bestimmungsgemäß zu nutzen und seine Ergebnisse zu interpretieren.
Menschliche Aufsicht (Art. 14) – wirksam ausgestaltet, mit der Möglichkeit einzugreifen und abzuschalten.
Genauigkeit, Robustheit, Cybersicherheit (Art. 15) – einschließlich Widerstandsfähigkeit gegen Manipulationsversuche wie Data Poisoning oder adversariale Eingaben.

Anbieter haben darüber hinaus ein Qualitätsmanagementsystem nach Art. 17 zu betreiben, die Konformitätsbewertung nach Art. 43 durchzuführen, eine EU-Konformitätserklärung auszustellen, die CE-Kennzeichnung anzubringen und das System in der EU-Datenbank zu registrieren.

Schritt 4: Die Pflichten als Betreiber

Betreiber kommen deutlich schlanker weg, aber nicht ohne Pflichten. Art. 26 verlangt insbesondere: Nutzung gemäß Betriebsanleitung, Zuweisung der menschlichen Aufsicht an kompetente Personen mit ausreichender Befugnis, Sicherstellung der Eignung der Eingabedaten, Überwachung des Betriebs, Aufbewahrung der automatisch erzeugten Protokolle für mindestens sechs Monate sowie Meldepflichten bei Risiken und schwerwiegenden Vorfällen.

Setzen Sie ein Hochrisiko-System am Arbeitsplatz ein, müssen Sie die betroffenen Beschäftigten und ihre Vertretung vorab informieren. Für bestimmte Betreiber – öffentliche Stellen sowie private Akteure, die öffentliche Dienste erbringen, und Betreiber in den Anwendungsfällen Kreditwürdigkeit und Versicherungsrisikobewertung – kommt nach Art. 27 die Grundrechte-Folgenabschätzung hinzu.

Und quer über alle Rollen gilt seit Februar 2025 Art. 4: Anbieter und Betreiber müssen für ein ausreichendes Maß an KI-Kompetenz ihres Personals sorgen. Das ist die eine Pflicht, die jedes Unternehmen trifft, das KI einsetzt – unabhängig von der Risikoklasse.

Der pragmatische Weg

Für den Aufbau hat sich eine Reihenfolge bewährt, die ohne großes Vorprojekt auskommt:

Inventar. Alle KI-Systeme erfassen, die im Unternehmen genutzt, entwickelt oder eingekauft werden – einschließlich der Funktionen, die als Feature in bestehender Software mitgeliefert werden. Genau dort liegt der größte blinde Fleck.
Rolle und Klasse je System bestimmen und die Einstufung schriftlich begründen. Auch ein „nicht hochriskant" braucht eine Begründung.
Lücken je Anforderung erheben, für die Systeme, die hochriskant sind oder es werden könnten.
Auf das bestehende ISMS aufsetzen. ISO/IEC 42001 beschreibt ein Managementsystem für KI, das sich an ein ISMS nach ISO 27001 andocken lässt. Risikoprozess, Lieferantensteuerung, Dokumentenlenkung und internes Audit sind bereits da. Neu sind vor allem Daten-Governance, Freigabeprozess, Rollenmodell und die Kontrollen für menschliche Aufsicht.
KI-Kompetenz nachweisbar aufbauen – rollenspezifisch, dokumentiert, wiederkehrend.

Der Aufwand ist überschaubar, solange man ihn an vorhandene Strukturen hängt. Teuer wird es erst, wenn parallel zum ISMS eine zweite Governance-Welt entsteht.