Hochrisiko-KI-Systeme bilden das Herzstück des EU AI Act, denn auf sie konzentriert sich der weitaus grösste Teil der Pflichten. Ein KI-System gilt als hochriskant, wenn es ein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte von Menschen darstellt. Die Verordnung definiert diese Kategorie über zwei Wege: über KI als Sicherheitskomponente bestimmter regulierter Produkte und über eine ausdrückliche Liste von Anwendungsfällen in Annex III.
Die zwei Wege zur Hochrisiko-Einstufung
Der erste Weg betrifft KI-Systeme, die als Sicherheitskomponente in Produkte eingebettet sind, die bereits unter bestehende EU-Produktsicherheitsvorschriften fallen — etwa Maschinen, Medizinprodukte, Spielzeug oder Fahrzeuge. Wenn solche Produkte ohnehin einer Konformitätsbewertung durch eine benannte Stelle unterliegen, gilt die darin enthaltene KI als hochriskant. Der zweite Weg ist die Liste in Annex III, die konkrete Anwendungsbereiche benennt, in denen KI-Systeme grundsätzlich als hochriskant eingestuft werden. Dieser zweite Weg ist für die meisten Unternehmen der relevantere.
Die Anwendungsfälle in Annex III
Annex III nennt mehrere Bereiche. Dazu gehören biometrische Systeme zur Identifizierung und Kategorisierung von Personen, KI in der Verwaltung und im Betrieb kritischer Infrastruktur wie Strom- und Wasserversorgung, KI in der allgemeinen und beruflichen Bildung etwa zur Bewertung von Lernergebnissen oder zur Zugangssteuerung, KI in der Beschäftigung und Personalverwaltung einschliesslich der Auswahl von Bewerbern und der Bewertung von Mitarbeitenden, KI für den Zugang zu wesentlichen privaten und öffentlichen Diensten wie die Kreditwürdigkeitsprüfung oder die Risikobewertung in der Lebens- und Krankenversicherung, KI in der Strafverfolgung, KI in Migration und Grenzkontrolle sowie KI in der Rechtspflege und bei demokratischen Prozessen. Für viele Unternehmen sind besonders die Bereiche Personalauswahl und Kreditwürdigkeit relevant, weil dort KI bereits breit eingesetzt wird.
Die Ausnahme für nicht wesentliche Systeme
Der AI Act enthält eine wichtige Einschränkung: Ein in Annex III genanntes System gilt ausnahmsweise nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, weil es etwa nur eine eng begrenzte verfahrenstechnische Aufgabe erfüllt, das Ergebnis menschlicher Tätigkeit lediglich verbessert oder ein Muster in bereits getroffenen Entscheidungen erkennt, ohne sie ohne menschliche Prüfung zu ersetzen. Wer sich auf diese Ausnahme beruft, muss die Einschätzung jedoch dokumentieren und das System registrieren. Diese Ausnahme verlangt eine sorgfältige Bewertung und sollte nicht leichtfertig in Anspruch genommen werden.
Die Pflichten für Anbieter
Anbieter von Hochrisiko-KI-Systemen tragen den umfassendsten Pflichtenkatalog. Sie müssen ein Risikomanagementsystem einrichten, das die Risiken über den gesamten Lebenszyklus identifiziert und mindert. Sie müssen eine Daten-Governance sicherstellen, die Trainings-, Validierungs- und Testdaten auf Qualität, Repräsentativität und Verzerrungen prüft. Sie müssen eine technische Dokumentation nach Annex IV erstellen, die das System umfassend beschreibt. Sie müssen die automatische Aufzeichnung von Ereignissen ermöglichen, für Transparenz und verständliche Information der Betreiber sorgen, eine wirksame menschliche Aufsicht ermöglichen und ein angemessenes Mass an Genauigkeit, Robustheit und Cybersicherheit gewährleisten. Vor dem Inverkehrbringen ist eine Konformitätsbewertung durchzuführen, das System mit der CE-Kennzeichnung zu versehen und in die EU-Datenbank einzutragen.
Die Pflichten für Betreiber
Auch Betreiber, die ein Hochrisiko-KI-System einsetzen, ohne es selbst entwickelt zu haben, tragen Pflichten. Sie müssen das System gemäss der Gebrauchsanweisung verwenden, die menschliche Aufsicht durch geeignetes Personal sicherstellen, die Eingabedaten in ihrem Verantwortungsbereich auf Relevanz prüfen, den Betrieb überwachen und die automatisch erzeugten Protokolle aufbewahren. In bestimmten Fällen, etwa bei der Nutzung durch öffentliche Stellen, ist zusätzlich eine Grundrechte-Folgenabschätzung erforderlich. Diese geteilte Verantwortung zwischen Anbieter und Betreiber ist ein zentrales Merkmal des AI Act.
Konformitätsbewertung und CE-Kennzeichnung
Bevor ein Hochrisiko-KI-System auf den Markt kommt, muss seine Konformität mit den Anforderungen nachgewiesen werden. In vielen Fällen erfolgt dies durch eine interne Kontrolle des Anbieters auf Basis harmonisierter Normen, in anderen Fällen ist eine benannte Stelle einzubeziehen. Nach erfolgreicher Bewertung wird das System mit der CE-Kennzeichnung versehen, die signalisiert, dass es den EU-Anforderungen entspricht. Dieser Mechanismus überträgt das bewährte Modell der EU-Produktsicherheit auf KI-Systeme.
Was Unternehmen tun sollten
Ein praktisches Beispiel: KI im Recruiting
Ein anschauliches Beispiel für ein Hochrisiko-System ist KI in der Personalauswahl. Setzt ein Unternehmen ein Werkzeug ein, das eingehende Bewerbungen automatisch sichtet, Kandidaten bewertet oder eine Rangfolge erstellt, fällt dieses System in den Beschäftigungsbereich des Annex III und gilt grundsätzlich als hochriskant. Die Folge ist ein umfangreiches Pflichtenpaket: Das Unternehmen muss sicherstellen, dass die Trainingsdaten keine diskriminierenden Verzerrungen enthalten, eine menschliche Aufsicht über die Entscheidungen gewährleisten, die betroffenen Bewerber informieren und die Funktionsweise dokumentieren. Dieses Beispiel zeigt, wie eine alltägliche, weit verbreitete Anwendung unmittelbar in den Hochrisiko-Bereich fällt — und warum die Klassifizierung für so viele Unternehmen relevant ist.
Bias und Daten-Governance
Eine der anspruchsvollsten Pflichten für Hochrisiko-Systeme ist die Daten-Governance. KI-Systeme lernen aus Daten, und wenn diese Daten Verzerrungen enthalten, übernimmt und verstärkt das System sie. Ein Recruiting-System, das mit historischen Einstellungsdaten trainiert wurde, kann vergangene Diskriminierung fortschreiben. Der AI Act verlangt deshalb, dass Trainings-, Validierungs- und Testdaten auf Relevanz, Repräsentativität, Fehlerfreiheit und Vollständigkeit geprüft und mögliche Verzerrungen erkannt und gemindert werden. Diese Pflicht zwingt Unternehmen, die Datengrundlage ihrer KI kritisch zu hinterfragen — eine Aufgabe, die technische und ethische Sorgfalt verlangt und die ohne systematisches Vorgehen kaum zu bewältigen ist.
Der zeitliche Vorlauf
Der Aufbau der für Hochrisiko-Systeme erforderlichen Strukturen ist eine Aufgabe von Monaten, nicht von Wochen. Risikomanagement, Daten-Governance, technische Dokumentation und die Vorbereitung der Konformitätsbewertung lassen sich nicht kurzfristig improvisieren. Da die Durchsetzung der Hochrisiko-Pflichten ab August 2026 greift, ist der Vorlauf knapp für Unternehmen, die noch nicht begonnen haben. Wer ein Hochrisiko-System betreibt oder plant, sollte daher frühzeitig mit der Klassifizierung und dem Aufbau der nötigen Prozesse beginnen. Innopulse begleitet diesen Weg in der AI-Act-Compliance-Beratung und nutzt dabei das eigene Werkzeug AI Risk Check, das die Klassifizierung und Dokumentation strukturiert.
Der entscheidende erste Schritt ist die korrekte Klassifizierung: Prüfen, ob ein eingesetztes oder geplantes KI-System in einen der Annex-III-Bereiche fällt und ob die Ausnahme für nicht wesentliche Systeme greift. Diese Einstufung bestimmt den gesamten weiteren Aufwand und sollte sorgfältig dokumentiert werden. Fällt ein System in die Hochrisiko-Kategorie, ist der Aufbau der erforderlichen Dokumentation und Prozesse eine Aufgabe von Monaten, weshalb frühzeitiges Handeln vor der Durchsetzung ab August 2026 wichtig ist. Werkzeuge wie AI Risk Check unterstützen die Klassifizierung und Dokumentation, während die AI-Act-Compliance-Beratung von Innopulse die Umsetzung der umfangreichen Hochrisiko-Pflichten begleitet.
Fazit
Hochrisiko-KI-Systeme tragen den umfangreichsten Pflichtenkatalog des EU AI Act, und für viele Unternehmen sind gerade die alltäglichen Anwendungen in Personalauswahl und Kreditwürdigkeit betroffen. Die korrekte Klassifizierung anhand von Annex III, die sorgfältige Prüfung der Ausnahmeregelung und der frühzeitige Aufbau von Risikomanagement, Daten-Governance und technischer Dokumentation sind die entscheidenden Aufgaben. Da die Durchsetzung ab August 2026 greift und der Vorlauf Monate beträgt, ist jetzt der richtige Zeitpunkt, mit Klassifizierung und Vorbereitung zu beginnen.