Der Geruch von frisch ausgedrucktem Verordnungstext ist mir mittlerweile vertraut, leicht säuerlich, mit einer Spur Druckerschwärze, die noch Stunden später an den Fingern hängt. Diesen Geruch verbinde ich inzwischen fest mit einer einzigen Frage, die mir seit meiner Ernennung zur internen AI-Act-Beauftragten am häufigsten gestellt wird: Wie weiß ich, in welche Risikoklasse ein KI-Tool überhaupt fällt? Für einen Mittelstandsbetrieb wie unseren, ohne eigene Rechtsabteilung, ist genau diese Einordnung der Punkt, an dem Compliance im HR-Management entweder handhabbar wird oder komplett überfordert.
Klare Antworten darauf bekommt man selten aus den Gesetzestexten selbst, eher aus den Fragen, die Kollegen im Alltag tatsächlich stellen. Genau die beantworte ich hier so konkret wie möglich, ohne Juristendeutsch und ohne falsche Sicherheit vorzutäuschen.
Was unterscheidet die vier Risikoklassen im AI Act eigentlich?
Die EU-KI-Verordnung sortiert Systeme in vier Stufen, und für den Betriebsalltag lohnt es sich, sie sich wie eine Ampel vorzustellen. Ganz oben steht das unannehmbare Risiko – Anwendungen, die schlicht verboten sind, etwa Social Scoring oder Emotionserkennung am Arbeitsplatz. Darunter folgt das Hochrisiko-System nach Anhang III, zu dem viele Personalthemen zählen: Bewerberauswahl, Beförderungsentscheidungen, Leistungsbewertung. Wer hier landet, muss dokumentieren, ein Risikomanagement aufbauen und für menschliche Aufsicht sorgen. Eine Stufe darunter sitzen Systeme mit Transparenzpflichten – Chatbots oder Systeme, die Inhalte erzeugen, bei denen der Nutzer wissen muss, dass er es mit einer Maschine zu tun hat. Und ganz unten, im grünen Bereich, liegt die riesige Masse an Alltagstools: Rechtschreibprüfung, einfache Übersetzung, interne Suchfunktionen.
Was diese vier Stufen in der Praxis so schwer greifbar macht, ist nicht ihre Anzahl, sondern die Zuordnung im Einzelfall. Ein und dasselbe Tool kann, je nachdem wer es wofür einsetzt, in zwei völlig unterschiedlichen Klassen landen.
Der Einsatzzweck zählt, nicht die Technik
Bei uns hat sich das am CV-Parser gezeigt. Rein technisch ist das ein Textanalyse-Tool wie jedes andere. Sobald es aber Bewerbungen vorsortiert und damit über Karrierechancen mitentscheidet, rutscht es direkt in die Hochrisiko-Kategorie. Dasselbe gilt für ein System, das eigentlich für Predictive Maintenance an Maschinen gedacht war, aber nebenbei auch Schichteffizienz trackt und Vorschläge zur Personaloptimierung liefert. In dem Moment, in dem aus einer Wartungsfrage eine Aussage über Mitarbeiterleistung wird, ändert sich die Einstufung komplett – unabhängig davon, wie die Software technisch aufgebaut ist.
Für die Einordnung im eigenen Haus hilft es, nicht bei den technischen Spezifikationen anzusetzen, sondern bei der Frage: Wofür nutzen die Kollegen das Tool tatsächlich? Wer nur die Produktbeschreibung liest, übersieht genau die Fälle, die später zum Problem werden.
Die Kumulations-Falle: wenn harmlose Tools sich summieren
Eine Sache, die in keinem offiziellen Leitfaden so beschrieben wird, nenne ich die Kumulations-Falle. Jedes Tool für sich genommen wirkt harmlos – die Rechtschreibprüfung analysiert Schreibstil, das Zeiterfassungstool speichert Pausenzeiten, das CRM protokolliert Kundeninteraktionen. Einzeln betrachtet, alles im grünen Bereich. Zusammengenommen kann daraus aber ein Bewegungs- und Leistungsprofil eines einzelnen Mitarbeiters entstehen, das tiefer geht als jedes einzelne Hochrisiko-System. Nicht jedes betroffene Tool taucht dabei von selbst auf der offiziellen Liste auf – sogenannte Schatten-KI, von der IT und Compliance oft gar nichts wissen, gehört deshalb zwingend in jede Bestandsaufnahme mit hinein.
Für die Praxis heißt das: Klassifizierung darf nicht nur Tool für Tool laufen. Wer am Ende eine Liste mit zwölf grünen Häkchen hat, aber nie geprüft hat, was passiert, wenn man die Daten aus allen zwölf Tools zusammenlegt, hat die eigentliche Risikofrage übersehen.
Die rote Linie beim unannehmbaren Risiko
Ein Vertriebsleiter bei uns war richtig stolz auf ein Pilotprojekt: eine Emotionserkennung, die bei Kundentelefonaten registrieren sollte, ob der Anrufer genervt oder kaufbereit klingt. Für ihn war das der nächste logische Schritt im Verkauf. Für die Verordnung ist das Artikel 5 – und Emotionserkennung am Arbeitsplatz ist, von wenigen Sicherheitsausnahmen abgesehen, schlicht untersagt. Das Tool musste sofort gestoppt werden, und das Gespräch war entsprechend unangenehm. Wenn du selbst prüfen willst, welche Anwendungen konkret in diese Kategorie fallen, hilft ein Blick auf die Liste der verbotene KI-Anwendungen im EU AI Act, danach lässt sich im Gespräch mit Fachbereichen deutlich klarer argumentieren.
Die Geltung der Hochrisiko-Frist
Diese Frage kommt in fast jedem Gespräch, und die Antwort hat sich zwischenzeitlich verschoben. Für Hochrisiko-KI-Systeme nach Anhang III der EU-KI-Verordnung – dazu zählt zum Beispiel KI-gestützte Personalauswahl – galt ursprünglich der 2. August 2026 als verbindlicher Stichtag. Nach der vorläufigen Einigung zum Digital-Omnibus-Paket im Mai 2026 wurde diese Frist auf den 2. Dezember 2027 verlängert. Das verschafft Unternehmen wie unserem zusätzliche Zeit, ändert aber nichts an der Verpflichtung selbst, nur am Zeitpunkt, bis zu dem alles stehen muss.
Wer diese Verlängerung als Freifahrtschein versteht, macht aus meiner Sicht einen Fehler. Die Klassifizierung selbst, also das Wissen, welche Tools überhaupt betroffen sind, sollte man trotzdem schon jetzt abschließen. Die zusätzliche Zeit sollte in Dokumentation und Prozesse fließen, nicht ins Aufschieben.
Pflichten, die an die Risikoklasse hängen
Wie tief die Pflichten gehen, hängt direkt von der zugewiesenen Klasse ab: Die Risikoklasse entscheidet, wie tief die Dokumentation gehen muss – bei uns war der Unterschied zwischen zwei Zeilen in einer Tabelle und einem mehrseitigen Nachweis genau diese Einstufung. Für Hochrisiko-Systeme kommt außerdem eine Pflicht zur KI-Kompetenz der beteiligten Mitarbeitenden dazu, während bei Systemen mit reiner Transparenzpflicht vor allem die Kennzeichnungspflicht für KI-generierte Inhalte im Vordergrund steht. Wer als Unternehmen ein Hochrisiko-System einsetzt, gilt außerdem meist als Betreiber und nicht als Anbieter, mit entsprechend anderen, aber nicht geringeren Pflichten.
Auch Themen, die man nicht sofort mit KI-Recht verbindet, spielen mit rein. Menschliche Aufsicht muss bei Hochrisiko-Systemen tatsächlich personell hinterlegt sein, nicht nur auf dem Papier stehen. Datengrundlagen sollten sauber geordnet sein, bevor man ein Tool überhaupt in Betrieb nimmt. Und weil KI-Systeme in der Personalarbeit ungewollt diskriminierend wirken können, lohnt sich ein zweiter Blick auf die Auswahlkriterien, nicht nur auf die technische Genauigkeit. Bei uns hat außerdem der Betriebsrat frühzeitig mitgeredet, was am Anfang nach zusätzlicher Bürokratie aussah, sich aber als hilfreich erwiesen hat, weil dadurch Bedenken der Belegschaft schon vor der Einführung auf den Tisch kamen. Ob sich ein einzelnes KI-Zertifikat für Mitarbeitende in der Verwaltung überhaupt lohnt, ist übrigens eine andere Frage, die ich mir selbst öfter gestellt habe: Lohnt sich ein KI-Zertifikat für Mitarbeiter in der Verwaltung wirklich?
Was ich Unternehmen ohne Rechtsabteilung rate
Am ehesten kommt man voran, wenn man klein anfängt, statt den kompletten Gesetzestext auf einmal bewältigen zu wollen. Ich habe mir einmal die komplette Verordnung als PDF heruntergeladen, fest entschlossen, sie wie ein Fachbuch durchzuarbeiten – nach Seite 30 habe ich aufgegeben, nicht weil der Inhalt uninteressant war, sondern weil sich daraus kein Gefühl für den eigenen Betrieb ergibt. Besser funktioniert es andersherum: erst die eigenen Tools auflisten, dann fragen, wofür sie genutzt werden, und erst danach den Text danebenlegen.
Die klarsten Gedanken zu dem Thema kommen mir inzwischen selten am Schreibtisch, sondern eher bei einem Spaziergang an der Rheinuferpromenade, wenn ich einfach nur die einzelnen Tools im Kopf durchgehe. Ein Freund von mir spielt Schlagzeug in einer Hobbyband und vergleicht Risikoklassen gern mit Lautstärkegrenzen bei Konzerten – nicht ganz präzise, aber nah genug dran, um es Kollegen ohne Fachjargon zu erklären. Neulich fragte mich unsere Fertigungsleiterin Frau Krüger in der Kantine beiläufig nach unserer aktuellen KI-Richtlinie, und ich konnte ihr eine klare, kurze Antwort geben, ohne erst nachschlagen zu müssen. Genau da merkt man, dass sich die Arbeit lohnt: nicht wenn man jeden Artikel der Verordnung auswendig kennt, sondern wenn man im Alltag schnell und sicher genug antworten kann.
Mein wichtigster Rat, wenn du gerade selbst vor dieser Aufgabe stehst: Bewerte nie ein Tool isoliert. Frag zuerst nach dem tatsächlichen Einsatzzweck, prüfe dann, was passiert, wenn man die Daten mehrerer Tools zusammenlegt, und erst danach schau dir die Fristen an. Diese Reihenfolge hat uns mehr geholfen als jede Checkliste aus dem Internet.