Man fragt sich, ab welchem Punkt ein smarter HR-Tool zur verbotenen KI-Anwendung wird. Ich hätte diese Frage vor meiner Ernennung zur AI-Act-Beauftragten nicht beantworten können, und ehrlich gesagt zögert auch heute noch die halbe Belegschaft bei uns, wenn ich sie stelle. Als HR-Managerin in einem 78-Personen-Betrieb im Maschinenbau-Zuliefergeschäft war AI-Act-Compliance für mich am Anfang ein Wort ohne Gesicht, bis ich verstanden habe, dass die KMU-Digitalisierung genau an dieser Grenze zwischen erlaubt und verboten steht, und dass diese Grenze schärfer gezogen ist, als ich dachte.
Artikel 5 zieht eine klare Linie
Genau diese Schärfe steckt in Artikel 5 der EU-KI-Verordnung. Er listet Praktiken auf, die kein „vielleicht" kennen, sondern ein glattes Verbot: darunter Emotionserkennung am Arbeitsplatz und biometrische Kategorisierung nach sensiblen Merkmalen wie politischer Einstellung oder Religion. Beide gelten schon seit dem 2. Februar 2025, was viele in unserer Branche überrascht, weil sie den AI Act gedanklich noch komplett in der Zukunft verorten.
Am Anfang wollte ich mir diese Klarheit einkaufen. Eine externe Anwaltskanzlei sollte uns in einer kurzen Einschätzung sagen, was für unseren Betrieb gilt und was nicht. Das Angebot kam zurück, deutlich teurer, als ich erwartet hatte, und die Antwort darin blieb so abstrakt, dass ich am Ende genauso schlau war wie vorher. Das hatte ich falsch eingeschätzt: Ich dachte, ein Anruf bei den richtigen Leuten reicht. Reicht er nicht, jedenfalls nicht für einen Betrieb unserer Größe, den kein Standardgutachten wirklich im Blick hat.
Konkret geworden ist das Thema bei uns durch ein Angebot für einen KI-gestützten Stimmungs-Tracker, der über die Kameras in Videocalls die Frustration im Team erkennen sollte. Klang nach Fürsorge, war aber genau die Art von Emotionserkennung, die Artikel 5 verbietet, sobald kein medizinischer oder sicherheitstechnischer Grund vorliegt, und den haben wir im Maschinenbau nicht. Auch biometrische Kategorisierung, also das Einsortieren von Menschen nach sensiblen Merkmalen über ihre biometrischen Daten, fällt in dieselbe Kategorie, sobald eine KI etwa Bewerbungsvideos danach durchleuchtet.
Social Scoring hatte ich anfangs für ein Problem anderer Staaten gehalten, nicht für unseres. Falsch gedacht: Der AI Act verbietet auch Unternehmen, Beschäftigte nach ihrem sozialen Verhalten zu bewerten und daraus Nachteile in ganz anderen Bereichen abzuleiten. Und selbst wenn eine Anwendung verboten ist, verschwindet die Aufgabe nicht – irgendjemand muss der Belegschaft erklären, warum das Tool vom Tisch ist, und genau da beginnt die KI-Schulungspflicht, die uns ohnehin nicht erspart bleibt.
Was fällt im HR-Alltag wirklich unter das KI-Verbot?
Tobias aus der IT und ich haben irgendwann unsere komplette Toolliste durchgekämmt, eine Art Inventur des Grauens, um zu sehen, was an KI überhaupt schon bei uns im Haus ist oder mal angefragt wurde. Dabei fiel uns ein altes Angebot für ein „Predictive Hiring"-Tool wieder in die Hände, das anhand von Social-Media-Aktivität vorhersagen sollte, welche Bewerber bald kündigen würden. Genau das Profiling, das unter die verbotenen Praktiken fällt, sobald es die Menschenwürde verletzt. Tobias meinte nur, praktisch wäre es schon gewesen – rechtlich aber ein Fall für den Papierkorb.
Wichtig ist mir geworden, dass Verbot und Risikoklasse zwei verschiedene Dinge sind. Ein Hochrisiko-System darf man einsetzen, muss es aber unter menschlicher Aufsicht betreiben und dokumentieren – eine verbotene Anwendung darf man dagegen gar nicht erst starten, egal wie gut die Aufsicht ist. Erst wer die vier Risikoklassen kennt, versteht, warum manche Anwendungen nicht nur „heikel", sondern komplett verboten sind – die Grenze ist schärfer, als ich anfangs dachte.
Der Moment in der Kantine, KW 5
Frau Krüger aus der Fertigung hat mich in der Kantine in KW 5 einfach zwischen Suppe und Kaffee gefragt, was jetzt eigentlich mit der KI-Richtlinie ist und ob die neue Anlagensteuerung davon betroffen sein könnte. Ich habe geantwortet, ohne ins Stocken zu geraten, ohne Zettel, ohne „das muss ich nachschauen". Das war der Moment, an dem mir klar wurde, dass die letzten Wochen mit Artikel 5 wirklich etwas gebracht hatten: nicht als große Erleuchtung, einfach als das Gefühl, eine Frage zu Ende beantworten zu können, ohne mich selbst zu belügen.
Fünf Wochen hatte ich bis dahin gebraucht, damit sich Artikel 5 nicht mehr wie eine Fremdsprache anfühlte.
Stefan Roth, HR-Kollege bei einem anderen Zulieferer in der Region, hat am Telefon nur gelacht, als ich ihm von der Kantinen-Szene erzählt habe. „Sag doch einfach, was verboten ist, und lass den Rest", meinte er; er nennt praktisch jeden Kompromiss instinktiv pragmatisch, auch wenn die Lage komplizierter ist. Ganz falsch lag er nicht: Bei den No-Gos aus Artikel 5 gibt es wirklich keine Zwischenstufe, die man verhandeln könnte.
Lauras Frage aus Wuppertal
Laura Schmidt, HR-Leiterin bei einem Sanitärunternehmen in Wuppertal, hat mir dazu vor Kurzem geschrieben, sehr förmlich formuliert, obwohl wir uns längst duzen. Sie wollte wissen, ob der Betriebsrat bei einer verbotenen Anwendung überhaupt noch mitreden muss. Meine Antwort: kaum noch, und genau das nehme ich als Erleichterung mit. Früher habe ich mit dem Betriebsrat lange diskutiert, ob ein Tool „vielleicht" zu tief in die Privatsphäre eingreift; bei einem klaren Verbot aus Artikel 5 erübrigt sich die Diskussion, weil die Antwort schon feststeht.
Warum mir die Verbote inzwischen eher helfen als schaden
Die Verbote nehmen uns paradoxerweise Druck von den Schultern. Sie schützen die Kultur, die wir hier über die letzten Jahre aufgebaut haben, ohne dass ich das an einer Jahreszahl festmachen müsste. Wir sind ein Familienbetrieb, kein Kontrollapparat, und dass das Gesetz uns dazu zwingt, menschlich zu bleiben, empfinde ich mittlerweile als Rückenwind statt als Bremse.
Für alle, die gerade an demselben Punkt stehen: Ich habe die verbotenen Anwendungen irgendwann in eine simple Tabelle gepackt (was ist es, warum ist es verboten, was nutzen wir stattdessen), und daraus ist die kostenlose KI-Richtlinien Vorlage entstanden, die zumindest den Rahmen für solche Verbote im Unternehmen absteckt.
Gestern bin ich nach der Arbeit noch ein Stück an der Rheinuferpromenade entlanggelaufen, bevor ich nach Hause bin. Die Lektion, die bei mir hängen geblieben ist: Bei verbotenen Anwendungen gibt es kein Verhandeln, keine Abstufung, kein „kommt drauf an", und genau diese Schärfe macht die Entscheidung am Ende leichter, nicht schwerer, weil ich sie nicht mehr allein treffen muss. Nächste Woche geht es darum, wie wir die erlaubten Systeme sauber aufsetzen. Das ist dann wieder eine andere Geschichte.
Du steckst selbst mitten in einem AI-Act-Rollout, und der Gedanke an Artikel 5 lässt dich nachts nicht los. Du bist nicht allein damit, und die Bürokratie muss dich nicht lähmen; wir alle gestalten das gerade zum ersten Mal. Hol dir im Zweifel eine Einschätzung von einer Fachperson, bevor du eine Anwendung scharf schaltest, die am Ende doch unter Artikel 5 fällt.