Sieben Sätze lang war die Antwort, die unser Recruiting-Tool-Anbieter mir schickte, nachdem Markus aus der Fertigung gefragt hatte, warum ihn die Software bei der internen Bewerbung als Schichtleiter aussortiert hatte. Sieben Sätze, und keiner davon nannte, welche Daten herangezogen wurden oder wer die Entscheidung am Ende geprüft hat. In diesem Moment wurde mir klar, wie groß der Abstand zwischen dem, was ein KI-Anbieter für ausreichend hält, und dem, was Mitarbeiterrechte bei KI-Entscheidungen laut AI Act wirklich verlangen, sein kann.
Als interne AI-Act-Beauftragte unseres KMU im Maschinenbau — 78 Mitarbeitende — und mit mittlerweile sechs Jahren im Personalbereich beantworte ich solche Anfragen längst nicht mehr nach demselben Muster. Zwei Situationen aus den letzten Monaten zeigen, warum: eine einzelne Absage bei einer Bewerbung auf der einen Seite, ein Schichtplan-Algorithmus, der ständig neue, kleine Entscheidungen trifft, auf der anderen. Auskunftsrecht bedeutet in beiden Fällen etwas anderes — und genau diesen Unterschied will ich hier an den zwei realen Fällen zeigen, nicht an einer allgemeinen Definition.
Der Fall Markus: eine Entscheidung, die erklärt werden musste
Markus hatte sich intern auf die Schichtleiter-Stelle beworben und eine automatisch generierte Absage bekommen. Seine Frage war einfach: nach welchen Kriterien hat die Maschine entschieden? Ich wusste in dem Moment nur, dass ich als KI-Beauftragte zuständig war — nicht, was ich konkret antworten musste. Ein bekannter Anbieter hatte mir kurz zuvor ein "Alles in einem Tag"-Webinar zum EU AI Act verkauft, das ich mir extra für solche Situationen gebucht hatte. Die Inhalte waren aber komplett auf Konzernstrukturen zugeschnitten, mit Fallbeispielen von Unternehmen mit eigener Rechtsabteilung. Für ein KMU wie unseres brachte mir das Seminar an diesem Punkt fast nichts, weil kein einziges Beispiel zu unserer Größenordnung passte.
Geholfen hat am Ende der Blick in die Verordnung selbst. Nach der EU-KI-Verordnung haben Betroffene ein Recht auf eine Erläuterung der Logik hinter einer Entscheidung, wenn diese sie erheblich beeinflusst — eine Absage bei einer internen Bewerbung fällt eindeutig darunter. Von der Kennzeichnungspflicht für KI-generierte Inhalte ist das klar zu trennen, das ist ein eigenes Thema mit eigenen Regeln. Ich hatte anfangs angenommen, es reiche, Markus zu zeigen, welche Daten das Tool verwendet hatte. Das war zu kurz gedacht: Ohne den Nachweis, dass am Ende ein Mensch die Empfehlung geprüft hat, bleibt die Antwort unvollständig — und genau diese menschliche Aufsicht hatten wir bis dahin eher schleifen lassen. Bei der Passage zu Artikel 86 habe ich mir sogar den Textmarker geschnappt: dieses kurze, trockene Quietschen auf dem Papier, wenn der Stift schon fast leer ist, habe ich noch genau im Kopf.
Es hat mich einige Abende gekostet, die Antwort für Markus sauber aufzuschreiben: welche Daten, welche Kriterien, welche Prüfung. Als ich den fertigen Text der Geschäftsführung vorlegte, kam die Rückmeldung kürzer als erwartet — zwei Wörter in der Antwortmail, mehr nicht, an einem gewöhnlichen Morgen vor der ersten Besprechung. Kein großes Lob, aber auch keine Nachfrage. Genau das war für mich das eigentliche Zeichen, dass die Antwort trägt.
Der Fall Schichtplanung: wenn Auskunft ins Leere läuft
Der zweite Fall liegt völlig anders. Unsere Fertigungsleiterin Frau Krüger wollte ein Tool einführen, das Schichten automatisch nach Verfügbarkeit, Qualifikation und Ruhezeiten plant. Effizient, keine Frage, aber der Betriebsrat war sofort skeptisch. Anders als bei verbotenen KI-Anwendungen, die von vornherein tabu sind, ging es hier nicht um ein grundsätzliches Verbot, sondern um die Frage, wie Mitbestimmung bei der Arbeitszeitgestaltung noch funktionieren soll, wenn ein Algorithmus hunderte kleine Entscheidungen pro Tag trifft und laufend neu sortiert, sobald sich jemand krankmeldet.
Bei Markus konnte ich auf eine einzelne, klar benennbare Entscheidung zeigen. Bei der Schichtplanung gibt es diesen einen Moment nicht — die Logik von heute ist morgen schon wieder überholt, weil neue Daten reinkommen. Ein Leser dieses Tagebuchs, Christian Weber, Betriebsratsvorsitzender in einem Lebensmittelbetrieb im Ruhrgebiet, hat mir dazu geschrieben und ziemlich klar widersprochen: Für ihn ist es kein Trost, dass sich eine Einzelentscheidung schwer greifen lässt, wenn das Ergebnis trotzdem jede Woche den Dienstplan verändert. Er denkt jeden Vorschlag konsequent von der Seite der Beschäftigten aus, und in diesem Punkt hatte er recht — nur weil sich das klassische Auskunftsrecht schwerer anwenden lässt, heißt das nicht, dass Mitarbeitende hier weniger Informationsbedarf hätten.
Für diesen Fall haben wir einen anderen Weg gewählt als bei Markus: keine Einzel-Auskunft für jede automatische Umplanung, sondern eine dokumentierte Gesamtlogik, die der Betriebsrat regelmäßig einsehen kann, plus die Möglichkeit, im Einzelfall gezielt nachzufragen, wenn jemand eine konkrete Entscheidung anzweifelt. Spürbar geholfen hat dabei auch, Effizienzgewinne fair zu verteilen — die Diskussion drehte sich danach nicht mehr nur um Kontrolle, sondern auch um den Nutzen für alle.
Welche Mitarbeiterrechte bei KI-Entscheidungen wirklich gelten
Aus diesen zwei Fällen ziehe ich inzwischen eine klare Faustregel, um Anfragen richtig einzuordnen. Betrifft die KI-gestützte Entscheidung eine einzelne Person unmittelbar und spürbar — Bewerbung, Beförderung, Kündigung, Leistungsbeurteilung —, dann besteht ein konkreter Anspruch auf eine individuelle Erklärung: welche Daten, welche Kriterien, welche menschliche Prüfung. Verteilt sich die Wirkung dagegen auf viele Personen gleichzeitig und ändert sich laufend, wie bei der Schichtplanung, dann verschiebt sich der Schwerpunkt von der Einzelauskunft hin zu kollektiver Transparenz gegenüber dem Betriebsrat und zu einer sauberen Dokumentation der Gesamtlogik.
Ob ein System dabei überhaupt als Hochrisiko-System eingestuft wird, ist nochmal eine andere, größere Frage mit eigenen Kriterien, die ich hier bewusst nicht aufdröse. Genauso wenig gehe ich hier darauf ein, wer als Anbieter und wer als Betreiber in der Pflicht steht, wenn die Softwarefirma die Erklärung liefern muss, wir als Arbeitgeber aber dafür geradestehen — auch das verdient einen eigenen Blick. Mit Oliver, einem KI-Compliance-Coach, mit dem ich mich hin und wieder austausche, habe ich diese Abgrenzung neulich am Telefon durchgesprochen. Er erklärt solche Fragen fast immer mit einem Vergleich aus dem Straßenverkehr, und für dieses Beispiel passte es gut: Man fragt entweder, warum genau dieses eine Auto an dieser Ampel angehalten wurde, oder warum die ganze Kreuzung so getaktet ist, wie sie getaktet ist. Beide Fragen sind berechtigt, aber sie verlangen komplett unterschiedliche Antworten.
Was in eine gute Antwort gehört
Wenn der Anspruch besteht, reicht eine vage Auskunft trotzdem nicht. Eine brauchbare Antwort nennt konkret, welche Datenpunkte in die Entscheidung eingeflossen sind, welche Kriterien am stärksten gewichtet wurden und wer die Empfehlung am Ende bestätigt oder korrigiert hat. Wie sauber unsere Daten-Governance im Hintergrund aufgesetzt ist, entscheidet spürbar mit darüber, wie schnell ich diese Fragen überhaupt beantworten kann. Und bevor ein System überhaupt in einer Antwort auftauchen kann, muss es erstmal in unserer Inventur aller eingesetzten KI-Tools erfasst sein — Schatten-KI, die niemand auf dem Schirm hat, lässt sich schlecht erklären, aber das ist nochmal ein eigenes Kapitel.
Damit diese Antworten nicht nur bei mir hängen, schicke ich Führungskräfte wie Frau Krüger inzwischen gezielt in Schulungen, die genau das üben: KI-Entscheidungen gegenüber dem eigenen Team verständlich begründen, nicht nur die Technik erklären. Den KI-Führerschein habe ich selbst zuerst gemacht, bevor ich ihn empfohlen habe, gerade weil die reine Schulungspflicht laut Verordnung wenig bringt, wenn niemand testet, ob das Wissen im Alltag auch trägt. Ob am Ende ein Zertifikat wie dieses als Kompetenznachweis nötig ist oder interne Praxis reicht, ist wieder eine andere Diskussion — für unser Team hat das Zertifikat zumindest als gemeinsamer Startpunkt funktioniert, an dem alle über dieselben Begriffe reden.
Zwei Fälle, eine Faustregel
Was beide Fälle verbindet, ist am Ende simpler, als die Paragrafen vermuten lassen. Frag zuerst, ob eine einzelne Person eine spürbare, konkrete Konsequenz trägt oder ob sich die Wirkung auf viele verteilt und laufend ändert. Im ersten Fall bereite eine individuelle Erklärung vor, so wie bei Markus. Im zweiten Fall investiere in Dokumentation und in den Austausch mit dem Betriebsrat, nicht in hundert Einzelantworten, die ohnehin nie ganz aktuell wären. Und achte darauf, dass die Entscheidung nicht diskriminierend wirkt — bei Markus fiel uns bei der Prüfung auf, dass das Tool eine Zusatzqualifikation stark gewichtet hatte, die er wegen seiner Schichtzeiten gar nicht erwerben konnte. Das haben wir korrigiert, weil Diskriminierung durch KI zu verhindern am Ende genauso zur Auskunftspflicht gehört wie die reine Erklärung der Kriterien.
Für andere HR-Verantwortliche in einem KMU ist mein konkreter Rat: Fang mit der Unterscheidung zwischen Einzelentscheidung und Systemlogik an, bevor du dich in Paragrafen verlierst. Wenn du dabei selbst noch unsicher bist, wie du solche Antworten formulierst, lohnt sich ein Blick auf den KI-Führerschein — mir hat er vor allem geholfen, die Sprache der IT-Kollegen zu verstehen und meine eigene Erklärung gegenüber Markus und Christian in etwas zu verwandeln, das beide nachvollziehen konnten.