Fünfzehn Kolleginnen und Kollegen saßen in unserer allerersten internen Schulung zum KI-Einsatz im Recruiting, und keiner von ihnen hat aufgehört, nebenbei auf sein Handy zu schauen. Genau dieser Nachmittag zeigt, wie weit Antidiskriminierung im HR-Management eines mittelständischen Betriebs noch von der reinen Theorie entfernt ist. AI-Act-Compliance klingt in Leitfäden nach Paragraphen und Checklisten, aber in einem Unternehmen, das seine Recruiting-Prozesse gerade erst digitalisiert, heißt sie vor allem: erklären, warum ein Algorithmus überhaupt benachteiligen kann, obwohl niemand das so eingestellt hat. Diese Frage bekomme ich am häufigsten gestellt, deshalb beantworte ich sie hier ausführlich, zusammen mit den anderen, die mir seit Beginn unseres KMU-Digitalisierungsprojekts am meisten begegnet sind.
Wie kann ein Algorithmus im Recruiting überhaupt diskriminieren?
Ein Algorithmus selbst hat keine Vorurteile, er rechnet nur mit dem, was man ihm gibt. Genau darin liegt das Problem. Trainiert wird so ein Recruiting-Tool meist mit den Einstellungsentscheidungen vergangener Jahre, und wenn ein Betrieb über lange Zeit vor allem Bewerbungen mit lückenlosem Lebenslauf bevorzugt hat, lernt das System genau dieses Muster als Erfolgsrezept. Wer wegen Elternzeit, Pflegezeit oder einer längeren Krankheit eine Lücke hat, rutscht dann im Ranking nach unten, ganz ohne dass irgendjemand das Merkmal Geschlecht oder Alter aktiv eingegeben hätte.
Das Tückische daran nennt man Proxy-Diskriminierung: Merkmale wie Postleitzahl, Abschlussjahr oder Lücken im Lebenslauf stehen stellvertretend für Eigenschaften, die eigentlich geschützt sind. Man muss ein Merkmal also gar nicht direkt abfragen, um es indirekt in die Entscheidung einfließen zu lassen. Für mich war das der Punkt, an dem klar wurde, dass Antidiskriminierung im HR keine reine Datenschutzfrage ist, sondern eine Frage danach, wie eine Software überhaupt zu ihren Rankings kommt.
Anonymisierung allein macht eine Auswahl nicht fair
Viele Betriebe denken, dass ein Bewerbungsverfahren automatisch diskriminierungsfrei wird, sobald Name, Geschlecht und Herkunft aus den Unterlagen verschwinden. Ich habe das lange genauso gesehen. Ein Testlauf mit anonymisierten, aber echten Altdaten aus unserem eigenen Bewerbungspool hat mir gezeigt, dass Lebensläufe mit langen Erwerbslücken trotzdem schlechter bewertet wurden, unabhängig vom Namen. Der Grund liegt in den Proxy-Merkmalen aus dem vorherigen Abschnitt: Sie verschwinden nicht einfach, nur weil man ein Namensfeld schwärzt.
Fair wird ein System also nicht durch Weglassen, sondern durch aktives Nachprüfen. Bei uns bedeutet das inzwischen, dass wir stichprobenartig kontrollieren, welche Bewerbungen aussortiert wurden und warum, statt uns auf die Anonymisierung als alleinige Schutzmaßnahme zu verlassen.
Kriterien, die ich vor jedem neuen HR-Tool prüfe
Bevor ein neues Tool bei uns überhaupt in die engere Wahl kommt, will ich vom Anbieter wissen, mit welchen historischen Daten das System trainiert wurde und ob sich einzelne Ablehnungsgründe später noch nachvollziehen lassen. Fehlt eine nachvollziehbare Antwort darauf, ist das für mich ein Ausschlusskriterium, unabhängig davon, wie überzeugend die Verkaufspräsentation klingt. Genauso wichtig ist, wie offen ein Anbieter über die Grenzen seines eigenen Systems spricht. Wer behauptet, sein Tool sei völlig neutral, hat entweder das Proxy-Problem nicht verstanden oder verschweigt es bewusst.
Diese Kriterien stammen nicht aus einer fertigen Vorlage, sondern aus eigener Recherche. Auf der Suche nach fertigen Richtlinien für Betriebe unserer Größe bin ich durch etliche LinkedIn-Gruppen gegangen und habe dort fast ausschließlich Werbeposts großer Beratungsfirmen gefunden, keine einzige brauchbare Vorlage. Schließlich habe ich mir die ruhigen Nachmittage in der Stadtbücherei am Bertha-von-Suttner-Platz genommen, um Fachartikel in Ruhe querzulesen und mir die Kriterien selbst zusammenzustellen. Wie ich das Ergebnis anschließend im Team kommuniziert habe, ohne dass es nach Kontrolle klingt, beschreibe ich in meinen Notizen zur KI-Einsatz-Kommunikation und den Transparenzregeln im Büro.
Welche Pflichten tauchen neben der Antidiskriminierung sonst noch auf?
Diskriminierung ist nur ein Ausschnitt aus einem größeren Pflichtenkatalog, der auf HR-Abteilungen zukommt. Ob ein Recruiting-Tool überhaupt in die höchste Risikoklasse fällt, hängt von einer eigenen Einstufung ab, die ich an anderer Stelle ausführlich durchgegangen bin. Bestimmte Anwendungen, etwa eine automatisierte Emotionserkennung bei Bewerbungsgesprächen, sind ohnehin komplett verboten, unabhängig davon, wie fair sie rechnen. Bei den erlaubten Hochrisiko-Systemen wiederum verlangt der Gesetzgeber, dass am Ende immer ein Mensch die letzte Entscheidung trifft und nicht blind das Ranking übernimmt. Weil im Streitfall irgendjemand erklären muss, warum eine Bewerbung aussortiert wurde, kommt niemand an einer sauberen Dokumentation der einzelnen Schritte vorbei. Und auch die Pflicht, KI-gestützte Einschätzungen gegenüber Bewerbenden erkennbar zu machen, gehört in dieses Paket, auch wenn sie bei einem reinen Auswahltool selten im Vordergrund steht.
Und was ist mit Schulung, Daten und Mitbestimmung?
Neben der reinen Technik hängt an einem Projekt wie unserem eine ganze Reihe organisatorischer Punkte. Mitarbeitende, die mit einem KI-System arbeiten, müssen dafür ausreichend geschult sein, das ist keine Kür, sondern eine eigene Pflicht, die ich in einem separaten Eintrag beschrieben habe. Bevor überhaupt an Schulung zu denken ist, muss klar sein, welche Tools im Haus wirklich im Einsatz sind, und genau diese Inventur aller offiziellen und inoffiziellen KI-Anwendungen war bei uns ein eigenes Projekt für sich. Dazu kommt die Frage, wie Bewerberdaten überhaupt gespeichert, geschützt und wieder gelöscht werden, also ein Stück Daten-Governance, das ohne klare Zuständigkeiten schnell im Sand verläuft. Wo ein Betriebsrat existiert, hat er bei der Einführung solcher Systeme ein Wörtchen mitzureden. Wer die Verantwortung zwischen Softwareanbieter und uns als Betrieb im Zweifel trägt, ist noch einmal eine eigene rechtliche Frage für sich. Ein KI-Kompetenznachweis für einzelne Mitarbeitende kann an der Stelle helfen, ist bei uns bislang aber eher ein Randthema.
Wie viel davon am Ende beim Team ankommt, hängt stark von der Unternehmenskultur ab. Die Kolleginnen und Kollegen aus der IT haben schnell gemerkt, dass ein Algorithmus im Recruiting kein rein technisches Thema ist, sondern eines, über das man offen reden muss, ähnlich wie in meinen Notizen zur neuen KI-Etikette am Arbeitsplatz beschrieben. Julia, eine Bekannte, die beruflich im IT-Recht unterwegs ist und der ich unsichere Fälle informell schildere, antwortet auf solche Fragen fast immer mit einem trockenen "kommt drauf an", ganz ohne dass das eine förmliche Rechtsberatung wäre, und liegt damit öfter richtig, als mir lieb ist.
Was am Ende hängen bleibt
Ich bekomme regelmäßig Nachrichten von Leuten in einer ganz ähnlichen Lage. Uwe Hoffmann, Geschäftsführer eines Handwerksbetriebs mit rund dreißig Beschäftigten in Mönchengladbach, hat unter einem älteren Eintrag geschrieben, bei ihm sehe es genauso aus, nur ohne eine einzige HR-Person im Haus. Er macht inzwischen vieles selbst, einfach weil sonst niemand da ist, der es tut, und genau das trifft auf sehr viele kleine Betriebe zu, die gerade erst anfangen, sich mit Antidiskriminierung im Recruiting zu beschäftigen.
Der eine Satz, den ich Leuten wie Uwe mitgeben würde: Ein faires System entsteht nicht dadurch, dass man geschützte Merkmale löscht, sondern dadurch, dass jemand regelmäßig nachschaut, wen der Algorithmus eigentlich aussortiert und warum. Wer diese Kontrolle nicht fest einplant, egal ob mit zwei oder mit zweihundert Beschäftigten, überlässt die Entscheidung darüber, wer eingeladen wird, am Ende einer Software, die selbst nicht erklären kann, was sie da eigentlich gelernt hat. Damit die Berührungsängste im Team dabei nicht zu groß werden, hat uns am Anfang eine kleine interne Schulung geholfen, ähnlich wie ich sie im Beitrag zum KI-Führerschein im Büro beschrieben habe.
Ein kurzer Hinweis am Rande: Ich teile hier meine persönlichen Erfahrungen als HR-Managerin. Dies stellt keine Rechtsberatung dar. Wenn du es für dein Unternehmen rechtssicher klären willst, frag bitte unbedingt eine Anwältin für IT-Recht.