Es ist ein weit verbreiteter Gedanke, dass es genügt, vor dem Prompt nur den Namen und das Foto aus der Bewerbung zu löschen, um ChatGPT im Recruiting datenschutzkonform zu nutzen. Diese Frage höre ich in Gesprächen mit anderen HR-Leuten aus dem Mittelstand so oft, dass ich sie hier einmal gründlich auseinandernehmen will. Als AI-Act-Beauftragte in einem Maschinenbau-Zulieferer bin ich für genau solche Fragen zuständig, seit mir diese Rolle mehr oder weniger zugeschoben wurde, ohne dass im Haus jemand genau wusste, was AI Act Mittelstand in der Praxis überhaupt bedeutet. Der Irrglaube, Anonymisierung allein würde für Datenschutz Recruiting reichen, hält sich hartnäckig, und wenn man ihn bei KI im HR einfach so stehen lässt, wird er teuer.
Im Gesetz über künstliche Intelligenz steht nirgends wörtlich 'ChatGPT im Recruiting', aber die Kategorien, die dort definiert werden, treffen auf genau diesen Anwendungsfall zu. Das hatte ich anfangs selbst falsch eingeschätzt: Ich dachte, solange kein Name mehr im Text steht, sind wir aus dem Schneider. Ein Irrtum, den ich mittlerweile öfter höre, als mir lieb ist.
Der Irrglaube von der sicheren Anonymisierung
Unsere Fertigungsleiterin, Frau Krüger, hat mir das mal so erklärt: Namen weg, Foto weg, dann ist es doch bloß noch ein anonymer Text, oder? Ich musste ihr widersprechen. Wenn im Lebenslauf noch ein bestimmter Vereinssport steht oder eine Lücke, die sich klar als Elternzeit lesen lässt, kann ein Sprachmodell trotzdem auf Geschlecht oder Lebenssituation schließen – die Löschung des Namens verhindert das nicht. Schlimmer ist der umgekehrte Fehler: Wer zu radikal kürzt, entzieht dem Modell den Kontext, und dann fängt es an, Eigenschaften zu erfinden, die im Original gar nicht standen. Ich habe das selbst erlebt, als ich Firmennamen aus einem Lebenslauf strich, die für die Einschätzung der Berufserfahrung wichtig gewesen wären – am Ende deutete die KI die Lücke als fehlende Erfahrung, die es so nie gab. Anonymisierung ist kein Schalter, den man einmal umlegt, sondern eine Abwägung zwischen Kontext und Personenbezug.
Warum ChatGPT im Recruiting schnell zum Datenschutzproblem wird
Genau hier beginnt der eigentliche Denkfehler: Die Risikoeinstufung hängt nicht daran, ob ein Name im Prompt steht, sondern daran, wofür das System im Bewerbungsprozess eingesetzt wird. Sobald eine KI im Bewerbungsprozess mitentscheidet, wer eine Absage bekommt, kann ChatGPT als Hochrisiko-Anwendung eingestuft werden, was konkrete Dokumentationspflichten auslöst – das hätte ich ohne die Beschäftigung mit den Risikoklassen nicht erwartet.
Als ich das neulich in einer Leitungsrunde erklärt habe, hat die Geschäftsführung bei dem Begriff Risikoklasse nur genickt – niemand hat nachgefragt, was das eigentlich bedeutet, und genau das macht mir mehr Sorgen als offene Skepsis. In meinem Bericht als interne KI-Beauftragte im Mittelstand schreibe ich solche Momente inzwischen bewusst auf, weil ein Nicken ohne Rückfrage im Ernstfall nicht als Nachweis für funktionierendes Risikobewusstsein zählt.
Diskriminierung entsteht im Recruiting selten durch böse Absicht, sondern über Trainingsdaten aus vergangenen Einstellungsrunden, die alte Muster einfach reproduzieren, und das hat mit gelöschten Namen im Prompt überhaupt nichts zu tun.
Was passiert, wenn ganze Dokumente in den Chat wandern?
Unser IT-Kollege Tobias liebt Abkürzungen. Er hat mir mal gezeigt, wie er ein komplettes Arbeitszeugnis – Name, Geburtsdatum, früherer Arbeitgeber inklusive – direkt ins Chatfenster kopiert hat, um es in Sekunden zusammenzufassen. Wir wissen nicht, wo die Server stehen, wir haben für diese konkrete Nutzung keinen Auftragsverarbeitungsvertrag, und wir füttern das Modell mit hochsensiblen Bewerberdaten. Das war der Moment, in dem mir klar wurde, dass wir nicht nur eine Regel für den einzelnen Prompt brauchen, sondern einen echten Überblick darüber, welche Tools in welchen Abteilungen überhaupt im Einsatz sind – so etwas wie eine Schatten-KI-Inventur, auch wenn wir das damals noch gar nicht so genannt haben.
Ohne geklärte Datenflüsse ist jeder Prompt mit Bewerberdaten ein Blindflug; deshalb haben wir eine kurze Liste, welche Daten unser Tool nie erreichen dürfen – Geburtsdatum, frühere Arbeitgeber und alles, was Rückschlüsse auf Herkunft oder Gesundheit zulässt.
Transparenz gegenüber Bewerbenden schaffen
Bewerbende müssen erfahren, dass im Auswahlprozess irgendwo KI mitläuft, und diese Offenlegung hat unsere Absageschreiben spürbar verändert.
Wer am Ende haftet, wenn ein Prompt schiefgeht, hängt auch davon ab, ob man als Anbieter oder als Betreiber eines KI-Systems gilt – dazu habe ich mal ausführlicher aufgeschrieben, wer haftet bei KI-Fehlern im Unternehmen eigentlich rechtlich gesehen?, weil mich diese Frage selbst lange beschäftigt hat.
Rein datenschutzrechtlich berührt das Ganze auch die Datenschutz-Grundverordnung, konkret die Regeln zu automatisierten Einzelentscheidungen – ohne dass ich hier im Detail auf einzelne Absätze eingehen will, das überlasse ich den Fachleuten.
Am Ende bleibt bei uns eine einfache Regel: KI darf Texte entwerfen, sortieren und vorformulieren, aber die letzte Entscheidung – jede Zusage, jede Absage – prüft ein Mensch, bevor sie rausgeht.
Wo die Verantwortung wirklich liegt
Oliver, ein freiberuflicher KI-Compliance-Coach, mit dem ich mich gelegentlich austausche, vergleicht das gern mit der Straßenverkehrsordnung: Man kann sich nicht rausreden, man habe das Schild nicht gesehen, nur weil man es nicht lesen wollte. Übertragen auf uns heißt das: 'Wir haben nicht gewusst, dass der Prompt ein Datenschutzproblem ist' zählt vor keiner Aufsichtsbehörde.
Ich hatte selbst versucht, mir das über einen gebuchten 'Alles in einem Tag'-Onlinekurs eines bekannten Anbieters draufzuschaffen. Die Inhalte waren spürbar auf Konzernstrukturen zugeschnitten, mit Compliance-Abteilungen und Rechtsteams, die wir gar nicht haben – für unseren Betrieb blieb am Ende kaum etwas übrig, das ich eins zu eins anwenden konnte.
Ein Leser, Christian Weber, Betriebsratsvorsitzender in einem Lebensmittelbetrieb im Ruhrgebiet, hat mir danach geschrieben und gleich gefragt, ob wir den Betriebsrat von Anfang an eingebunden hätten – aus seiner Sicht als Vertreter der Belegschaft ist das kein nachgelagerter Schritt, sondern der erste.
Also haben wir anders angesetzt und intern Schulungen aufgebaut, die ich hier als KI-Führerschein für Mitarbeiter beschrieben habe – kein Zertifikat von außen, sondern etwas, das zu unserer Größe passt.
Was bleibt, ist eine einfache Faustregel, die ich seither an jede Führungskraft weitergebe, die glaubt, Anonymisieren allein reiche aus: Bevor ein Prompt mit Bewerberdaten rausgeht, frag dich, wofür das Ergebnis genutzt wird, wer am Ende die Entscheidung trifft, und ob die Person, um die es geht, davon erfahren würde, ohne sich zu wundern. Wenn eine dieser drei Fragen unangenehm ist, ist das Löschen von Namen und Foto die falsche Baustelle. Auf dem Rückweg durch den Volksgarten geht mir das öfter durch den Kopf als mir lieb ist, gerade an Abenden, an denen im Großraumbüro um sechs schon fast alle weg sind und nur noch das eigene Tippen auf der Tastatur zu hören ist.