Was wiegt schwerer – ein Fehler, den ein Kollege in letzter Sekunde vor dem Versand entdeckt, oder einer, der erst beim Kunden auffällt? Diese Frage stellt sich bei uns im Haus immer wieder, seit KI-Tools nicht mehr nur eine Randnotiz in der HR-Arbeit sind, sondern jeden Tag mitlaufen. Fehlerkultur klingt in Schulungsunterlagen abstrakt, aber sobald ein KI-generierter Text mit einer erfundenen Qualifikation durchs Haus geht, wird sofort klar, wie viel an echter KI-Kompetenz für die AI-Act-Umsetzung im Alltag noch fehlt – bei den Kollegen und bei mir gleichermaßen.
Der Fehler, der erst nach dem Versand auffiel
Vor einiger Zeit hatte ich einen Textentwurf für eine Stellenausschreibung im Qualitätsmanagement fertig, komplett von der KI zusammengefasst. Beim ersten Lesen wirkte er tadellos, professionell und modern formuliert. Erst beim genaueren Hinsehen stand da eine Anforderung nach „tiefgreifenden Kenntnissen" in einer Software, die es in dieser Form schlicht nicht gibt – eine klassische Halluzination. Hätte ich den Text ungeprüft veröffentlicht, hätten sich vermutlich Bewerber gemeldet und nach genau dieser Qualifikation gefragt, die bei uns nie jemand verlangt hätte.
Genau in dieser Zeit hatte ich auch einen Versuch hinter mir, der nicht funktioniert hatte: Ich hatte die Geschäftsführung einmal mit dem kompletten Verordnungstext konfrontiert, Absatz für Absatz. Nach zehn Minuten war der Termin vorbei, ohne dass irgendetwas beschlossen wurde, nur mit genervten Blicken auf beiden Seiten. Um halb elf abends saß ich danach noch oft mit genau diesem Text vor mir, an derselben Randbemerkung hängen geblieben, während der leicht säuerliche Geruch von frisch bedrucktem Papier in der Nase hing.
Eine Prüfung im Nachhinein reicht nicht aus
Der Fehler in der Stellenausschreibung blieb am Ende harmlos, weil ich zufällig selbst noch einmal genau gelesen habe, bevor irgendetwas das Haus verließ. Eine Kontrolle, die erst ganz am Schluss steht, hat allerdings einen Haken: Sie hängt vollständig davon ab, ob überhaupt jemand an der richtigen Stelle genau hinschaut. Wer nur stichprobenartig nachliest, findet die auffälligen Fehler – die leisen dagegen, die sich elegant in einen sonst tadellosen Text einfügen, schlüpfen durch.
Mein Bekannter Oliver Franke, der freiberuflich als KI-Compliance-Coach arbeitet, hat zu praktisch jedem Tool eine Meinung, auch zu den Tools, die er selbst nie ausprobiert hat. Genau daran merke ich jedes Mal, warum eine zweite Meinung nur etwas wert ist, wenn sie tatsächlich geprüft und nicht bloß behauptet wurde. Bevor man überhaupt über Fehlerprüfung spricht, muss ohnehin klar sein, welche Tools im Haus laufen – das ist eine Frage der Schatten-KI-Inventur, aber ein eigenes Thema für sich. Genauso wenig geht es hier darum, welche Anwendungen von vornherein verboten sind oder in welche Risikoklasse ein System fällt – und ob am Ende Anbieter oder Betreiber haftet, wenn etwas schiefgeht, ist wieder eine andere Geschichte.
Fehlerkultur beginnt vor dem Versand, nicht danach
Bei einer Informationsveranstaltung der IHK zu Düsseldorf am Ernst-Schneider-Platz brachte ein Referent genau den Punkt, der bei uns seither hängen geblieben ist: Kontrolle darf kein Nachsorge-Termin sein, sondern gehört als fester Schritt in den Ablauf, bevor überhaupt etwas verschickt wird. Seitdem läuft bei uns kein KI-generierter Text und keine KI-Berechnung mehr ohne einen zweiten Blick raus, egal wie klein die Aufgabe war.
Der Trick, der bei uns am besten funktioniert, ist simpel: Statt jede Zeile einer KI-Ausgabe selbst mühsam nachzurechnen, geben wir das Ergebnis einer zweiten, unabhängigen KI eines anderen Anbieters und lassen sie gezielt nach logischen Brüchen und Rechenfehlern suchen. Zwei unterschiedlich trainierte Modelle stolpern selten an derselben Stelle, und genau das macht den Unterschied. Dass Mitarbeitende dafür überhaupt geschult werden müssen, steht ohnehin fest – das schreibt der AI Act in Sachen KI-Kompetenz vor, unabhängig davon, ob am Ende ein KI-Führerschein oder ein anderer Nachweis dabei herauskommt. Bei uns hat sich gezeigt, wie der KI-Führerschein die Qualität unserer Büroarbeit dauerhaft sichert, weil er die Kollegen dazu bringt, Tools gegeneinander zu prüfen, statt ihnen blind zu vertrauen.
Was im Gesetzestext nüchtern menschliche Aufsicht heißt, sieht in unserem Alltag ziemlich unspektakulär aus – zwei Bildschirme, ein zweites Modell, ein prüfender Blick vor dem Versand. Wie das im Detail rechtlich definiert ist, gehört in einen anderen Eintrag. Was wir inzwischen aber konsequent machen: Jede gefundene und korrigierte Fehlstelle wird kurz notiert, denn genau das verlangen unsere Dokumentationspflichten, auch wenn das im Tagesgeschäft oft die erste Regel ist, die unter Zeitdruck hinten runterfällt.
Kritischer wird es, wenn ein übersehener Fehler nicht nur falsch, sondern diskriminierend ist, etwa wenn eine KI in einer Bewertung unbewusst benachteiligende Formulierungen wählt – algorithmische Diskriminierung ist ein eigenes Kapitel für sich, das über reine Rechenfehler hinausgeht.
Was die Betriebsrats-Perspektive verändert
Ein Leser namens Christian Weber, der einem Betriebsrat in einem Lebensmittelbetrieb im Ruhrgebiet vorsitzt, hat mir vor einiger Zeit geschrieben und war ziemlich direkt: Er misstraut grundsätzlich jedem Tool, das irgendwie die Arbeitsleistung von Menschen misst, auch wenn es offiziell nur um Fehlerprüfung geht. Sein Einwand hat mich nicht sofort überzeugt, aber zum Nachdenken gebracht – eine reine Rechenfehler-Kontrolle sieht schließlich nicht, ob ein System nebenbei auch bewertet, wer wie schnell arbeitet. Wie ein Betriebsrat bei solchen Regeln von Anfang an eingebunden wird, ist ein eigenes Thema, das über unsere Fehlerprüfung hinausgeht. Ob ein Text am Ende überhaupt als KI-generiert gekennzeichnet werden muss, klären wir ebenfalls separat, genauso wie unsere Daten-Governance, die im Hintergrund mitläuft, hier aber nicht das Thema ist.
Nachkontrolle oder eingebauter Check: Wann sich was lohnt
Nach sechs Jahren, in denen ich mich beruflich mit Regeln, Prozessen und inzwischen auch mit der KI-Verordnung herumschlage, sehe ich beide Wege nicht als Gegensatz, sondern als Frage der Tragweite. Eine reine Nachkontrolle reicht für Routineaufgaben mit geringem Risiko, bei denen ein Fehler ärgerlich, aber folgenlos wäre, und bei denen sich der Aufwand für einen eingebauten zweiten Schritt schlicht nicht lohnt. Sobald ein Text oder eine Berechnung aber das Haus verlässt, Personen betrifft oder in einer Bewertung landet, gehört der Prüfschritt fest in den Ablauf, nicht als Notbremse danach.
Am Ende bleibt die Frage vom Anfang offen, und das ist auch richtig so, denn die Antwort hängt vom jeweiligen Fall ab. Was feststeht: Wer wartet, bis jemand zufällig einen Fehler findet, überlässt die Fehlerkultur dem Zufall. Wer den zweiten Blick von vornherein einplant, macht daraus ein System, und genau das ist der Unterschied, den ich in unserem Haus inzwischen jeden Tag sehe.