Auf meinem Fensterbrett liegt die ausgedruckte KI-Verordnung, gelb und orange markiert, und sie hat bisher keine einzige Bauteil-Spezifikation davon abgehalten, in einem Chatfenster zu landen. Das ist die nüchterne Ausgangslage für KI-Compliance in einem Betrieb mit 78 Mitarbeitenden, in dem HR-Management und Datenschutz im Büro bei derselben Person landen, nämlich bei mir. Ohne IT-Fachwissen bekommen wir die Risiken mit drei Handgriffen in den Griff: erst feststellen, welche KI-Tools überhaupt im Haus benutzt werden, dann eine dreifarbige Ampel als Regel aufhängen, dann mit erfundenen Daten üben. Die Reihenfolge ist wichtig, und warum, erkläre ich weiter unten.
Zur Einordnung: Wir sind ein mittelständischer Zulieferer und bauen Teile, keine Software. Mein Hintergrund ist BWL, nicht Informatik, und was du hier liest, sind Arbeitsweisen aus meinem Alltag als AI-Act-Beauftragte, keine Rechtsauskunft. Wer bei der KMU-Digitalisierung nur an Anschaffungen denkt, übersieht schnell, dass die Sicherheitsfrage weniger mit Technik zu tun hat als mit Gewohnheiten. Zum Nachschlagen gibt es das Gesetz über künstliche Intelligenz, ich lese es aber als Praktikerin und nicht als Juristin.
Warum Schatten-KI den Datenschutz im Büro aushöhlt
Frau Krüger, unsere Fertigungsleiterin, erzählte mir in der Kaffeeküche stolz, wie schnell sie inzwischen Schichtpläne und Bauteil-Beschreibungen optimiert. Sie kopiert die Spezifikationen einfach in ein frei verfügbares Sprachmodell. Bei mir zog es kurz in den Schultern. Die Bauteile sind unser Betriebsgeheimnis, und wenn diese Daten in einer Cloud liegen, die wir nicht kontrollieren, haben wir ein Problem.
Das nennt sich Schatten-KI, und die Ursache ist selten Nachlässigkeit. Die Leute wollen ihre Arbeit schneller erledigen, und in einem Team dieser Größe glaubt jeder, er sei der Einzige, der mal eben etwas hineinkopiert. Zusammen ergibt das ein Leck, das niemand absichtlich gebaut hat. Das Risiko sitzt also nicht im Tool selbst, sondern in der Frage, welche Information im Eingabefeld landet. Genau deshalb brauchst du dafür kein IT-Wissen, sondern eine klare Regel, die jede und jeder im Alltag anwenden kann.
Tobias und sein Kollege halten zu zweit die Server am Laufen. Jede einzelne Eingabe der Kollegen zu prüfen, ist nicht ihre Aufgabe und wäre auch nicht zu schaffen. Ich habe deshalb aufgehört, das Problem bei der IT abzuladen, und behandle es als das, was es ist: eine Organisationsfrage auf HR-Ebene.
Erst die Inventur, dann die Schulung
Mein erster Versuch lief falsch herum. Ich hatte eine Mitarbeiterschulung angesetzt, bevor ich wusste, welche Tools im Haus überhaupt benutzt werden. Nach der dritten Frage aus dem Raum, welches Programm ich denn eigentlich meine, war Schluss: Niemand konnte sagen, welche Tools gemeint waren, und ich auch nicht. Die Schulung wurde abgebrochen, und die Runde ging mit mehr Verwirrung auseinander, als sie mitgebracht hatte.
Seitdem gilt bei mir eine feste Reihenfolge: Bestandsaufnahme, dann Regel, dann Schulung. Das Prinzip ist simpel. Solange niemand die Tools beim Namen nennen kann, kann auch niemand eine Regel dazu verstehen. Wie so eine Inventur im Einzelnen abläuft, beschreibe ich in einem eigenen Beitrag.
Vor jeder Regel gehört außerdem der Betriebsrat an den Tisch. Das war bei uns eine harte Verhandlungsrunde, aber sie hat mir gezeigt, dass Verbote allein nicht tragen. Wir brauchen Leitplanken, die so einfach sind, dass man sie nicht ignorieren kann. Die in der Verordnung ausdrücklich verbotenen Praktiken, Social Scoring etwa, betreffen uns zum Glück nicht, und ich sage den Kollegen offen, dass es solche Grenzen gibt. Das schafft Vertrauen: „Das machen wir nicht, weil es unethisch und illegal ist."
Die KI-Ampel: drei Farben statt langer Richtlinie
Die Ampel ist eine einfache PDF-Grafik. Sie hängt an jedem schwarzen Brett und liegt als Hintergrundbild auf den Desktop-PCs der Verwaltung, auf meinem Firmen-PC links genauso wie bei allen anderen. Rot steht für personenbezogene Daten, Kundennamen und vertrauliche Zeichnungen, und die gehören niemals in öffentliche KI-Tools. Gelb gilt für interne Prozesse ohne Namen und für Entwürfe allgemeiner E-Mails, aber nur in den von uns freigegebenen Versionen. Grün bedeutet allgemeine Wissensabfragen, Ideen für die Weihnachtsfeier und Code-Schnipsel ohne Firmenbezug.
Als Entscheidungsregel gebe ich einen einzigen Satz mit: Steckt in deinem Text ein Name, ein Maß oder eine Zeichnung aus unserem Haus, ist er rot, egal wie harmlos er dir vorkommt. Und wenn du zwischen zwei Farben schwankst, nimmst du die strengere und fragst nach. Die Glasscheibe zum Flur hat bei mir keinen Vorhang. Ich arbeite deshalb so, dass jeder Vorbeigehende ruhig auf meine zwei Bildschirme schauen dürfte, denn wer die Ampel predigt, sollte sie selbst vorleben.
Mit erfundenen Daten üben, statt zu verbieten
Statt die KI-Nutzung komplett zu untersagen, bis die perfekte Lösung steht, ermutige ich die Leute, mit völlig fiktiven Daten zu experimentieren. Frau Krüger habe ich gesagt: „Nennen Sie das Projekt nicht Projekt Müller-Maschinenbau, sondern Projekt Raumschiff Orion. Ändern Sie alle Maße und Namen."
Das klingt nach Mehrarbeit, hat aber einen Nebeneffekt. Wer Daten anonymisieren muss, sieht erst, wie viele sensible Details sonst unbedacht mitwandern. Es ist ein Sicherheitstraining, das sich nicht wie eine trockene Schulung anfühlt. Die Übung ersetzt die Ampel nicht, sie schärft nur den Blick dafür. Ob ein KI-Führerschein oder ein Workshop das Team besser abholt, haben wir lange diskutiert und sind bei einer Mischung gelandet.
Wer hilft, wenn ich nicht weiterweiß?
Wenn jemand wissen will, wie die Datenverschlüsselung beim Anbieter eines Tools funktioniert, gebe ich die Frage an Tobias weiter. Wird es rechtlich brenzlig, rufe ich Julia Neumann an, Anwältin für IT-Recht und meine erste Anlaufstelle. Sie hat keine Geduld für Behördensprache und übersetzt mir Absätze der Verordnung mit einem Seufzer in normales Deutsch, sagt aber jedes Mal dazu, dass das keine Rechtsberatung ist. Ich bin keine Expertin, ich bin die Schnittstelle.
Falsch verstanden hatte ich zum Beispiel eine Klausel zu den Dokumentationspflichten für nicht-hochriskante Systeme, und Julia hat sie mir zurechtgerückt. Solche Korrektionen gehören dazu, und ich gehe offen damit um. Uwe Hoffmann, Geschäftsführer eines Betriebs in Mönchengladbach und Leser dieses Tagebuchs, fragt mich immer wieder, ob die Verordnung für seine Firma überhaupt gilt. Meine Antwort bleibt gleich: Das entscheidet keine HR-Managerin nach Bauchgefühl, sondern eine Fachperson, und bis dahin schadet eine Ampel an der Wand sicher nicht.
Mittwochabends gehe ich zum Yoga und lasse auf dem Weg durch den Medienhafen das Handy in der Tasche. Auf der Matte, den Blick an der Decke, ist zum ersten Mal in der Woche kein einziger KI-Begriff mehr in meinem Kopf, nur der Atem und ein leicht verspannter Nacken. Dieser freie Kopf ist Teil des Systems, denn nur damit fällt mir am nächsten Morgen auf, welche Regel zu kompliziert war.
Falls du in einer ähnlichen Rolle bist: Hab keine Angst vor deinem Nichtwissen. Die ITler kochen auch nur mit Wasser, und die Verordnungstexte sind für alle neu. Fang mit der Bestandsaufnahme an, hänge eine Ampel auf und übe mit erfundenen Daten. Ein Ampelsystem ist besser als gar keine Regel.