Im Büro nickt niemand nach, wenn ein Chatbot einen Absatz für die nächste E-Mail vorschlägt. An der Fräse ist für so einen Fehlgriff der Software kein Platz. Ein falsch interpretierter Vibrationswert kann eine Spindel kosten, nicht nur einen peinlichen Satz. Genau dieser Unterschied ist der Grund, warum ich als AI-Act-Beauftragte in unserem Maschinenbau-Zulieferer Innovation in der Produktion und KI-Nutzung im Büro völlig unterschiedlich angehe. Wenn du gerade vor derselben Aufgabe stehst – KMU-Digitalisierung ohne eigene IT-Abteilung, dazu die AI-Act-Pflichten aus der HR-Ecke im Nacken –, kommt hier die Reihenfolge, die bei uns in der Produktion tatsächlich funktioniert hat, und nicht die, die in der Theorie am saubersten klingt.
Sechs Jahre mache ich inzwischen HR-Arbeit in diesem Betrieb, und die Klarheit, die ich inzwischen zu diesem Thema habe, kam nicht aus einer einzigen Lektüre. Vorgenommen hatte ich mir, den kompletten Text der EU-KI-Verordnung als PDF durchzuarbeiten, Kapitel für Kapitel, abends nach der Arbeit. Nach Seite 30 saß ich immer noch am selben Absatz, es war nachts halb elf, das Dokument lag offen auf dem Bildschirm, und kein einziger Satz davon war bei mir hängengeblieben. An dem Punkt habe ich das Vorhaben beerdigt. Verstanden habe ich die Materie erst bei einer Veranstaltung der IHK zu Düsseldorf am Ernst-Schneider-Platz, wo ein Referent die Pflichten anhand von echten Fertigungsbeispielen durchging und nicht anhand von Paragraphen.
Erst die Risikoklasse, dann das Tool
Der erste Schritt, bevor irgendjemand im Haus ein Angebot für eine 'Predictive Maintenance'-Software einholt, ist die Einstufung des geplanten Systems in eine Risikoklasse. Das ist ein eigenes, dickes Thema für sich – wie genau man ein System einordnet, würde hier zu weit führen –, aber ohne diese Einordnung weißt du schlicht nicht, welche Pflichten später greifen. Bei einer Anlage, die nur Vibrationsdaten einer CNC-Maschine auswertet und einen Wartungshinweis ausgibt, sieht die Einstufung anders aus als bei einem System, das über Schichteinteilung oder Leistungsbewertung mitentscheidet. Ein paar Anwendungsfälle sind davon unabhängig schlicht verboten, egal wie klein das Unternehmen ist, und die sollte man kennen, bevor man sich in ein Pilotprojekt verliebt und Geld dafür ausgibt.
Wer ist Anbieter, wer ist Betreiber?
Die zweite Frage, die wir uns zu spät gestellt haben, war die nach der eigenen Rolle. Wer ein KI-System in der Produktion anpasst oder unter eigenem Namen einsetzt, rutscht schnell in die Anbieterrolle – genau das wäre uns fast passiert, als Tobias vorschlug, die Wartungssoftware mit einem eigenen Dashboard und unserem Firmenlogo an die Kollegen auszurollen. Als reiner Betreiber hast du deutlich weniger Pflichten als ein Anbieter, aber die Grenze verläuft nicht dort, wo man sie intuitiv vermutet. Am Ende haben wir das Dashboard des Herstellers unverändert übernommen, auch wenn es weniger schick aussah als Tobias' Entwurf.
Schulungspflicht und KI-Führerschein für die Fertigungshalle
Aus der Risikoeinstufung folgt fast automatisch eine Schulungspflicht für alle, die mit dem System arbeiten – bei uns inzwischen ein Pflichttermin im Kalender, keine Kür mehr. Daraus haben wir unseren eigenen 'KI-Führerschein' gebaut: kurze, konkrete Einheiten direkt an der Werkbank statt einer einzigen langen Präsentation im Konferenzraum. Wie wir überhaupt zu diesem Format gekommen sind und wie wir die KI-Kompetenz im Mittelstand ohne IT-Experten fördern, habe ich an anderer Stelle ausführlicher beschrieben. Ob am Ende ein externes Zertifikat mehr wert ist als eine gute interne Schulung, ist noch mal eine andere Diskussion – für den Start in der Produktion reicht es, wenn jeder glaubhaft zeigen kann, dass die Grundlagen sitzen.
Schatten-KI sichtbar machen, bevor sie zum Problem wird
Bevor überhaupt ein neues, offizielles Produktionssystem eingeführt wird, lohnt sich eine ehrliche Bestandsaufnahme der KI-Tools, die längst inoffiziell im Einsatz sind. Bei uns kamen dabei mehr Programme zusammen, als ich erwartet hätte – von einer Übersetzungs-App auf dem Diensthandy eines Vorarbeiters bis zu einem Foto-Tool, mit dem jemand in der Qualitätssicherung Fehler an Bauteilen automatisch markieren ließ, ohne dass sonst jemand davon wusste. Diese Schatten-KI zuerst zu finden ist mühsamer, als gleich ein neues System einzukaufen, aber sie zeigt auch, wo im Betrieb bereits ein echter Bedarf besteht.
Menschliche Aufsicht gehört auf den Hallenboden
Jemand aus der Schicht muss die Entscheidung der Software jederzeit überstimmen können, sonst ist die menschliche Aufsicht nur ein Wort auf dem Papier. Bei uns bedeutet das ganz praktisch: Der Wartungsvorschlag der Software ist ein Vorschlag, keine Anweisung, und die Person an der Maschine trifft die letzte Entscheidung, auch wenn das heißt, dass eine Wartung verschoben wird, obwohl das System gerade gewarnt hat. Frau Krüger hat darauf bestanden, dass diese Regel schriftlich festgehalten wird, bevor die erste Anlage überhaupt lief, und das war eine der klügeren Bedingungen, die aus der Fertigung kam. Am Ende geht es bei alldem um Instandhaltung, die auf Vertrauen zwischen Mensch und System aufbaut, nicht auf einer blind übernommenen Software-Warnung.
Daten, Dokumentation, Kennzeichnung: die unsichtbare Arbeit im Hintergrund
Neben der sichtbaren Schulung läuft im Hintergrund die Arbeit, die kein Kollege in der Produktion je zu sehen bekommt. Woher die Trainings- und Betriebsdaten des Systems stammen, wer darauf Zugriff hat und wie lange sie gespeichert werden, ist eine Frage sauberer Daten-Governance, und die ist in der Fertigung mindestens so wichtig wie im Büro. Dazu kommt eine laufende Dokumentation – kein einmalig ausgefülltes Formular, sondern ein Nachweis, der mit jeder Software-Aktualisierung mitwächst. Sobald ein System außerdem mit Menschen kommuniziert oder selbst Inhalte erzeugt, etwa automatisch generierte Wartungsberichte, kommt eine Kennzeichnungspflicht dazu, die in der Produktion gerne übersehen wird, weil dort niemand an 'Content' im klassischen Sinn denkt.
Der Betriebsrat gehört an den Tisch, bevor die Maschine online geht
Ein Punkt, den wir unterschätzt hatten: Sobald ein System Leistungsdaten erfasst oder in die Schichtplanung einfließt, ist die Mitbestimmung keine Formsache, sondern eine Voraussetzung. Wir haben den Betriebsrat eingebunden, bevor die erste Anlage lief, nicht danach, und das hat uns mindestens eine unangenehme Nachverhandlung erspart. Genauso wichtig: Auch in der Produktion kann ein System Kollegen systematisch benachteiligen, etwa wenn Leistungsdaten in eine automatisierte Schichteinteilung einfließen – algorithmische Diskriminierung ist kein reines Bürothema, auch wenn sie dort öfter diskutiert wird.
Was am Ende zählt, ist die Reihenfolge: erst einordnen, dann schulen, dann dokumentieren, und erst danach über das eigentliche Tool sprechen. Ein Freund von mir, der sonst in seiner Freizeit in einer Hobbyband Schlagzeug spielt, hat mich neulich gefragt, warum ich mich überhaupt mit so einer Gesetzestextauslegung beschäftige, statt einfach ein Tool zu kaufen und loszulegen. Die ehrliche Antwort: weil diese Reihenfolge am Ende schneller ist als jeder Versuch, ein falsch eingeführtes System später wieder einzufangen. Sie ist keine Rechtsberatung, aber sie ist der Ablauf, der bei uns in der Praxis funktioniert hat – und ich gebe ihn genau so weiter, wie wir ihn tatsächlich durchlaufen haben.