Es stellt sich die Frage, ob ein Kollege aus der Konstruktion eben schnell die Spezifikation für unseren Ansprechpartner in Lyon durch ein kostenloses Online-Tool jagen darf, nur um das Französisch zu prüfen. Diese Frage bekomme ich als AI-Act-Beauftragte in einem Maschinenbau-Zulieferer mit 78 Beschäftigten inzwischen so oft gestellt, dass ich sie kaum noch zählen kann, und die ehrliche Antwort ist komplizierter, als die meisten im Haus erwarten. Viele bei uns glauben, ein reines Übersetzungstool sei aus Sicht der KI-Verordnung automatisch unproblematisch, weil es nicht in die Kategorie der Hochrisiko-Systeme fällt. Genau dieser Irrglaube beschäftigt mich seit meiner Ernennung zur HR-Compliance-Verantwortlichen am meisten, und er hat im Büroalltag mehr mit Datenschutz zu tun als mit der KI-Verordnung selbst.
Der Irrglaube: 'Minimales Risiko' heißt nicht 'ohne Regeln'
Die KI-Verordnung ordnet Systeme in unterschiedliche Risikostufen ein, und ein reines Sprachübersetzungstool landet in aller Regel in der niedrigsten Kategorie, was ich selbst lange als eine Art Freifahrtschein gelesen hatte, bis mir klar wurde, dass diese Einstufung nur das Tool selbst betrifft, nicht das, was wir hineinkopieren. Ein Tool kann technisch harmlos sein und trotzdem zum Problem werden, sobald eine Konstruktionszeichnung, eine Kundenliste oder ein interner Vermerk hineinwandert.
Wer Übersetzungstools deshalb pauschal verbietet, löst das Problem nicht, sondern verschiebt es nur. Es entsteht eine Schatten-IT, bei der Kolleginnen und Kollegen auf ihre privaten Handys ausweichen und wir als Unternehmen jede Kontrolle darüber verlieren, welche Texte wo landen. Genau deshalb halte ich ein Verbot für die riskantere Option, so gegenintuitiv sich das zunächst anhört.
Was passiert mit den Daten, wenn ein Gratis-Tool übersetzt?
Wenn wir Texte übersetzen, fließen fast immer personenbezogene Datenschutz-relevante Informationen ein: Namen von Ansprechpartnern, Telefonnummern, manchmal ganze Projektbeschreibungen mit Kundenbezug. Kostenlose Online-Tools nutzen Eingaben häufig standardmäßig zum Training ihrer eigenen Modelle, was bedeutet, dass eine interne Prozessbeschreibung Monate später sinngemäß bei einer ganz anderen Anfrage wieder auftauchen kann, ohne dass wir das jemals erfahren.
Ich habe mir deshalb extra Merkblätter des BMBF und Leitfäden der BDA vorgenommen, in der Hoffnung auf eine fertige Checkliste für einen Betrieb unserer Größe. Was ich bekam, waren klug formulierte, aber sehr allgemein gehaltene Texte, die weder unsere 78 Beschäftigten noch unsere konkreten Übersetzungssituationen im Alltag abdeckten. Am Ende musste ich die Leitplanken selbst bauen.
Falls du dich fragst, wie man andere kritische Systeme im Personalbereich zuverlässig erkennt, habe ich dazu an anderer Stelle beschrieben, hochriskante KI-Systeme im Personalwesen nach dem AI Act sicher erkennen, was mir auch bei der Einordnung von Übersetzungstools geholfen hat.
Datenschutz im Alltag: die Grenze zwischen harmlosem Text und Betriebsgeheimnis
Frau Krüger, unsere Fertigungsleiterin, steht regelmäßig vor demselben Problem: Ein Zulieferer aus Italien schickt Unterlagen, die im Haus niemand auf Anhieb versteht. Sie kopiert den Text in ein kostenloses Tool, bekommt in Sekunden eine Übersetzung und hat nie geprüft, was mit ihrer Eingabe passiert, sobald sie auf 'Senden' klickt. Das ist keine böse Absicht, sondern schlicht Bequemlichkeit unter Zeitdruck, und genau da setzt meine Arbeit an.
Genau an dieser Stelle verläuft für mich die eigentliche Grenze: Eine kurze Frage nach dem nächsten Restaurant am Zielort ist etwas völlig anderes als eine Konstruktionszeichnung, eine Gehaltsliste oder ein Kundenvertrag. Den Unterschied an einem Beispiel festzumachen, hat bei uns im Haus mehr bewirkt als jede abstrakte Erklärung der Risikoklassen.
Ein Ampelsystem statt eines pauschalen Verbots einführen
Ein Ampelsystem hat sich bei uns als einfachste Lösung durchgesetzt, weil es ohne Juristendeutsch auskommt und jeder am Kopierer in zehn Sekunden versteht, was gemeint ist. Grün steht für unsere lizenzierten Unternehmenstools mit einem Vertrag zur Auftragsverarbeitung, bei denen Eingaben nachweislich nicht zum Training der Modelle verwendet werden und die für alles Geschäftliche der Standard sind. Gelb gilt für öffentliche Gratis-Tools, aber nur für allgemeine Texte ohne Personenbezug und ohne Betriebsgeheimnisse, etwa eine schnelle Frage nach einem Restaurant am Zielort. Rot bedeutet: alles Vertrauliche, von Gehaltslisten über Konstruktionszeichnungen bis zu Kundenverträgen, und dafür sind Gratis-Tools bei uns komplett tabu.
Dieses System ist im Kern nichts anderes als eine kleine KI-Nutzungsrichtlinie, in Alltagssprache übersetzt, und genau deshalb hat sie sich durchgesetzt, während ein ausführliches Daten-Governance-Konzept vermutlich in der Schublade liegen geblieben wäre. Wir haben auch über ähnlich gelagerte Fälle gesprochen, etwa KI-Schreibassistenten im Büro nutzen und Unternehmensdaten dabei schützen, weil die gleiche Grün-Gelb-Rot-Logik dort genauso funktioniert.
Das kurze Surren unseres Flurdruckers kurz vor dem Papiereinzug ist für mich inzwischen fast ein Signal: gleich hängt wieder jemand mit einer Übersetzungsfrage im Türrahmen. Den Kopf dafür bekomme ich meistens erst auf einem kurzen Spaziergang am Medienhafen wieder frei, noch vor der Yogastunde am Mittwoch, in der mir mittendrin auffällt, dass für eine Stunde kein einziger KI-Begriff mehr durch meinen Kopf geistert.
Zwei einfache Fragen bringen mehr als ein 100-seitiges PDF
Ein Ampelsystem allein nützt aber wenig, wenn niemand es anwendet, deshalb prüfe ich bei jeder Anfrage zwei Dinge, bevor ich grünes Licht gebe: Enthält der Text einen Namen, eine Zahl oder eine Zeichnung, die außerhalb des Unternehmens nichts verloren hat, und läuft das genutzte Tool über einen Vertrag zur Auftragsverarbeitung? Nur wenn ich beide Fragen sicher beantworten kann, gebe ich die Freigabe. Alles andere landet automatisch bei Rot.
Wie gut Kolleginnen und Kollegen diese zwei Fragen selbst beantworten können, hängt stark von der KI-Schulungspflicht ab, die bei uns inzwischen fest eingeplant ist, und berührt am Ende auch ganz praktische Fragen der KI-Informationssicherheit, ohne dass dafür jemand IT-Spezialistin sein müsste. Compliance bedeutet für mich längst nicht mehr, alles zu verbieten, sondern sie so zu gestalten, dass der Arbeitsfluss nicht stoppt.
Falls du selbst einschätzen willst, wie fit deine Leute im Umgang mit solchen Tools sind, habe ich beschrieben, wie ich die KI-Kompetenz der Mitarbeiter ohne IT-Wissen strukturiert messe, was die Einführung eines Ampelsystems deutlich erleichtert. Der Mythos, ein Tool sei automatisch harmlos, nur weil es nicht als hochriskant gilt, hält sich hartnäckig. Am Ende entscheidet aber nicht die Einstufung des Tools über Rot, Gelb oder Grün, sondern allein der Inhalt dessen, was wir hineinkopieren.