Fünfzehn Gesichter im Schulungsraum direkt neben der Fertigungshalle, ich habe gerade die erste Folie mit der Frage „Wer haftet eigentlich?" aufgelegt, und drei Handys leuchten schon wieder auf, als hätte ich die letzten zehn Minuten nur vor mich hin geredet. Irgendwo geht die Hallentür auf, ein Hauch von Maschinenöl zieht bis zu uns herüber.
Genau in diesem Moment wird mir klar: Die Frage nach der KI-Haftung ist für einen Maschinenbau-Zulieferer unserer Größe kein Seminarthema, sondern eine Frage, die über Existenz oder Ruin entscheiden kann. Als HR-Verantwortliche ohne juristische Ausbildung, aber mit inzwischen sechs Jahren Erfahrung im Betrieb, bekomme ich dieselben Fragen ständig gestellt – von Kolleginnen hier im Haus und von anderen HR-Leuten aus anderen KMU.
Bevor es weitergeht, kurz der Pflichthinweis: Ich verlinke hier gelegentlich Schulungsangebote, die ich selbst ausprobiert oder an Kolleginnen und Kollegen aus unserer Belegschaft weitergegeben habe, etwa den KI-Führerschein. Wenn du darüber buchst, bekomme ich eine Provision, für dich ändert sich am Preis nichts.
Wer haftet eigentlich, wenn die KI einen Fehler macht?
Rechtlich gesehen ist die Antwort unbequemer, als die meisten hoffen: In den meisten Fällen haften wir, als Unternehmen. Nicht automatisch der Hersteller der Software, nicht automatisch die einzelne Mitarbeiterin, die auf den Bildschirm gestarrt hat. Meinen ersten großen Denkfehler hatte ich übrigens genau hier gemacht – ich dachte lange, es haftet grundsätzlich, wer die Software programmiert hat. Beim Wühlen durch die EU-KI-Verordnung wurde mir schnell klar, dass das zu einfach gedacht war.
Anbieter oder Betreiber: Warum diese Unterscheidung über die Haftung entscheidet
Der Gesetzestext unterscheidet zwischen dem 'Anbieter', der ein System entwickelt oder unter eigenem Namen in Verkehr bringt, und dem 'Betreiber' – uns als Unternehmen, das ein fertiges System im beruflichen Alltag einsetzt. Als Betreiber müssen wir vor allem sicherstellen, dass ein System bestimmungsgemäß verwendet wird und dass jemand die Ergebnisse noch mit gesundem Menschenverstand gegenprüft. Und ja, dazu gehört auch, dass wir die menschliche Aufsicht über jedes eingesetzte System sicherstellen – ein Punkt, den ich hier nur kurz anreiße, weil er allein schon ein eigenes Kapitel füllen würde.
Sobald wir aber anfangen, ein System selbst zu verändern, etwa wenn unsere Entwickler ein Open-Source-Modell umbauen, rutschen wir in die Anbieter-Rolle hinein, und dann greifen deutlich strengere Pflichten. Diese eine Unterscheidung halte ich inzwischen für wichtiger als jede andere Regel im ganzen Dokument. Nicht jedes Tool ist dabei übrigens gleich riskant, und wie wir KI-Systeme nach Risikoklassen einteilen, habe ich an anderer Stelle ausführlich beschrieben.
Wann wird aus dem Betreiber plötzlich ein Anbieter?
Tobias aus der IT hat mich das neulich genauso gefragt, nachdem er wieder an einem Open-Source-Modell herumgeschraubt hatte, um es für unsere Fertigungsdaten passend zu machen. Die ehrliche Antwort: schneller, als den meisten Technikern lieb ist. Sobald ein System nicht mehr nur eingekauft und angewendet, sondern inhaltlich verändert wird, trägt derjenige, der es verändert hat, plötzlich Pflichten, die eigentlich für Softwarehersteller gedacht sind. Bei uns bedeutet das inzwischen: Jede Eigenentwicklung geht über meinen Schreibtisch, bevor sie produktiv geschaltet wird, und wenn ich unsicher bin, wird das Projekt erst mal gestoppt, auch wenn das bei den Entwicklern nicht immer für Begeisterung sorgt.
Die einzelne Mitarbeiterin haftet selten allein
Frau Krüger aus der Fertigung hat mich vor Kurzem gefragt, ob sie persönlich haftet, wenn sie ein KI-Tool falsch bedient und dabei etwas schiefgeht. Nach deutschem Arbeitsrecht liegt die Haftung in der Praxis meistens beim Unternehmen als Arbeitgeber, solange die Mitarbeiterin nicht vorsätzlich oder grob fahrlässig gehandelt hat. Das nimmt mir als HR-Verantwortliche aber keine Verantwortung ab, im Gegenteil: Je klarer ich dokumentiere, wer wann geschult wurde und welches Tool wofür freigegeben ist, desto eher lässt sich im Zweifel auch nachweisen, dass grobe Fahrlässigkeit eben nicht vorlag. Ob sich für einzelne Rollen sogar ein förmlicher Kompetenznachweis lohnt, habe ich getrennt für uns durchgerechnet – das würde hier aber zu weit führen. Diskriminierung durch einen Algorithmus ist dabei ein Risiko für sich, dem ich an anderer Stelle mehr Raum gebe, weil es allein schon ein eigenes Kapitel verdient hätte.
Was mir die BMBF-Merkblätter nicht beantworten konnten
An einem ruhigen Nachmittag in der Stadtbücherei am Bertha-von-Suttner-Platz in Düsseldorf habe ich mich durch die Merkblätter des BMBF und die Leitfäden der BDA gearbeitet, in der Hoffnung, dort endlich einen konkreten Fahrplan zu finden. Beide blieben so allgemein, dass ich am Ende immer noch keinen einzigen Satz hatte, den ich eins zu eins auf einen Betrieb mit 78 Beschäftigten hätte anwenden können. Da bin ich erstmal ziemlich frustriert auf meine Notizen gestarrt. Was tatsächlich weitergeholfen hat, war eine gezielte Basisschulung für die ganze Belegschaft, mit der wir wenigstens ein gemeinsames Grundverständnis geschaffen haben, bevor wir überhaupt über einzelne Rollen und Pflichten gesprochen haben – dafür hat sich bei uns der KI-Führerschein als brauchbarer Einstieg erwiesen, weil er genau dieses Grundwissen vermittelt. Dass Schulungen dabei ohnehin nicht freiwillig, sondern inzwischen verpflichtend sind, ist noch mal ein eigenes Thema für sich.
Und was ist mit Bußgeldern und dem ganzen Kleingedruckten drumherum?
Andere Fragen kommen im Flur oder per Chat auch dazu, aber jede würde für sich ein eigenes Kapitel füllen. Ob wir Schatten-IT im Blick behalten müssen, damit Haftung überhaupt greifbar wird – ja, und das ist mühsamer, als es klingt. Ob es Anwendungen gibt, die im Betrieb schlicht verboten sind, unabhängig von jeder Risikoeinstufung – auch ja, aber das sprengt hier den Rahmen. Wie weit die Pflicht reicht, KI-generierte Inhalte überhaupt als solche zu kennzeichnen, ist noch eine andere Frage für sich. Was eine vernünftige Daten-Governance im Büroalltag konkret bedeutet, bevor man über Haftung überhaupt sinnvoll sprechen kann, ist ebenfalls ein eigenes Thema. Wie man das alles so dokumentiert, dass es im Ernstfall auch etwas wert ist, füllt bei mir längst ein eigenes Kapitel. Und wie weit unser Betriebsrat bei alldem mitreden darf, ist die letzte große Frage, die regelmäßig aufkommt.
Was ich aber schon sagen kann, ohne auf eine dieser Fragen im Detail einzugehen: Die Bußgelder bei Verstößen sind keine symbolischen Beträge, sondern bewegen sich in Größenordnungen, die einen Betrieb unserer Größe ernsthaft ins Wanken bringen könnten. Wenn du bei null anfängst, würde ich dir eher raten, dir zuerst eine KI-Richtlinien Vorlage zu besorgen, statt gleich bei den Bußgeldparagrafen einzusteigen.
Fazit: Haftung beginnt nicht bei der KI, sondern bei uns
Rechtlich gesehen stehen wir als Unternehmen fast immer in der ersten Reihe, wenn etwas schiefgeht, ob es nun um Diskriminierung, Datenschutz oder fehlerhafte Arbeitsergebnisse geht. Die Ausrede 'die KI war's' zählt vor Gericht nicht, und das sage ich Kolleginnen und Kollegen inzwischen genauso unverblümt. Wenn du es ganz genau wissen willst, führt an einer Fachanwältin für IT-Recht kein Weg vorbei, aber mein Weg als Nicht-Juristin sieht in der Praxis so aus: dokumentieren, schulen, kontrollieren, und bei Unsicherheit lieber einmal zu oft nachfragen als einmal zu wenig. Wer sein Team rechtlich absichern und die nötige Fachkompetenz aufbauen will, findet im KI-Führerschein aus meiner Sicht einen soliden Einstieg – für uns war er der Punkt, an dem sich die Stimmung im Team von reiner Sorge hin zu einem kontrollierten Umgang mit den Tools gedreht hat.