Worum geht's?

Immer mehr Entscheidungen lassen wir mittlerweile von künstlicher Intelligenz treffen – doch was passiert, wenn dabei Fehler entstehen? Wer trägt die Verantwortung, wenn ein KI-System Schaden verursacht: Der Hersteller, der Programmierer, das Unternehmen, das das System einsetzt, der Nutzer – oder gar die KI selbst? Fragen wie diese werden von immer größerer Bedeutung, je mehr KI-Anwendungen in unseren Alltag vordringen. Wir haben die Antworten.

1. KI und Haftung: Was ist das Problem?

Auch wenn es für einige von uns dystopisch klingen mag: Wir leben in einer Welt, in der falsches und gesetzeswidriges Handeln nicht mehr nur von Menschen begangen werden kann, sondern auch von künstlicher Intelligenz. Wer haftet beispielsweise, wenn

ein autonom fahrendes Fahrzeug bei einem Hindernis nicht auf das Feld neben der Straße, sondern in den Gegenverkehr ausweicht und mit anderen Autos kollidiert: Ist der Entwickler der KI verantwortlich, der Fahrzeughalter – oder die KI?
ein eigenständig arbeitender Roboter in einer Fabrik einen Mitarbeiter verletzt, weil er eine Bewegung falsch ausführt: Ist der Hersteller des Roboters haftbar oder das Unternehmen, das ihn nutzt?
ein KI-gestützter Kundenservice-Chatbot falsche oder irreführende rechtliche Ratschläge gibt: Haftet das Unternehmen, das den Chatbot betreibt, oder die Entwickler der KI?
die KI-basierte Bonitäts-Software einer Bank die Kreditwürdigkeit eines Kunden falsch kategorisiert, sodass dieser schlechte Konditionen beim Immobilienkredit hinnehmen muss: Wer ist verantwortlich?

Dies sind nur einige Beispiele, die zeigen, wie komplex die Fragen nach der KI-Haftung sind. Zugleich wird der Bedarf nach Antworten immer dringender – denn künstliche Intelligenz formt längst unseren Alltag und ist aus unserer Zukunft nicht mehr wegzudenken.

Bislang lassen sich viele Haftungsvorschriften, die in der EU gelten, jedoch nicht wirklich auf KI-Produkte beziehen. Wer z. B. Schadensersatz aufgrund eines Rechtsverstoßes einfordern will, muss nachweisen, dass die gegnerische Partei den Schaden auch tatsächlich verursacht hat. Bei KI ist das aufgrund des sogenannten Blackbox-Effektes oftmals kaum möglich.

GUT ZU WISSEN

Der Blackbox-Effekt beschreibt das Problem, dass die Prozesse, wie KI Entscheidungen trifft, oftmals nur schwer nachvollziehbar und nicht vollständig erklärbar sind. Selbst Datenwissenschaftler und Entwickler wissen nicht genau, warum eine generative KI tut, was sie tut. Genau das ist aber z. B. die Voraussetzung dafür, Schadensersatz geltend zu machen.

2. Wer ist für KI-Schäden haftbar?

Die Frage, wer beim Einsatz von KI für Schäden haftbar ist, ist komplex und lässt sich nicht pauschal beantworten, sondern entwickelt sich mit dem technologischen Fortschritt ständig weiter. Dennoch gibt es ein paar grundsätzliche Haftungsregelungen.

Zunächst einmal gilt: Eine künstliche Intelligenz selbst ist nicht haftbar, wenn sie Schäden verursacht. Denn auch, wenn es von außen betrachtet so erscheinen mag, als würde sie eigenständige Entscheidungen treffen, hat eine KI keine eigene Rechtspersönlichkeit und kann daher auch nicht haften.

Die Haftung für KI-Schäden liegt in der Regel bei den Personen oder Unternehmen, die an der Entwicklung, dem Betrieb oder der Nutzung des KI-Tools beteiligt sind.

Dazu gehören zum einen KI-Hersteller und KI-Anbieter. Sie können haften, wenn die KI fehlerhaft ist oder Sicherheitsmängel aufweist. Zum anderen können auch Betreiber und Nutzer haftbar sein, wenn die KI unsachgemäß eingesetzt wird oder wenn generierte Inhalte rechtswidrig verwendet werden – beispielsweise, weil sie geschütztem Material zu ähnlich sind, für das keine entsprechende Lizenzierung im Urheberrecht vorliegt.

WICHTIG ZU WISSEN

Als Unternehmen sind Sie haftbar, wenn Sie vorsätzlich oder fahrlässig einen Schaden verursachen oder sich nicht an vertragliche Vereinbarungen wie z. B. AGB halten. Nutzen, entwickeln oder betreiben Sie KI-Systeme, gelten diese Haftungsgrundsätze ebenfalls. Eine Haftung trifft Sie nicht, wenn Sie Ihre Sorgfaltspflichten einhalten und die geltenden Gesetze und Vertragsbedingungen beachten.

3. Wie ist die KI-Haftung gesetzlich geregelt?

Aktuell regeln das Bürgerliche Gesetzbuch (BGB), das Produkthaftungsgesetz und die Produkthaftungsrichtlinie Haftungsrisiken im Zusammenhang mit KI.

Bürgerliches Gesetzbuch (BGB)

Anbieter und Betreiber von KI-Systemen sind nach den Grundsätzen des Bürgerlichen Gesetzbuchs haftbar:

Nutzen Sie KI und kommt es zu einer vertraglichen Pflichtverletzung, haften Sie für entstandene Schäden.
KI-Hersteller und KI-Entwickler haften nur, wenn das KI-System nicht die vertraglich zugesicherten Eigenschaften erfüllt oder wenn unzureichende Sicherheitsmaßnahmen den Schaden verursachen.

Wichtig: Als Unternehmen können Sie Ihre eigene Haftung durch Disclaimer wie “Für KI-generierte Ergebnisse haften wir nicht” nicht ausschließen. Ein solcher Haftungsausschluss wäre nicht nur unwirksam, sondern auch abmahnfähig, weshalb Sie darauf bitte verzichten.

Produkthaftungsgesetz und Produkthaftungsrichtlinie

Das Produkthaftungsgesetz beruht auf der Produkthaftungsrichtlinie von 1985, die Ende 2024 durch die EU-Produkthaftungsrichtlinie 2024/2853 ersetzt wurde. Neu in dieser sind Ausführungen zur Haftung von KI-Systemen, die in den 1980er Jahren verständlicherweise noch keine Rolle spielten.

SCHON GEWUSST?

Die neue Produkthaftungsrichtlinie der EU wird insbesondere die Hersteller von KI-Systemen in die Haftung nehmen. Sie gilt für alle Unternehmen, die Produkte (auch Software und KI-Anwendungen) in der EU herstellen oder in Verkehr bringen.

Kommt es zu einem Schaden, soll die Richtlinie es Verbrauchern leichter machen, ihren Schadensersatzanspruch durchzusetzen. So ist u. a. eine verschuldensunabhängige Haftung vorgesehen: Anbieter und Entwickler von KI-Systemen haften demnach auch dann, wenn sie den Schaden nicht selbst verschuldet haben.

Konkret regelt die Produkthaftungsrichtlinie die KI-Haftung wie folgt:

Für Schäden durch fehlerhafte KI-Anwendungen und Software haften nicht nur Hersteller, Importeure und Lieferanten, sondern auch Lager- und Versanddienstleister sowie unter bestimmten Bedingungen Einzelunternehmer und Betreiber von Online-Marktplätzen.
Fehlerhaft ist eine Anwendung, ein System oder ein Produkt, wenn es nicht die Sicherheit bietet, die man als Verbraucher erwarten kann. Bei KI-Schäden betrifft das z. B. auch fehlerhafte Sicherheits-Updates oder unzureichende Schutzmaßnahmen vor Cyberangriffen.
Um Geschädigten die Durchsetzung von Ansprüchen zu erleichtern, kommt es zu einer Beweislastumkehr: Hersteller und Anbieter müssen nachweisen, dass der Fehler nicht in ihrer Verantwortung liegt. Wichtig: Anbieter sind auch Sie, wenn Sie eine White-Label-KI kaufen, anpassen und als Ihre eigene vermarkten.

Als Hersteller oder Anbieter können Sie gemäß der neuen EU-Produkthaftungsrichtlinie in Haftung genommen werden, wenn Sie relevante Informationen nicht offenlegen, Ihre KI-Anwendung nicht die vertraglich zugesicherten Eigenschaften erfüllt oder das Produkt während des normalen Gebrauchs offensichtlich versagt.

Sören SiebertRechtsanwalt

Die Haftung kann nicht ausgeschlossen werden, wenn Updates oder Machine-Learning-Prozesse bei generativer AI die Anwendung modifizieren und verändern. Konkret bedeutet das: Jede Änderung am Produkt kann sich auf die Haftung auswirken.

Umzusetzen ist die Produkthaftungsrichtlinie bis zum 09.12.2026.

4. Was ist der aktuelle Stand der KI-Haftungsrichtlinie?

Eigentlich sollten die Haftungsfragen durch die KI-Haftungsrichtlinie geklärt werden. Diese liegt aber seit Februar 2025 auf Eis. Die geplante Richtlinie verfolgte das Ziel, dass Opfer bei Schäden, die durch Künstliche Intelligenz verursacht wurden, die gleichen Ansprüche durchsetzen können wie im Falle von Schäden, die nicht durch KI entstanden sind.

Geschädigte sollten nicht mehr ausführlich nachweisen müssen, wie der Schaden zustande gekommen ist. Dadurch sollte das Problem des Blackbox-Effektes gemindert werden, da Geschädigte in der Regel eben nicht wissen, mit welchen Daten die KI trainiert wurde oder ob und wie sie überwacht wurde.

Verstoßen KI-Anbieter gegen ihre Sorgfaltspflichten, sollte zudem angenommen werden, dass der Schaden auf diese Pflichtverletzung zurückzuführen ist. Durch eine Offenlegungspflicht für Unternehmen und KI-Anbieter sollten betroffene Personen leichter Zugang zu Beweismitteln erhalten, um ihre Schadensersatzansprüche einfacher durchzusetzen. Die Anbieter hätten dann nachweisen müssen, warum aus ihrer Sicht kein Verschulden bzw. keine Sorgfaltspflichtverletzung vorliegt.

Wäre die KI-Haftungs-RL in Kraft getreten, hätten insbesondere für Hochrisiko-KI-Systeme, bei denen Nutzer potenziellen Gefahren für Leib und Leben ausgesetzt sind, strengere Vorschriften gegolten. Ein solches Hochrisiko-System ist z. B. das oben erwähnte autonom fahrende Auto, das in den Gegenverkehr rast.

GUT ZU WISSEN

Die Rücknahme des Vorschlags zur Haftungsrichtlinie kam für viele überraschend – auch wenn bereits einige Mitgliedsstaaten ihre Zweifel an der Sinnhaftigkeit geäußert hatten. Ob es von Seiten der Europäischen Kommission einen weiteren Vorstoß gibt, ist unklar. Bis auf Weiteres werden die Fragen zur Haftung von KI in den 27 EU-Mitgliedsstaaten auf nationaler Ebene geklärt.

5. Wie kann ich mich als Unternehmer absichern?

Auch wenn die Haftungsrichtlinie in ihrer ursprünglichen Form nicht kommen wird, sind Antworten auf die Fragen nach der KI-Haftung nicht weniger dringend. Die aktuellen Regelungen (z. B. Produkthaftung, BGB) gelten weiterhin. In Zukunft wird zudem die neue EU-Produkthaftungsrichtlinie eine wichtige Rolle spielen, die bis zum 09.12.2026 umgesetzt werden muss.

Um vorbereitet zu sein, lohnt es sich, up to date zu bleiben und Ihre Mitarbeiter zur aktuellen Rechtslage zu schulen. Weiterbildungen zur KI-Kompetenz sind nicht nur ratsam, sondern gemäß KI-Verordnung (KI-VO) sogar Pflicht – und zwar für alle Unternehmen, die KI nutzen. Schulen Sie Ihre Mitarbeiter, erstellen und dokumentieren Sie interne KI-Richtlinien und bleiben Sie über die aktuelle Rechtslage informiert. So können Sie sich schon jetzt bestmöglich absichern.

eRecht24 Premium bietet Ihnen das notwendige Hintergrundwissen, Premium-Tools und Webinare zu Themen wie “KI-Verordnung, ChatGPT & Co: KI rechtssicher im Unternehmen einsetzen”. Außerdem können Sie in unserem Projekt-Manager eine KI-Richtlinie für Ihre Mitarbeiter verfassen, in der Sie den Umgang mit KI-Tools regeln und dokumentieren können.

Weiterlesen:

6. FAQ: Häufige Fragen zu KI und Haftung

Wer haftet für KI-Schäden?

Je nach Fall können Hersteller, Betreiber oder Nutzer eines KI-Systems haften, insbesondere wenn Fahrlässigkeit oder mangelnde Sicherheitsvorkehrungen vorliegen.

Was ist mit der KI-Haftungsrichtlinie?

Die KI-Haftungsrichtlinie war ein Gesetzesentwurf der EU, der zusätzlich zur KI-Verordnung europaweite Haftungsregeln für Schäden durch künstliche Intelligenz schaffen sollte. Der Vorschlag wurde jedoch im Februar 2025 von der Europäischen Kommission zurückgezogen.

Was regelt die Haftungsrichtlinie?

Die Haftungsrichtlinie hätte u. a. Geschädigten den Nachweis von Fehlern des KI-Systems erleichtern sollen, um Schadensersatzansprüche einfacher durchsetzen zu können. Steht ein Hochrisiko-KI-System im Verdacht, für den Schaden verantwortlich zu sein, sollten Geschädigte zudem ein Recht auf Herausgabe wichtiger Informationen und Beweismittel haben.

Was sind Hochrisiko-KI-Systeme?

Hochrisiko-KI-Systeme sind Anwendungen, die erhebliche Auswirkungen auf Sicherheit, Gesundheit und Grundrechte von Personen haben können. Da sie potenziell in sensiblen Umgebungen wie Medizin und kritischer Infrastruktur eingesetzt werden, sind sie zwar nicht verboten – unterliegen aber strengeren Regularien, um Risiken zu minimieren.