KI-Haftungsfragen
Künstliche Intelligenz (KI) wird immer häufiger eingesetzt, sei es bei ChatGPT oder teilautonom fahrenden Autos bis hin zu Diagnosen oder Therapien in der Medizin.
Wie KI-Systeme eingesetzt und benutzt werden können, hängt nicht nur von technischen Fragen, sondern auch von rechtlichen Fragen ab, die geklärt werden müssen. Wer haftet, wenn ein selbst fahrendes Auto einen Unfall verursacht: der Fahrer, der Halter oder der Hersteller? Wer haftet, wenn die KI-gestützte Diagnose Fehler aufweist: der Mediziner oder der Hersteller? Wer haftet für eine Auskunft, die von KI erstellt wurde?
Definition von KI
Nach Art. 3 Nr. 1 des Vorschlags für eine Verordnung zur Festlegung harmonisierte Vorschriften für KI ist „ein „System der künstlichen Intelligenz“ (KI-System) eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren“.
KI-Systeme sind also Programme, die Daten und Algorithmen verwenden, um selbständig Entscheidungen zu treffen oder Handlungen auszuführen und die zudem lernfähig sind. Für den Nutzer stellen sie häufig eine Blackbox dar.
Aktuelle Haftungsgrundlagen
In dem Beispiel mit dem selbst fahrenden Auto ist eine Haftung aufgrund folgender Rechtsgrundlagen denkbar:
- Produkthaftung
Der Hersteller oder Anbieter eines KI-Systems haftet für Schäden, die durch einen Fehler des Systems entstehen. (Produkthaftungsgesetz)
- Vertragliche Haftung
Der Verkäufer bzw. Anwender haftet für Mängel des Systems. (§§ 433ff, 631ff BGB)
- Deliktische Haftung
Werden geschützte Rechtsgüter wie z.B. Eigentum, Leben oder Gesundheit verletzt, haftet derjenige, der schuldhaft diesen Schaden verursacht hat. (§§ 823 ff BGB)
Der Anspruchsteller, der sich an den Anbieter des KI-Systems wendet, muss beweisen, dass das KI-System fehlerhaft ist bzw. dass sein Hersteller bei Erstellung eine Sorgfaltspflicht verletzt hat. Das wird für ihn derzeit fast unmöglich sein, da er ohne Mithilfe des Herstellers keine Informationen zur Programmierung der KI-Systeme erhalten wird.
EU-Rechtsrahmen
Am 11.12.2023 haben sich die Kommission, das EU-Parlament und der Ministerrat auf die finale Version einer KI-Verordnung geeinigt. Ziel ist eine Regulierung der KI, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen.
Verordnung zur Festlegung harmonisierter Vorschriften für KI (Gesetz über KI)
Seit April 2021 liegt ein Vorschlag der Kommission für den ersten EU-Rechtsrahmen für KI vor, der vom Europaparlament im Juni 2023 angenommen wurde. Dieses sog. Gesetz über KI wird die weltweit ersten rechtlichen Vorschriften für KI enthalten.
Danach sollen KI-Systeme, die in verschiedenen Anwendungen eingesetzt werden können, je nach dem Risiko, das sie darstellen, analysiert und eingestuft werden. Die verschiedenen Risikostufen unterliegen mehr oder weniger Regulierung.
Es soll vor allem sichergestellt werden, dass die in der EU eingesetzten KI-Systeme sicher, transparent, nachvollziehbar, nicht-diskriminierend und umweltfreundlich sind.
Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz
Desweitern liegt ein Vorschlag der EU-Kommission für eine neue Produkthaftungsrichtlinie mit besonderen Regeln für KI-Systeme vom September 2022 vor. Damit soll ein einheitlicher Rechtsrahmen für die EU geschaffen und Haftungslücken, die sich aufgrund der Besonderheit der KI-Systeme ergeben, gefüllt werden.
Die Richtlinie über KI-Haftung enthält insbesondere Beweislasterleichterungen für den Geschädigten.
Ausblick
Das Gesetz über KI legt Kriterien dafür fest, was KI darf und was nicht. Wie schnell derzeit bestehenden Haftungslücken durch die EU und den nationalen Gesetzgeber geschlossen werden, bleibt abzuwarten.