Künstliche Intelligenz – wichtige Rechtsfragen
Solange wie es noch kein KI-spezifisches Gesetz wie den ARTIFICIAL INTELLIGENCE ACT (AIA) für die EU-Mitgliedsstaaten und damit Deutschland gibt, gilt „nur“ der aktuelle gesetzliche Rahmen. Insbesondere nach den bestehenden urheberrechtlichen, vertragsrechtlichen, datenschutzrechtlichen und haftungsrechtlichen Regelungen lassen sich zu den primären Rechtsfragen zur KI folgende Aussagen treffen:
Trainingsdaten
Nach diesen Regeln dürfen auch urheberrechtlich geschützte Texte, Bildern, etc. als Trainingsdaten für KI-Systeme verwendet werden, wenn der Urheber eines digitalisierten Werkes dieser Nutzung -in maschinenlesbarer Form- nicht widersprochen hat.
Bei der Verwendung von personenbezogenen Daten für KI-Systeme ist nach der Datenschutzgrundverordnung (DSGVO) immer eine Ermächtigungsgrundlage für deren Verarbeitung durch das KI-System erforderlich, d.h. der Verantwortliche muss im Zweifel mindestens ein größeres Interesse an der Verarbeitung gehabt haben als der Betroffene an der Nichtverarbeitung – davon ist bei personenbezogenen Daten von Kindern und sensiblen Daten grundsätzlich nicht auszugehen. Unternehmensdaten fallen nicht unter die DSGVO, können aber vertraglich und ebenso gesetzlich geschützt sein. Es empfiehlt sich, alle verwendeten Datensätze bereits aus datenschutzrechtlichen Rechenschaftspflichten zu dokumentieren, Trainingsdaten sind zuvor sorgfältig unter technischen als auch den genannten rechtlichen Aspekten auszuwählen.
Urheberschutz
Durch KI generierte Bilder, Texte, Musik, etc. sind grundsätzlich nicht urheberrechtlich geschützt, auch jeder andere darf sie in der generierten Form nutzen. Für Bilder, Texte, Musik, etc., die mit vielen und spezifischen Prompts generiert werden, könnte möglicherweise etwas anderes gelten, ebenso bei Ergebnissen, bei denen die KI als reines, ausführendes Tool angesehen werden muss oder das Ergebnis anschließend noch aufwendig von einem Menschen bearbeitet wird.
Vertragsrecht
Auch nach dem bestehenden Vertragsrecht mit seinen Zurechnungs- und Vertretungsregeln sollte es möglich sein, Verträge mittels KI wirksam zu schließen.
Haftung
Eine Haftung dürfte mindestens immer dann für KI-Systeme bestehen, wenn etwas verschuldet wurde und dieses Schulden zu vertreten ist, also fahrlässig oder vorsätzlich gehandelt wurde. Ein Verschulden könnte bereits vor in Kraft treten des AIA von den Gerichten und Behörden immer dann angenommen werden, wenn man die im AIA vorgesehenen Pflichten außer Acht gelassen hat, insbesondere nach ihm verbotene KI-Systeme (kognitive Verhaltensmanipulation, Fernerkennung in Echtzeit anhand von Biometrik und soziale Klassifizierung) betreibt oder die zahlreichen Auflagen (Risikomanagement, Datenqualität, Dokumentierung, Protokollierung, menschliche Aufsicht, Registrierung, Cybersicherheit, usw.) vor, während und nach dem Inverkehrbringen, Inbetriebnahme und Verwendung von sog. Hochrisiko-KI-Systemen nicht erfüllt.
Auch wenn noch nicht feststeht, ob, wann und in welcher Form der AIA kommt, der zudem in der jetzigen Fassung Übergangsfristen je nach Regelungsinhalt von bis zu 24 Monaten enthält, sollte man bei der Entwicklung von Hochrisiko-KI-Systemen möglichst alle vorgesehenen Auflagen erfüllen oder sich zumindest darauf vorzubereiten, sie zu erfüllen. Es muss nämlich davon ausgegangen werden, dass diese Systeme bei Geltung des AIA und der entsprechenden Vorschriften nachträglich auf ihre Konformität hin überprüft werden müssen.
Bereits aus eigenem Interesse sind alle Ergebnisse der KI-Software immer von einem Menschen vor ihrer internen oder externen Verwendung zu überprüfen. Dies dürfte auch ein wichtiges Kriterium ebenso wie ausreichende Hinweise auf von KI generierte Ergebnisse bei der zivil- und strafgerichtlichen Überprüfung eines KI-Systems im Zusammenhang mit Haftungsfragen sein.