Senken des Haftungsrisiko durch Compliance – KI, ChatGPT & Co

Das Motto „Senken des Haftungsrisikos durch Compliance“ gilt für IT-relevante Key-Themen im Allgemeinen, aber für KI, ChatGPT & Co ganz besonders! Warum?

Auf EU-Ebene wird es ein ganzes „Gesetzespaket“ im Zusammenhang mit KI geben: Die vieldiskutierte Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz -“AI Act“ wurde im März 2024 vom EU-Parlament verabschiedet und muss noch vom Europäischen Rat verabschiedet werden. Hinzu kommen noch die als Vorschlag vorliegende Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (RL über KI-Haftung), die EU-VO über digitale Dienste vom 19.10. 2022 (Digital Services Act) und die EU-VO über digitale Märkte vom 14.9.2022 (Digital Markets Act), flankiert durch die seit 2018 geltende DSGVO.

Geschrieben wird zwar viel zum Thema KI, verwertbare Rechtsprechung gibt es aber noch keine. Außerdem sind Chatbots ChatGPT & Co eine rechtliche Black Box – – woher kommen die Trainingsdaten? Werden Rechte Dritter verletzt?

Klar ist nur der oft weitgehende Ausschluss der Haftung des Herstellers in den Nutzungsbedingungen. Und: KI-Systeme weisen Besonderheiten auf, wie insbesondere deren Lernfähigkeit, welche Auswirkungen auf die Ergebnisse und die Compliance haben können.

Umso mehr gilt es daher, den geplanten Einsatz von KI-Systemen im Unternehmen sehr sorgfältig zu prüfen und die Compliance-Organisation um die KI-Themen zu erweitern. Empfehlenswert ist eine umfassende Vorbereitung, wie insbesondere:

  • Assessment des geplanten Einsatzes des KI-Systems: was ist der geplante Einsatzzweck? Müssen dazu bestimmte rechtliche Voraussetzungen vorliegen? Welche Daten/Informationen des Unternehmens werden bereitgestellt? Welche Verpflichtungen ergeben sich aufgrund der Einstufung des geplanten KI-Systems gemäß EU-KI-VO?
  • Check der Nutzungsbedingungen anhand der zur Anwendung kommenden grundsätzlichen Compliance Richtlinien des Unternehmens sowie der Ergebnisse des Assessments
  • Überprüfung der Compliance über die Dauer des Einsatzes

Fazit: Sorgfalt geht vor Geschwindigkeit!