Schatten-KI im Unternehmen – Eine unterschätzte Gefahr mit regulatorischem Sprengstoff

Managementpfl ichten des Arbeitgebers beim Einsatz von KI

• Prof. Dr. M. Risch-Kerst

Die Verordnung (EU) 2024/1689 über Künstliche Intelligenz – kurz KI-VO – ist das weltweit erste umfassende Regelwerk zum Umgang mit KI-Systemen. Aufgrund ihrer Unübersichtlichkeit stellt sie Unternehmen branchenübergreifend vor ein neuartiges, noch weitgehend unbekanntes Regelungsgefüge. Inhaltlich vereinen die Regelungen Aspekte des Produktsicherheits- und Digitalrechts. Arbeitgeber unterschätzen bislang vielfach das rechtliche Potenzial dieser Verordnung für ihre betriebliche Praxis. Zugleich ist KI längst in nahezu allen Unternehmensbereichen angekommen. Die derzeit virulenteste Gefahr ist die sogenannte „Schatten-KI“. Beschäftigte nutzen KI-Tools eigenmächtig außerhalb freigegebener Prozesse – ohne Kenntnis und Kontrolle des Arbeitgebers und mit erheblichen haftungs- und sicherheitsrechtlichen Risiken. Diese Konstellation bildet den Ausgangspunkt des vorliegenden Beitrags.