KI-Verordnung

Seit 2. Februar 2025 müssen verbotene KI-Systeme abgeschaltet werden und KI-Kompetenzen bei Nutzung von erlaubten KI-Systemen aufgebaut werden. Für Arbeitgeber sind die folgenden Neuerungen relevant.

KI-Kompetenzen:

Nach Art. 4 KI-VO müssen Arbeitgeber als sogenannte Betreiber Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass alle Beschäftigten, die mit der Nutzung von KI-Anwendungen befasst sind, über die notwendigen Kompetenzen verfügen. Dabei sind technische Vorkenntnisse, Erfahrungen, Qualifikation sowie der Kontext, in dem die KI-Systeme eingesetzt werden, zu berücksichtigen.

KI-Kompetenzen sind nach Art. 3 Nr. 56 KI-VO die Fähigkeiten, die Kenntnisse und das Verständnis, die es Beschäftigten ermöglicht, „KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu machen“.

Dabei ist zu beachten:

• Die Pflicht zum Ergreifen von Maßnahmen für die Kompetenzvermittlung gilt grundsätzlich für alle KI-Anwendungen, unabhängig von der Risikoklassifizierung.
• Die Vorschrift ist wenig konkretisiert. Welche Maßnahmen erforderlich sind, hängt im Einzelfall von der eingesetzten KI und von den Beschäftigten ab.
• Mögliche Maßnahmen können sein: Schulungen, KI-Guidelines, praxisorientiertes Lernen in divers zusammengesetzten Teams, Weiterbildungs- und Zertifizierungsprogramme oder die Benennung von Anlaufstellen wie betriebsinterner KI-Beauftragter.
• Die Pflicht ist sehr weich formuliert, sie kann auch lediglich als Appell verstanden werden. Dafür spricht, dass Art. 4 KI-VO nicht sanktionsbewährt ist.
• Das Unterlassen von Maßnahmen nach Art. 4 KI-VO stellt aber eine Sorgfaltspflichtverletzung dar, die bei Eintritt eines Schadens eine Schadensersatzpflicht auslösen kann.

Verbotene KI-Systeme:

Nach Art. 5 KI-VO sind KI-Systeme mit einem unannehmbar hohen Risiko grundsätzlich verboten. Gemeint sind damit KI-Systeme, von denen eine eindeutige Bedrohung ausgeht, weil sie z. B. manipulieren, täuschen oder Merkmale von Personen (Alter, Geschlecht, Herkunft etc.) kalkuliert ausnutzen. Die KI-VO katalogisiert diese verbotenen KI-Systeme, darunter z. B. solche, die ein sogenanntes Social Scoring vornehmen oder Systeme zur biometrischen Identifizierung. Dazu gehören grundsätzlich auch alle KI-Systeme zur Emotionserkennung am Arbeitsplatz.

Dabei ist zu beachten:

• Ausgenommen sind KI-Systeme, die aus rein medizinischen oder sicherheitstechnischen Gründen Emotionen erkennen, wie z. B. für therapeutische Zwecke.
• Nicht gemeint sind nicht körperliche Zustände wie Schmerzen oder Müdigkeit.
• Das Verbot nach Art. 5 KI-VO ist grundsätzlich sanktionsbewährt nach Art. 99 KI-VO.

Weitere Informationen zu den für Arbeitgeber relevanten Regelungen der KI-Verordnung finden Sie in dem Anwendungspapier der BDA: „EU AI Act – Was steht drin?“, welches in unserem Mitgliederbereich heruntergeladen werden kann.