EU KI-Verordnung

Am 1. August 2024 tritt die europäische KI-Verordnung (auch bekannt als AI Act) in Kraft. Damit stehen auch die Termine für die zeitlich gestaffelte Anwendbarkeit der KI-VO fest.

Die KI-VO Verordnung tritt ohne weiteren Umsetzungsakt in allen EU-Mitgliedsstaaten in Kraft. Anders als bei einer europäischen Richtlinie muss also der nationalen Gesetzgeber nicht selbst aktiv werden. Die KI-VO sieht allerdings, ebenso wie z. B. die Datenschutz - Grundverordnung (DS-GVO), eine zeitlich gestaffelte Anwendbarkeit vor. Diese findet in mehreren Stufen statt:

Stufe 1 – Geltung ab 2. Februar 2025
Die ersten Regelungen gelten bereits sechs Monate nach Inkrafttreten der KI-VO, sprich ab dem 2. Februar 2025. Dies betrifft – neben einigen allgemeinen Regelungen zum Anwendungsbereich und Begriffsbestimmungen – vor allem die Regeln zu sogenannten verbotenen Praktiken im KI-Bereich. Aus arbeitsrechtlicher Sicht sind hier insbesondere folgende Praktiken relevant:

• die Verwendung von KI-Systemen zur Erkennung von Emotionen einer natürlichen Person am Arbeitsplatz (mit Ausnahme von medizinischen oder Sicherheitsgründen),
• die Verwendung von KI-Systemen, die u.a. unter Ausnutzung der sozialen oder wirtschaftlichen Situation das Ziel haben, das Verhalten dieser Person wesentlich zu verändern, sowie
• die Verwendung von KI-Systemen zum sogenannten Social Scoring, zur Bewertung des Sozialverhaltens.

Stufe 2 – Geltung ab 2. August 2025
Verschiedene förmliche Regelungen zu KI-Systemen und Zuständigkeiten gelten vom 2. August 2025 an. Ab diesem Datum sind auch die Regelungen aus Kapitel V der KI-VO für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck wie z. B. Large Language Models (sog. LLMs wie etwa ChatGPT) anwendbar.

Relevant für die Praxis ist vor allem, dass ab diesem Zeitpunkt auch die durchaus erheblichen Geldbußen aus Kapitel XII der Verordnung greifen: Bei Verstößen gegen die bis dahin geltenden Regelungen der KI-VO drohen Geldbußen bis zu 35 Mio Euro oder bis zu 7 % des weltweiten Jahresumsatzes im Vorjahr, je nach dem welcher Betrag höher ist.

Stufe 3 – Geltung ab 2. August 2026
Vom 2. August 2026 an gelten grundsätzlich alle Regelungen der KI-VO, die nicht ausdrücklich zu einem anderen Zeitpunkt anwendbar werden. Für Arbeitgeber, die KI-Systeme in der Regel nicht entwickeln oder am Markt anbieten, sondern verwenden, sind etwa die Pflichten der Betreiber von Hochrisiko-KI-Systemen zu berücksichtigen. Dazu zählen beispielsweise Transparenz- und Berichtspflichten.

Stufe 4 – Geltung ab 2. August 2027
Erst ab dem 2. August 2027 werden einzelne Regelungen zur Einstufung bestimmter Hochrisikosysteme anwendbar sein. Die EU-Kommission wird bis zum 2. Februar 2026 eine Liste mit Beispielen für solche Hochrisikosysteme zur Verfügung stellen. Schon heute sind im Anhang zur KI-VO Hochrisikosysteme aufgelistet. Aus arbeitsrechtlicher Sicht relevant sind hier u.a.:

• KI-Systeme, die im Zusammenhang mit allgemeiner und/oder beruflicher Bildung verwendet werden, so etwa zur Feststellung des Zugangs, zur Bewertung von Lernergebnissen oder des angemessenen Bildungsniveaus der Person sowie zur Verhaltensüberwachung,
• KI-Systeme, die im Zusammenhang mit Beschäftigung, Personalmanagement und Zugang zu Selbständigkeit verwendet werden, so u.a. für die Einstellung oder Auswahl von natürlichen Personen (Kandidaten), insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten (CV Screening) und Bewerber zu bewerten, sowie
• KI-Systeme, die verwendet werden sollen:
  • für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsverhältnissen beeinflussen,
  • für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften, oder
  • für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen. 

Hinweise zum Datenschutz bei der Nutzung von Künstlicher Intelligenz
Der Europäische Datenschutzbeauftragte hat am 3. Juni 2024 hatte eine Guideline für den Umgang für die Nutzung von künstlicher Intelligenz verabschiedet.

Des weiteren hat der Europäische Datenschutzausschuss diverse Orientierungshilfen zum Datenschutz beim Umgang mit Künstlicher Intelligenz veröffentlicht. Diese Orientierungshilfen haben zwar keine Gesetzesqualität. Die Vorgaben sind aber insofern hilfreich und richtungsweisend, da der Europäische Datenschutzbeauftragte auch für die Interpretation der DS-GVO verantwortlich ist.

Quelle: Kliemt Blog 31.07.2024