EU KI-Verordnung tritt in Kraft

Sponer † / Steinherr † / Donath / Kapitza † / Wollensak

TVöD/TV-L PRO

Ihr Tarifrechtsexperte mit Kommentar, Rechtsprechung, Fachthemen, Praxisfällen, Arbeitshilfen und Webinaren

Vierteljahrespreis‎ 627,00 €

Online-Produkt

Jetzt bestellen

1. Risikobasierter Ansatz

Erstmalig wird durch die KI-Verordnung der Begriff des KI-Systems definiert. Nach Art. 3 Nr. 1 der KI-Verordnung ist ein KI-System ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können. Arbeitgeber werden regelmäßig als Betreiber verpflichtet, weil sie fremdentwickelte KI-Systeme in eigener Verantwortung verwenden.

Kernstück der KI-VO ist der risikobasierte Ansatz, der KI-Systeme abhängig vom geplanten Einsatz in verschiedene Risikogruppen einordnet. Art. 5 der KI-Verordnung nennt verbotene Praktiken im KI-Bereich, die künftig gänzlich unzulässig sind, da sie ein unannehmbares Risiko enthalten. KI-Systeme, die Emotionen einer natürlichen Person am Arbeitsplatz ableiten, gelten als unannehmbares Risiko und sind grundsätzlich verboten. Sie sind ausnahmsweise gestattet, wenn sie aus medizinischen Gründen oder Sicherheitsgründen verwendet werden.

Art. 6 ff. der KI-Verordnung befassen sich mit den Hochrisiko-KI-Systemen. Derartige Systeme unterliegen strengen Anforderungen. Im Beschäftigungsbereich gelten KI-Systeme als hochriskant, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden, insbesondere, um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Ebenfalls als Hochrisiko-KI sind KI-Systeme zu bewerten, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden.

Es gibt allerdings Ausnahmen, bei deren Vorliegen der Einsatz dieser Systeme ausnahmsweise nicht als hochriskant eingestuft wird. Dies ist der Fall, wenn das KI-System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit und Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis der Entscheidungsfindung wesentlich beeinflusst. Dies gilt beispielsweise, wenn die KI lediglich eng definierte Verfahrensaufgabe übernimmt oder die Ergebnisse einer zuvor von Menschen durchgeführten Tätigkeit verbessert. Ungeachtet dieser Ausnahmen gilt ein KI-System doch wieder als Hochrisiko-KI, wenn es ein Profiling natürlicher Personen i.S.d. Art. 4 Nr. 4 DSGVO durchführt.

Beste Antworten.

Newsletter Arbeits- und Tarifrecht

Regelmäßig erscheinender Newsletter zu den Neuigkeiten aus den Bereichen Arbeitsrecht und Tarifrecht des öffentlichen Dienstes sowie Empfehlungen zu neuen Produkten, Webinaren und Quizzen.

Jetzt gratis abonnieren

2. Pflichten für Betreiber von KI-Systemen

Unabhängig vom Risikograd müssen Arbeitgeber als Betreiber eines KI-Systems gemäß Art. 4 der KI-Verordnung nach besten Kräften sicherstellen, dass ihre Mitarbeiter über ausreichende KI-Kompetenzen verfügen. Dabei sind technische Kenntnisse, Erfahrungen, Ausbildung und Schulung, der spezifische Einsatzkontext der KI-Systeme sowie die Personen und Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Dr. Inka Knappertsbusch
Rechtsanwältin