Sind Sie smart genug für KI?

im August dieses Jahres ist die europäische Verordnung über künstliche Intelligenz (AI-Act) in Kraft getreten. Weltweit erstmals wurde eine umfassende Rechtsvorschrift zur KI erstellt. Mit dem AI-Act sollen mögliche Risiken der KI für die Bürger` gemindert werden. Auch der öffentliche Sektor unterliegt dem Regelungsbereich des AI-Acts. Die Verordnung enthält Pflichten sowohl z. B. für KI-Entwickler` als auch KI-Betreiber`. Die Pflichten sind je nach Risikoklasse der KI-Systeme unterschiedlich.

Bedeutsam für das Personalmanagement?

Auch für das Personalmanagement ist der AI-Act bedeutsam. So sind KI-Systeme, die z. B. der Bewertung von Lernergebnissen, zur Überprüfung von Unterschleif in Prüfungen oder der Bewertung von Bewerbenden dienen, als hochriskant einzustufen. Beim Einsatz hochriskanter Systeme sind eine Reihe von Anforderungen zu erfüllen, die in den Artikeln 8 bis 15 des AI-Act beschrieben werden.

Beste Antworten.

Newsletter Personalmanagement

Erhalten Sie regelmäßig Fachinformationen für Personaler und Führungskräfte zu den Themen Führung, Verwaltungs- und Unternehmenskultur sowie Verbesserung von Arbeitsabläufen.

Jetzt gratis abonnieren

Pflichten nach Art. 4 des AI-Act

Besonders hinzuweisen ist auf Art. 4 des AI-Act. Hiernach müssen die Betreiber` von KI-Systemen sicherstellen, dass ihr Personal, welches KI-Systeme nutzt, über ausreichende KI-Kenntnis bzw. -kompetenz verfügt. Diese Anforderung gilt unabhängig von der Risikoklasse des KI-Systems. KI-Kompetenz soll es dem Personal ermöglichen, „ … KI sachkundig einzusetzen sowie sich über Chancen und Risiken von KI und möglicher Schäden… “ (Knappertsbusch & Baumann, 2024) bewusst zu werden. Im Erwägungsgrund 20 des AI-Act ist ausgeführt: Die KI-Kenntnisse „ …können je nach Kontext variieren und können das Verständnis für die korrekte Anwendung technischer Elemente während der Entwicklungsphase des KI-Systems, die während seiner Nutzung anzuwendenden Maßnahmen, die geeignete Art und Weise der Interpretation der Ergebnisse des KI-Systems und - im Falle der betroffenen Personen - das Wissen umfassen, das erforderlich ist, um zu verstehen, wie sich mit Hilfe von KI getroffene Entscheidungen auf sie auswirken werden“.

News Personalmanagement

Aktuell informiert.

Lesen Sie hier verschiedene Gastbeiträge zum Thema Personalmanagement im öffentlichen Dienst.

Zu den aktuellen Beiträgen

Empfehlungen für die Personalentwicklung

Hinsichtlich der Gestaltung und Durchführung von Personalentwicklungsmaßnahmen im Hinblick auf KI-Kenntnisse ist für die Praxis der Personalentwicklung folgende Vorgehensweise empfehlenswert:

• Stellen Sie – z. B. mit organisationsweiten Abfragen – fest, welche Beschäftigte derzeit oder in naher Zukunft KI-Systeme nutzen (werden),

• analysieren Sie, welche KI-Kenntnisse für eine sachkundige Nutzung der jeweiligen KI-Systeme erforderlich sind; lassen Sie sich hierbei durch die Fachvorgesetzten der Beschäftigten, dem KI-Beauftragten oder dem CDO Ihrer Verwaltung unterstützen,

• prüfen Sie die derzeitigen KI-Kenntnisse der Beschäftigten, die KI-Systeme nutzen oder bald nutzen werden. Setzen Sie bei der Prüfung auf Selbstauskünfte der Beschäftigten, Einschätzungen von deren Vorgesetzten oder auf standardisierte Tests (siehe z. B.: https://www.fit4internet.at/page/assessment/ki),

• leiten Sie aus den aktuellen und den erforderlichen KI-Kenntnissen den PE-Bedarf der einzelnen Beschäftigten ab,

• stellen Sie den Beschäftigten unterschiedliche PE-Maßnahmen (z. B. Präsenz-Seminare, E-Learning, Hospitationen) zur Verfügung, mit denen der Bedarf der einzelnen Beschäftigten angesichts deren individuellen Situation und Präferenzen bestmöglich gedeckt werden kann,

• prüfen und dokumentieren Sie den Lernerfolg der Beschäftigten. Fragen Sie bei den Beschäftigten oder deren Vorgesetzten nach einiger Zeit nach, ob die erworbenen KI-Kenntnisse im Alltag für den Einsatz und das bessere Verständnis der KI-Systeme nützlich sind.

Packen wir es an und machen wir uns schlau für die Arbeit mit der KI!

Herzlichst
Andreas Gourmelon