Praxishandbuch zum Bayerischen Digitalgesetz (BayDiG)
Eine prozessorientierte Darstellung
1. Spitzengespräch „Digitales Bayern“
Am 14.03.2024 hat ein Spitzengespräch „Digitales Bayern“ in der Staatskanzlei stattgefunden. Es nahmen unter anderem Ministerpräsident Dr. Markus Söder, Finanzminister Albert Füracker, Innenminister Joachim Herrmann, Digitalminister Dr. Fabian Mehring, Innenstaatssekretär Sandro Kirchner sowie Vertreter der Bayerischen Kommunalen Spitzenverbände teil.
Über die Ergebnisse des Spitzengesprächs wurde in einer Pressekonferenz informiert, abrufbar unter: https://www.youtube.com/watch?v=LNchDMV5kXo.
Datenschutz in Bayern online
Bayerisches Datenschutzgesetz, Datenschutz-Grundverordnung - Kommentar und Handbuch für Datenschutzverantwortliche
2. KI-Verordnung der Europäischen Union
Das Europäische Parlament hat am 13.03.2024 dem „Gesetz über künstliche Intelligenz“ (KI-Verordnung) zugestimmt. Die Abgeordneten nahmen die Verordnung mit 523 zu 46 Stimmen bei 49 Enthaltungen an. Die angenommene Textfassung ist abrufbar unter: https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_DE.pdf.
Die Verordnung hat das Ziel, den freien Verkehr von KI-Systemen im europäischen Binnenmarkt zu ermöglichen. Sie gilt sowohl für öffentliche als auch private Akteure, die als Anbieter oder Betreiber von KI-Systemen agieren. Die KI-Verordnung verfolgt einen risikobasierten Ansatz, der darauf abzielt, KI-Systeme je nach dem von ihnen für Benutzer ausgehenden Risiko zu analysieren und zu klassifizieren. Abhängig von der jeweiligen Risikoklasse unterliegen KI-Systeme unterschiedlichen Regulierungen: Je höher das Risiko ist, desto strenger sind auch die Pflichten.
Die Verordnung untersagt spezifische Typen von KI-Systemen, insbesondere jene, die darauf ausgelegt sind, Personen subtil zu beeinflussen, um ihr Verhalten auf schädliche Weise zu steuern. Des Weiteren verbietet er Systeme, die soziale Bewertungssysteme („Social Scoring“) einführen, sowie die Echtzeiterkennung von Gesichtern in öffentlichen Bereichen, es sei denn, es besteht der Verdacht auf besonders schwere Verbrechen. Außerdem legt die Verordnung für die in den Anhängen II und III aufgelisteten Hochrisikosysteme umfangreiche Verpflichtungen fest. Anbieter von Hochrisikosystemen müssen unter anderem ein Risikomanagement etablieren, gewährleisten, dass Trainings-, Validierungs- und Testdatensätze relevant, umfassend repräsentativ sowie so fehlerfrei und vollständig wie möglich sind, technische Dokumentationen anfertigen und die Möglichkeit menschlicher Aufsicht sicherstellen.
Die Verordnung betrachtet öffentliche Behörden in der Regel als „Betreiber“ von KI-Systemen, aber sie gelten als „Anbieter“, wenn sie eigene KI-Systeme intern entwickeln oder individuell angepasste KI-Systeme entwickeln lassen, um sie unter ihrem eigenen Namen oder ihrer eigenen Marke entgeltlich oder unentgeltlich in Verkehr zu bringen oder in Betrieb zu nehmen. Sie gelten auch als Anbieter, wenn sie KI-Systeme für allgemeine Zwecke (KI-Basismodelle) an einen bestimmten Zweck anpassen. Viele der risikoreichen Anwendungsfälle betreffen direkt den öffentlichen Sektor, insbesondere in kritischen Bereichen wie Bildung, Arbeitsmarkt, öffentliche Dienstleistungen, Justiz sowie Sicherheitskomponenten im Management und Betrieb kritischer digitaler Infrastruktur, Straßenverkehr sowie der Versorgung mit Wasser, Gas, Heizung und Strom. Sollten öffentliche Behörden Anbieter von solchen Hochrisikosystemen sein, müssen sie dieselben Anforderungen erfüllen wie private Anbieter von Hochrisikosystemen, einschließlich der Durchführung von Folgenabschätzungen, der Systemregistrierung und der Einhaltung von Transparenzpflichten.
Ein weiterer Aspekt der KI-Verordnung betrifft spezielle Vorschriften für sogenannte KI-Basismodelle und generative KI, beispielsweise Generative Pre-trained Transformers (GPT), das Grundmodell hinter Chat-GPT oder Googles Sprachmodelle wie Gemini. Diese allgemeinen KI-Modelle, die nicht für einen einzigen Zweck entwickelt wurden, unterliegen strengen Transparenzvorgaben.
Die KI-Verordnung tritt am 20. Tag nach der Veröffentlichung im EU-Amtsblatt in Kraft und findet grundsätzlich 24 Monate später Anwendung. Einige Vorschriften sind aber auch schon früher anwendbar: So greifen die Verbote bereits nach sechs Monaten, die Vorschriften zu KI-Basismodellen gelten nach 12 Monaten bzw. erst nach 36 Monaten bei Hochrisikosystemen nach Anhang II.
Klaus Geiger, Referent beim Bayerischen Landkreistag
Beste Antworten.
Newsletter E-Government in der bayerischen Verwaltung
Ausgewiesene Experten informieren Sie regelmäßig über aktuelle Themen, Entwicklungen, Neuerungen und praxisnahe Produkte im Bereich E-Government.