Juristinnen nehmen Stellung zum Weißbuch zur Künstlichen Intelligenz

„Es ist erfreulich, dass die EU-Kommission einen wertebasierten Ansatz als wesentliches Element eines einheitlichen europäischen Regulierungsrahmens verfolgt. Die klaren Aussagen zu einem Diskriminierungsrisiko auf Grund des Geschlechts, die mit dem Einsatz Künstlicher Intelligenz verbunden sind, sowie den Willen, diesem entgegenzutreten und die Geltung der Grundrechte sicherzustellen, unterstützen wir ausdrücklich!“, so die Präsidentin des djb, Prof. Dr. Maria Wersig.

Der djb weist darauf hin, dass Algorithmen nicht nur bestehende gesellschaftliche Ungleichheiten widerspiegeln, sondern sie durch Automatisierung auch exponentiell perpetuieren und vertiefen. Dies betrifft wesentliche Bereiche wie das Arbeitsleben, etwa beim Einsatz von Algorithmen zur Auswahl von Bewerber*innen, den Gesundheitssektor, zum Beispiel beim Erkennen von Krankheitsbildern, aber auch Design und Funktionalität von Produkten. „Wo immer Entscheidungsprozesse automatisiert und optimiert werden, die zugrunde liegenden Daten aber nicht repräsentativ sind beziehungsweise nur den Durchschnittsmann als Norm beinhalten, kommt es zu einer Fortschreibung struktureller Benachteiligung von Frauen. Dem muss bewusst entgegengesteuert werden.“, betont die Präsidentin. Wegen der vorhandenen tatsächlichen Ungerechtigkeiten ist es wichtig, eine gendergerechte Überprüfung und Bereinigung der Daten vorzunehmen. Daneben sind weitere Maßnahmen erforderlich wie etwa die Etablierung eines Rechts auf Erklärung der individuellen Entscheidung oder gendersensible Konzepte bei der Ausbildung von Programmierer*innen.

Der djb ist wie die EU-Kommission der Auffassung, dass gesonderte rechtliche Vorgaben für KI-Anwendungen zu etablieren sind, um den spezifischen Gefahren Rechnung zu tragen. Die im Weißbuch beschriebenen Ideen für rechtlich verbindliche Anforderungen für KI-Anwendungen gehen dabei in die richtige Richtung. Allerdings ist der Ansatz, nur „hochriskante“ Anwendungen zu regulieren, aus Sicht des djb nicht geeignet, Grundrechtsverletzungen und Diskriminierungen wirksam zu verhindern. Der djb schließt sich hier der Position der Datenethikkommission an, nach der nur KI-Anwendungen mit ganz geringem Risiko von einer Regulierung ausgenommen werden sollten.

Hinweis:
Siehe dazu auch den Aufsatz „Alexa, bist du Feministin? Ein Plädoyer für eine emanzipatorische Perspektive auf algorithmische Systeme“ von Carla Hustedt in GiP 2/2020 Seite 29.