Diskriminierung durch Algorithmen

Gemeinsam mit 17 weiteren Organisationen unterstützt der Deutsche Juristinnenbund (djb) einen Offenen Brief von AlgorithmWatch, der sich gegen algorithmenbasierte Diskriminierung wendet und der am 17. Januar 2023 veröffentlicht wurde. Der Brief fordert die Bundesregierung auf, die anstehende Reform des Allgemeinen Gleichbehandlungsgesetz (AGG) zu nutzen, um Menschen zuverlässig zu schützen, wenn Algorithmen diskriminieren.

Von automatisierten Entscheidungssystemen wird oft behauptet, dass sie neutraler oder objektiver seien als Menschen. Die Fakten beweisen aber, dass sie im Gegenteil oft diskriminierend sind und bestehende Ungerechtigkeiten zementieren und verstärken können. Eine Studie von AlgorithmWatch zeigte zum Beispiel, dass Facebook grobe geschlechterspezifische Stereotypen verwendet, um das Schalten von Anzeigen zu optimieren.

Die deutsche Regierung nimmt diese Praktiken bisher einfach hin. Dies will der Offene Brief verändern, um in Zukunft schneller und effektiver gegen diese Form der Diskriminierung vorzugehen.

Im djb arbeitet die nichtständige Kommission Digitales seit 2016 zu Gleichberechtigung unter Einsatz neuer Technologien und den damit verbundenen gesellschaftlichen und rechtlichen Auswirkungen. Darunter fällt auch das Thema der Regulierung von Algorithmen.

Den Wortlaut des Offenen Briefes finden Sie hier.
https://algorithmwatch.org/de/offener-brief-diskriminierung-allgemeines-gleichbehandlungsgesetz/

Die Studie von AlgorithmWatch zum diskriminierenden Gender-Targeting durch Facebook finden Sie hier.
https://algorithmwatch.org/de/diskriminierendes-gendertargeting-durch-facebook/

Quelle: Pressemitteilung des djb vom 18.1.2023