Überprüfung des Diskriminierungsschutzes in der digitalen Arbeitswelt

Koalitionsvertrag

Diskriminierungsverbote der analogen Welt müssen auch in der digitalen Welt der Algorithmen gelten (KoaV 47/2092 f.).

Gleichstellungspolitische Relevanz

Durch den technologischen Umbruch werden (Zugangs-)Chancen und berufliche Entwicklungsmöglichkeiten neu verteilt – mit derzeit noch nicht überschaubaren Auswirkungen auf die Geschlechterverhältnisse. Ein erster Schritt ist die Überprüfung der Diskriminierungsverbote in der digitalen Arbeitswelt. Dies betrifft insbesondere die Frage des Zugangs zu Plattformen, die Auswahl der für Dienstleistungen Vermittelten und die Gestaltung digitaler Reputationsmechanismen. Die digitale Vermittlung von Personen erfolgt zwar auf den ersten Blick geschlechtsneutral, da Algorithmen Plattformarbeit zuteilen. Jedoch können beim Zugang zu Tätigkeiten über Crowdworking-Plattformen Geschlechterstereotype eine Rolle spielen und eine Diskriminierung aufgrund des Geschlechts nicht ausgeschlossen werden (ZwGB 217). Aber auch im Rahmen klassischer Beschäftigungsverhältnisse birgt der Einsatz von Algorithmen die Gefahr einer Diskriminierung, wenn bspw. Rollenstereotype die Schlussfolgerungen selbstlernender Systeme beeinflussen. Die Datenethikkommission schlägt daher vor zu überprüfen, ob der Anwendungsbereich des Antidiskriminierungsrechts auf Diskriminierungen auszuweiten ist, die auf einer automatisierten Datenauswertung oder einem automatisierten Entscheidungsverfahren beruhen (vgl. Gutachten der Datenethikkommission, Empfehlung Nr. 53).

Gleichstellungspolitische Wirkung

Die für klassische Beschäftigungsverhältnisse errungenen gleichstellungspolitischen Standards werden auf neue Tätigkeitsformen anwendbar gemacht. Es wird sichergestellt, dass der Diskriminierungsschutz von Beschäftigten auch in der digitalen Arbeitswelt besteht. Diskriminierung, auch wegen des Geschlechts, wird entgegengetreten.

Umsetzung

Icon: Pfeile mit der Beschriftung "Laufend"



Am 21. April 2021 hat die Europäische Kommission (KOM) einen Vorschlag für eine horizontale Verordnung für Künstliche Intelligenz (COM(2021) 206 final) veröffentlicht, die sich auf jedes Inverkehrbringen, jede Inbetriebnahme und jede Art von Nutzung von KI-Systemen in der Europäischen Union (EU), unabhängig davon, ob der Anbieter seinen Sitz in der EU hat bezieht. Im Arbeitsrecht zählen dazu Anwendungen, die ein erhebliches Potential für Diskriminierungen bergen, etwa in der Personalauswahl, bei Entscheidungen über Beförderungen, zur Beendigung von Arbeitsverhältnissen, bei Aufgabenzuweisung und zum Monitoring sowie zur Bewertung von Arbeitsleistung und -verhalten. Das Bundesministerium für Arbeit und Soziales wird in den weiteren Beratungen des Vorschlags den Fokus auf solche Anwendungen und Anwendungsbereiche legen, die ein hohes Diskriminierungspotential bergen, und dabei auch prüfen, ob neben den im Entwurf bereits konkret benannten Feldern weitere Anwendungsbereiche, wie etwa Zugang zu diskriminierungsfreien Daten als Grundlage für algorithmische Prozesse sowie KI-Anwendungen einbezogen werden müssen.

Auch der vom Bundesministerium für Arbeit und Soziales zur Umsetzung des Prüfauftrags im Koalitionsvertrag zum Beschäftigtendatenschutz eingesetzte interdisziplinäre Beirat zum Beschäftigtendatenschutz diskutiert Fragen des Diskriminierungsschutzes in der digitalen Arbeitswelt, etwa mit Blick auf Big Data und People Analytics im Beschäftigungskontext sowie auf den Umgang mit automatisierten bzw. KI-basierten Entscheidungsfindungen, bspw. im Rekrutierungsprozess. Der Beirat erarbeitet konkrete Handlungsempfehlungen in Form eines Abschlussberichts.