Im folgenden Beitrag werden die Herausforderungen bei der Personalauswahl durch eine KI konkreter beschrieben.
Bei der Einstellung neuen Personals müssen die folgenden Punkte berücksichtigt werden: der im Arbeitsrecht verankerte Schwerpunkt einer möglichen Ungleichbehandlung von Beschäftigten, die Reichweite von Mitbestimmungsrechten nach dem BetrVG (z. B. § 95) und Fragen der Direktionsrechtsausübung in Bezug auf KI (vgl. Hennig/Nadler 2020). Eine weitere wichtige Regelung, die eine KI bei der Personalauswahl direkt betrifft, ist das Allgemeine Gleichbehandlungsgesetz (AGG).
Nach § 1 AGG ist eine Benachteiligung bzw. jede Ungleichbehandlung aus Gründen der Rasse, der ethnischen Herkunft, des Geschlechts, der Religion, der Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität verboten.
In der Vergangenheit verstieß eine KI eines großen Versandhändlers in den USA bereits gegen diesen Gleichbehandlungsgrundsatz, indem die Frauen im Bewerbungsprozess benachteiligt wurden (vgl. Dastin 2018). Doch wie konnte es dazu kommen? Eine KI, die für die Personalauswahl verwendet wird, wurde mit Daten aus den vorangegangen Bewerbungsprozessen und Auswahlzyklen trainiert. „Trainiert“ bedeutet, dass der KI die Bewerbungen der letzten Bewerbungsrunden gezeigt werden.
Dabei werden die Informationen für das Training herangezogen, an denen festgemacht werden kann, ob eine sich vorher beworbene Person erfolgreich im Bewerbungsprozess war oder nicht. Die KI versucht nun in den Daten Muster und Zusammenhänge zu finden, die einen erfolgreichen Bewerber ausmachen. Sind diese Daten jedoch verzerrt, z. B. wenn vorher vor allem Männer eingestellt wurden, kann es dazu kommen, dass das Merkmal „Frau“ zu einer Ablehnung der Bewerbung führt. Eine solche Verzerrung zu entdecken ist recht einfach. Komplizierter wird es, wenn Diskriminierungen implizit (also verdeckt) in den Daten vorliegen.
Im vorangegangen Beispiel könnte man das Geschlecht bei dem Trainieren der KI weglassen. Dennoch gibt es weitere enthaltene Muster, die der KI implizit erlauben, Frauen vom weiteren Bewerbungsprozess auszuschließen, z. B. aufgrund eines zeitlichen Bruchs im Lebenslauf (Schwangerschaft). Das Gleiche gilt für Menschen mit Migrationshintergrund, die häufiger in ärmeren Gegenden wohnen als Personen ohne Migrationshintergrund. Lernt die KI aufgrund vorangegangener Bewerbungsprozesse, dass Personen aus bestimmten Gegenden häufig abgelehnt wurden, kann es also dazu kommen, dass die KI sich bewerbende Personen mittelbar benachteiligt.
Ein wichtiges Problem, das sich daraus ergibt, sind Entscheidungen der KI, die im Nachhinein nicht mehr nachvollziehbar sind (Black-Box-Problem), wodurch mittelbare Benachteiligungen nicht auffallen und sogar fortgeschrieben werden können. Die Funktionsweise der meisten KI-Systeme lässt jedoch häufig keine Transparenz, Nachvollziehbarkeit und Erklärbarkeit (wie oft gefordert – vgl. Klebe/Klengel 2020) zu. Die Funktionsweise der KI-Algorithmen ist frei zugänglich und lässt sich zumindest methodisch nachvollziehen. Jedoch können kompliziertere KI-Verfahren ihre Entscheidungen weder erklären noch können Experten sie bis ins letzte Detail nachvollziehen. Ein grundlegendes Verständnis von den KI-Algorithmen lässt eine Beurteilung zwar bis zu einem bestimmten Grad zu. Eine hundertprozentige Erklärung, weshalb ein KI-Algorithmus bestimmte Bewerber aussortiert hat, kann es bei den im Moment eingesetzten KI-Algorithmen aber nicht geben. An erklärenden KI-Verfahren wird wegen dieses Back-Box-Problems mit Nachdruck geforscht.
Damit ein Betriebsrat sein Mitbestimmungsrecht trotz dieses Black-Box-Problems weiter wahrnehmen kann, werden andere Ansatzpunkte benötigt, um Entscheidungen der KI, so gut es geht, nachvollziehen und erklären zu können. Folgend können die konkreten Handlungsmöglichkeiten für Betriebsräte festgehalten werden (vgl. Hennig/Nadler 2020, Klebe/Wenckebach 2020):
- Einsicht und Einflussnahme des Betriebsrats auf die zu verwendenden Daten
- Beschränkung der Datenerhebung auf kleine Personenkreise
- Sicherstellen und Kontrolle der Anonymisierung der Daten
- Beschränkung der Datenerhebung auf absolut notwendige Inhalte inkl. weitgehender Transparenz (Prinzip: So wenig wie möglich, aber so viel wie nötig.)
- Beschränkung der Datenerhebung auf möglichst kurze Zeit
- Während des Abschlusses von Betriebsvereinbarungen sollten Veränderungen und die Nutzung der Datenbestände von Vornherein berücksichtigt werden
- Wahrnehmung der Informationspflicht des Arbeitgebenden über Änderungen der KI (fortlaufend und festgeschrieben in Betriebsvereinbarung)
- Aggregation von personenbezogenen Daten
- bei Auswahl des KI-Algorithmus‘ mitbestimmungsfreundliche Technikgestaltung (z. B. das genutzte Verfahren) und mitbestimmungsfreundliche Voreinstellungen (verwendete Daten) berücksichtigen
- In Betriebsvereinbarung Verwertungsverbot von personenbezogenen Daten und Auswertungen auf Basis der DSGVO festschreiben
- Im Zweifelsfall KI-Algorithmen den Vorzug geben, die etwas schlechter sind, aber dafür nachvollziehbarere Entscheidungen treffen, um z. B. möglichen Zielkonflikten zwischen Datenschutz und Mitbestimmung Rechnung zu tragen
- versuchen durch Tests der KI sicherzustellen, dass diese diskriminierungs- und vorurteilsfrei und in der Lage ist, faire Entscheidungen zu treffen
- Zertifizierung von KI-Anwendungen, die die Persönlichkeitsrechte der Beschäftigten schützen
Die aufgeführten Handlungsmöglichkeiten sollten immer in enger Abstimmung mit dem Arbeitgebenden getroffen werden. Vor allem die Notwendigkeit der Festschreibung bestimmter Handlungsoptionen in die Betriebsvereinbarung ist hervorzuheben.
Autoren: Dr. Sascha Vökler und Robert Schneider, M. A.
Quellen:
Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. https://www.reuters.com/article/us-amazon-com-jobs-au-tomation-insight-idUSKCN1MK08G. Letzter Abruf: 17.11.2021.
Hennig J., Nadler A. (2020) Künstliche Intelligenz im Arbeitsrecht. In: Hartmann M. (eds) KI & Recht kompakt. IT kompakt. Springer Vieweg, Berlin, Heidelberg. https://doi.org/10.1007/978-3-662-61700-7_7
Klebe T., Wenckebach J. (2020) Künstliche Intelligenz – Handlungsfeld für betriebliche Mitbestimmung und Arbeitsrechtsregulierung. In: Bader V., Kaiser S. (eds) Arbeit in der Data Society. Zukunftsfähige Unternehmensführung in Forschung und Praxis. Springer Gabler, Wiesbaden. https://doi.org/10.1007/978-3-658-32276-2_20
Klebe, T., Klengel, E. (2020). Mitbestimmung der Zukunft. Künstliche Intelligenz als Herausforderung für die Mitbestimmung. Mitbestimmungsreport. Düsseldorf.
Niehaus, M., Katzan, J. (2020). Betriebsräte und Digitalisierung: Beispiele erfolgreicher Gestaltung und Begrenzung. AIS-Studien, 13(1), 40-53. https://doi.org/10.21241/ssoar.67656