Algoritmer och AI - samtidens och framtidens diskrimineringsaktörer? En utredning av diskrimineringsrättsliga utmaningar vid tillämpning av algoritmisk arbetsledning
(2021) LAGF03 20211Department of Law
Faculty of Law
- Abstract (Swedish)
- Den tekniska utvecklingen har satt sin prägel på anställningsförhållandet. Algoritmer och AI-system kan användas av arbetsgivare för att utöva arbetsledning, och av plattformsföretag för att fördela arbetskraft. Uppsatsen syftar till att utreda och analysera vilka problem algoritmisk arbetsledning kan leda till och hur den svenska diskrimineringsrätten, med fokus på direkt diskriminering, förhåller sig till algoritmisk arbetsledning.
Diskrimineringslagen föreskriver att en arbetsgivare inte får diskriminera den som hos arbetsgivaren är arbetstagare eller arbetssökande. Ett direkt diskriminerande beteende är sådant som missgynnar någon genom att behandlas sämre än någon annan i en jämförbar situation om missgynnandet har samband med en... (More) - Den tekniska utvecklingen har satt sin prägel på anställningsförhållandet. Algoritmer och AI-system kan användas av arbetsgivare för att utöva arbetsledning, och av plattformsföretag för att fördela arbetskraft. Uppsatsen syftar till att utreda och analysera vilka problem algoritmisk arbetsledning kan leda till och hur den svenska diskrimineringsrätten, med fokus på direkt diskriminering, förhåller sig till algoritmisk arbetsledning.
Diskrimineringslagen föreskriver att en arbetsgivare inte får diskriminera den som hos arbetsgivaren är arbetstagare eller arbetssökande. Ett direkt diskriminerande beteende är sådant som missgynnar någon genom att behandlas sämre än någon annan i en jämförbar situation om missgynnandet har samband med en diskrimineringsgrund. Vidare krävs att arbetsgivaren har insikt om diskrimineringsgrunden i fråga.
Att en arbetsgivare använder algoritmer vid arbetsledning kan vid första anblicken verka vara ett neutralt sätt att fördela arbetet. Det går emellertid att ifrågasätta huruvida en algoritm är neutral. Algoritmer programmeras av människor vilket innebär en risk att algoritmens beslutsfattande speglar dess programmerares bias. Algoritmer förlitar sig på insamlade data för att fatta beslut. Användandet av denna insamlade data upplöser gränsen mellan arbetet och arbetstagarens privatliv vilket dels kan utgöra intrång i privatlivet, dels få diskriminerande effekter. Att ställa en algoritm till svars för en diskriminerande effekt av arbetsledning leder till problem eftersom det inte alltid står klart vilken data som ligger till grund för beslutet. Vidare är det inte enligt diskrimineringslagen okomplicerat att fastställa att algoritmens beteende utgör direkt diskriminering eftersom det krävs insikt om diskrimineringsgrunden för att diskriminering ska ha skett. (Less) - Abstract
- The technical development has left its mark on the employment relationship. Algorithms and AI systems can be used by employers to exercise work management, and by platform companies to distribute labour. The thesis aims to investigate and analyse what problems algorithmic work management causes and if the Anti-Discrimination Act, with focus on direct discrimination, is applicable to algorithmic work management.
The Anti-Discrimination Act stipulates that an employer may not discriminate against anyone who is an employee or job applicant. Direct discrimination implies behaviour that disadvantages someone by being treated worse than someone else in a comparable situation if the disadvantage is related to a ground of discrimination... (More) - The technical development has left its mark on the employment relationship. Algorithms and AI systems can be used by employers to exercise work management, and by platform companies to distribute labour. The thesis aims to investigate and analyse what problems algorithmic work management causes and if the Anti-Discrimination Act, with focus on direct discrimination, is applicable to algorithmic work management.
The Anti-Discrimination Act stipulates that an employer may not discriminate against anyone who is an employee or job applicant. Direct discrimination implies behaviour that disadvantages someone by being treated worse than someone else in a comparable situation if the disadvantage is related to a ground of discrimination mentioned in section 1 in the Anti-Discrimination Act. Furthermore, it is required that the employer has insight into the grounds for discrimination in question.
The fact that an employer uses algorithms in work management may at first glance seem to be a neutral way of distributing work. However, it is possible to question whether an algorithm is neutral. Algorithms are programmed by humans, which means that the algorithms’ decision-making reflect the bias of its programmers. Algorithms rely on collected data to make decisions. The use of this collected data blurs the boundaries between work and the employee's privacy, which can partly constitute an invasion of privacy as well as have discriminatory effects. Making an algorithm responsible for a discriminatory outcome of management leads to problems considering it is not always clear what data is the basis for the decision. Furthermore, according to the Anti-Discrimination Act, it is not forthright to establish that the algorithm's behaviour constitutes direct discrimination, since insight into the grounds for discrimination is required in order to establish that discrimination has occurred. (Less)
Please use this url to cite or link to this publication:
http://lup.lub.lu.se/student-papers/record/9045734
- author
- Sthen, Saga LU
- supervisor
- organization
- course
- LAGF03 20211
- year
- 2021
- type
- M2 - Bachelor Degree
- subject
- keywords
- Arbetsrätt, direkt diskriminering, Artificial Intelligence, algoritmisk arbetsledning, personlig integritet
- language
- Swedish
- id
- 9045734
- date added to LUP
- 2021-06-29 16:34:58
- date last changed
- 2021-06-29 16:34:58
@misc{9045734,
abstract = {{The technical development has left its mark on the employment relationship. Algorithms and AI systems can be used by employers to exercise work management, and by platform companies to distribute labour. The thesis aims to investigate and analyse what problems algorithmic work management causes and if the Anti-Discrimination Act, with focus on direct discrimination, is applicable to algorithmic work management.
The Anti-Discrimination Act stipulates that an employer may not discriminate against anyone who is an employee or job applicant. Direct discrimination implies behaviour that disadvantages someone by being treated worse than someone else in a comparable situation if the disadvantage is related to a ground of discrimination mentioned in section 1 in the Anti-Discrimination Act. Furthermore, it is required that the employer has insight into the grounds for discrimination in question.
The fact that an employer uses algorithms in work management may at first glance seem to be a neutral way of distributing work. However, it is possible to question whether an algorithm is neutral. Algorithms are programmed by humans, which means that the algorithms’ decision-making reflect the bias of its programmers. Algorithms rely on collected data to make decisions. The use of this collected data blurs the boundaries between work and the employee's privacy, which can partly constitute an invasion of privacy as well as have discriminatory effects. Making an algorithm responsible for a discriminatory outcome of management leads to problems considering it is not always clear what data is the basis for the decision. Furthermore, according to the Anti-Discrimination Act, it is not forthright to establish that the algorithm's behaviour constitutes direct discrimination, since insight into the grounds for discrimination is required in order to establish that discrimination has occurred.}},
author = {{Sthen, Saga}},
language = {{swe}},
note = {{Student Paper}},
title = {{Algoritmer och AI - samtidens och framtidens diskrimineringsaktörer? En utredning av diskrimineringsrättsliga utmaningar vid tillämpning av algoritmisk arbetsledning}},
year = {{2021}},
}