Väl förvarat i den svarta lådan? Rättsliga förutsättningar för meningsfull mänsklig inblandning i AI-stödda rekryteringsprocesser enligt artikel 22.1 GDPR.
(2026) LAGF03 20261Department of Law
Faculty of Law
- Abstract
- Summary
This thesis examines the demarcation of human intervention in AI-based re-cruitment processes within the framework of the prohibition of automated decision-making in Artikel 22.1 GDPR. The study arises from the increasing use of Artificial Intelligence (AI) in the field of recruitment, which has given rise to legal uncertainty when technology replaces human judgment. The lack of transparency in AI systems creates a so-called “black box” problem, in-creasing the risk that the legal protection afforded by Article 22 GDPR is by-passed through purely symbolic human measures, particularly in systems formally categorized as decision support systems but which, in practice, dic-tate the decisions-making.
The purpose of this thesis is to... (More) - Summary
This thesis examines the demarcation of human intervention in AI-based re-cruitment processes within the framework of the prohibition of automated decision-making in Artikel 22.1 GDPR. The study arises from the increasing use of Artificial Intelligence (AI) in the field of recruitment, which has given rise to legal uncertainty when technology replaces human judgment. The lack of transparency in AI systems creates a so-called “black box” problem, in-creasing the risk that the legal protection afforded by Article 22 GDPR is by-passed through purely symbolic human measures, particularly in systems formally categorized as decision support systems but which, in practice, dic-tate the decisions-making.
The purpose of this thesis is to investigate the legal scope of the prohibition in Article 22.1 GDPR and to establish the threshold for what constitutes mean-ingful human intervention. Using an EU legal method, the systematic structure of Article 22 GDPR is examined, and the underlying protective purpose of the provision is analysed through a teleological method of interpretation. Focus is placed on the doctrinal debate concerning a narrow versus a broad interpreta-tion of the criterion “solely”. Furthermore, the judgement of the CJEU in the SCHUFA case is analysed to determine whether the Court’s reasoning can be applied analogously in a recruitment context.
In conclusion, it is established that Article 22.1 GDPR should be interpreted broadly to avoid gaps in legal protection, in accordance with the SCHUFA judgment. For human intervention to be considered meaningful, the decision-maker must possess real discretion and sufficient competence to challenge the system’s results, thereby breaking the automation. However, it is demonstrat-ed that the inherent technical complexity of AI systems often makes meaning-ful intervention difficult to maintain in practice. Finaly this implies that many AI-supported recruitment processes legally fall within the scope of the prohi-bition of automated decision-making in Article 22.1 GDPR. (Less) - Abstract (Swedish)
- Sammanfattning
I denna uppsats behandlas gränsdragningen för mänsklig inblandning i AI-baserade rekryteringsprocesser inom ramen för förbudet mot automatiserade beslut i artikel 22.1 GDPR. Undersökningen aktualiseras av den ökade an-vändningen av artificiell intelligens (AI) inom rekryteringsområdet, vilket har gett upphov till rättslig osäkerhet när teknik ersätter mänsklig bedömning. Genom AI-systemens bristande transparens skapas en så kallad black box-problematik som ökar risken för att rättskyddet i artikel 22 GDPR kringgås genom rent symboliska mänskliga åtgärder, särskilt i system som formellt kategoriseras som beslutstöd men som i praktiken dikterar beslutsfattandet.
Syftet med uppsatsen är att utreda den rättsliga räckvidden av... (More) - Sammanfattning
I denna uppsats behandlas gränsdragningen för mänsklig inblandning i AI-baserade rekryteringsprocesser inom ramen för förbudet mot automatiserade beslut i artikel 22.1 GDPR. Undersökningen aktualiseras av den ökade an-vändningen av artificiell intelligens (AI) inom rekryteringsområdet, vilket har gett upphov till rättslig osäkerhet när teknik ersätter mänsklig bedömning. Genom AI-systemens bristande transparens skapas en så kallad black box-problematik som ökar risken för att rättskyddet i artikel 22 GDPR kringgås genom rent symboliska mänskliga åtgärder, särskilt i system som formellt kategoriseras som beslutstöd men som i praktiken dikterar beslutsfattandet.
Syftet med uppsatsen är att utreda den rättsliga räckvidden av förbudet i artikel 22.1 GDPR och att fastställa gränsen för vad som utgör en meningsfull mänsklig inblandning. Genom en EU-rättslig metod undersöks systematiken i artikel 22 GDPR, och bestämmelsens skyddsändamål analyseras med hjälp av en teleologisk tolkningsmetod. Särskilt fokus ägnas åt den doktrinära debatten rörande en snäv kontra en bred tolkning av rekvisitet ”enbart”. Vidare analys-eras EU-domstolens avgörande i SCHUFA-målet och huruvida domstolens resonemang kan tillämpas analogt i en rekryteringskontext.
Sammantaget konstateras att artikel 22.1 GDPR bör tolkas brett för att und-vika luckor i rättsskyddet, i enlighet med SCHUFA-målet. För att mänsklig inblandning ska anses vara meningsfull krävs att beslutsfattaren har ett reellt handlingsutrymme och tillräcklig kompetens för att utmana systemets resultat och därigenom bryta automatiseringen. Avslutningsvis visas dock att den tek-niska komplexiteten i AI-system ofta medför att en meningsfull inblandning blir svår att upprätthålla i praktiken. Detta innebär att många AI-stödda rekry-teringsprocesser juridiskt sett faller inom tillämpningsområdet för förbudet mot automatiserat beslutsfattande i artikel 22.1 GDPR. (Less)
Please use this url to cite or link to this publication:
https://lup.lub.lu.se/student-papers/record/9226457
- author
- Höök, Alicia LU
- supervisor
- organization
- course
- LAGF03 20261
- year
- 2026
- type
- M2 - Bachelor Degree
- subject
- keywords
- EU-rätt (en. EU law), IT-rätt (en. IT law), GDPR, Dataskydd, Automatiserat beslutsfattande, Automated decision-making, Mänsklig inblandningars, Human involvement
- language
- Swedish
- id
- 9226457
- date added to LUP
- 2026-08-25 11:34:38
- date last changed
- 2026-08-25 11:34:38
@misc{9226457,
abstract = {{Summary
This thesis examines the demarcation of human intervention in AI-based re-cruitment processes within the framework of the prohibition of automated decision-making in Artikel 22.1 GDPR. The study arises from the increasing use of Artificial Intelligence (AI) in the field of recruitment, which has given rise to legal uncertainty when technology replaces human judgment. The lack of transparency in AI systems creates a so-called “black box” problem, in-creasing the risk that the legal protection afforded by Article 22 GDPR is by-passed through purely symbolic human measures, particularly in systems formally categorized as decision support systems but which, in practice, dic-tate the decisions-making.
The purpose of this thesis is to investigate the legal scope of the prohibition in Article 22.1 GDPR and to establish the threshold for what constitutes mean-ingful human intervention. Using an EU legal method, the systematic structure of Article 22 GDPR is examined, and the underlying protective purpose of the provision is analysed through a teleological method of interpretation. Focus is placed on the doctrinal debate concerning a narrow versus a broad interpreta-tion of the criterion “solely”. Furthermore, the judgement of the CJEU in the SCHUFA case is analysed to determine whether the Court’s reasoning can be applied analogously in a recruitment context.
In conclusion, it is established that Article 22.1 GDPR should be interpreted broadly to avoid gaps in legal protection, in accordance with the SCHUFA judgment. For human intervention to be considered meaningful, the decision-maker must possess real discretion and sufficient competence to challenge the system’s results, thereby breaking the automation. However, it is demonstrat-ed that the inherent technical complexity of AI systems often makes meaning-ful intervention difficult to maintain in practice. Finaly this implies that many AI-supported recruitment processes legally fall within the scope of the prohi-bition of automated decision-making in Article 22.1 GDPR.}},
author = {{Höök, Alicia}},
language = {{swe}},
note = {{Student Paper}},
title = {{Väl förvarat i den svarta lådan? Rättsliga förutsättningar för meningsfull mänsklig inblandning i AI-stödda rekryteringsprocesser enligt artikel 22.1 GDPR.}},
year = {{2026}},
}