Intelligenta (AI) algoritmer - En studie i GDPRs förhållande till profilering och automatiserat beslutsfattande
(2018) JURM02 20182Department of Law
Faculty of Law
- Abstract (Swedish)
- AI och maskininlärda algoritmer har lagt grunden för en ny teknisk struktur för behandling av enorma mängder data. Data samlas in med förhoppningen att de ska kunna användas i framtiden för att, med hjälp av profilering, formulera träffsäkra prognoser avseende personers beteenden, preferenser, hälsotillstånd och intressen. Med andra ord är profilering att utvinna kunskap ur historiska data. Produkten av analysen av datamassan utgör i regel så kallad avledd data.
Möjligheterna med algoritmisk databehandling har lett till ett perspektivskifte varigenom data numera betraktas som en värdefull tillgång snarare än en digital restprodukt och har gett upphov till nya företagsmodeller med syftet att maximera värdet av kundernas data. Det... (More) - AI och maskininlärda algoritmer har lagt grunden för en ny teknisk struktur för behandling av enorma mängder data. Data samlas in med förhoppningen att de ska kunna användas i framtiden för att, med hjälp av profilering, formulera träffsäkra prognoser avseende personers beteenden, preferenser, hälsotillstånd och intressen. Med andra ord är profilering att utvinna kunskap ur historiska data. Produkten av analysen av datamassan utgör i regel så kallad avledd data.
Möjligheterna med algoritmisk databehandling har lett till ett perspektivskifte varigenom data numera betraktas som en värdefull tillgång snarare än en digital restprodukt och har gett upphov till nya företagsmodeller med syftet att maximera värdet av kundernas data. Det benämns vanligen Big Data. Profilering används i allt större utsträckning i beslutsprocesser, både som beslutsstöd till mänskliga beslutsfattare och i enbart automatiserad behandling. Profilering och dylika beslut kan ha en avgörande inverkan på människors rättigheter och intressen.
Datainsamling har länge betraktats som en integritetskänslig åtgärd eftersom den utgör ett intrång i den personliga sfären. AI-baserad profilering har gett upphov till nya typer av risker. Avledningarna har en inneboende osäkerhetsfaktor i bemärkelsen att de är sannolika men inte sanna. De baseras på kriterier uppsatta av människor och kan därför reproducera deras fördomar. Vidare finns en genomgående brist på transparens vilken förskaffat maskininlärda algoritmer öknamnet ’svarta lådor’. Bristen på transparens kan hänföras till (1) den personuppgiftsansvariges avsikt att skydda egna intressen; (2) den registrerades oförmåga att förstå det tekniska språket: företrädesvis kod; (3) den tekniska komplexitet som finns inneboende i maskininlärda algoritmer. Tillsammans utgör denna brist på transparens en informationsasymmetri mellan den registrerade och den personuppgiftsansvarige.
GDPR trädde i kraft i maj 2018 med syftet att skydda den personliga integriteten och främja en enhetlig dataskyddslagstiftning i EU. För att förordningen ska vara tillämplig krävs behandling av personuppgifter. I uppsatsen visas att de avledningar som utgör produkten av profilering och som kan läggas till grund för beslut kan utgöra personuppgifter.
GDPR uppställer särskilda krav och garanterar den registrerade ett visst skydd vid automatiserat beslutsfattande. Automatiserat beslutsfattande och profilering används ofta i förening i Big Data-sammanhang. Skiljelinjen mellan begreppen ska bedömas med hänsyn till följderna för den registrerades rättigheter och intressen.
Av GDPR följer en serie transparensförpliktelser vilka tar sig i uttryck som en rätt för den registrerade att få viss information och tillgång till sina personuppgifter. Rättigheterna syftar till att möjliggöra den registrerades förståelse och ålägger skyldigheter för den personuppgiftsansvarige att underlätta för den registrerade att tillvarata sina rättigheter. Transparensförpliktelserna är i regel systemiska snarare än specifika. Legitimiteten och den praktiska nyttan av transparensförpliktelserna kommer bli beroende av hur väl de kan implementeras i beslutssystemen. (Less)
Please use this url to cite or link to this publication:
http://lup.lub.lu.se/student-papers/record/8965954
- author
- Brandt, Martin LU
- supervisor
- organization
- alternative title
- Intelligent AI algorithms - GDPR in relation to profiling and automated decision making
- course
- JURM02 20182
- year
- 2018
- type
- H3 - Professional qualifications (4 Years - )
- subject
- keywords
- IT-rätt, AI, profiling, automated decision making, GDPR
- language
- Swedish
- id
- 8965954
- date added to LUP
- 2019-02-04 13:13:23
- date last changed
- 2019-02-04 13:13:23
@misc{8965954,
abstract = {{AI och maskininlärda algoritmer har lagt grunden för en ny teknisk struktur för behandling av enorma mängder data. Data samlas in med förhoppningen att de ska kunna användas i framtiden för att, med hjälp av profilering, formulera träffsäkra prognoser avseende personers beteenden, preferenser, hälsotillstånd och intressen. Med andra ord är profilering att utvinna kunskap ur historiska data. Produkten av analysen av datamassan utgör i regel så kallad avledd data.
Möjligheterna med algoritmisk databehandling har lett till ett perspektivskifte varigenom data numera betraktas som en värdefull tillgång snarare än en digital restprodukt och har gett upphov till nya företagsmodeller med syftet att maximera värdet av kundernas data. Det benämns vanligen Big Data. Profilering används i allt större utsträckning i beslutsprocesser, både som beslutsstöd till mänskliga beslutsfattare och i enbart automatiserad behandling. Profilering och dylika beslut kan ha en avgörande inverkan på människors rättigheter och intressen.
Datainsamling har länge betraktats som en integritetskänslig åtgärd eftersom den utgör ett intrång i den personliga sfären. AI-baserad profilering har gett upphov till nya typer av risker. Avledningarna har en inneboende osäkerhetsfaktor i bemärkelsen att de är sannolika men inte sanna. De baseras på kriterier uppsatta av människor och kan därför reproducera deras fördomar. Vidare finns en genomgående brist på transparens vilken förskaffat maskininlärda algoritmer öknamnet ’svarta lådor’. Bristen på transparens kan hänföras till (1) den personuppgiftsansvariges avsikt att skydda egna intressen; (2) den registrerades oförmåga att förstå det tekniska språket: företrädesvis kod; (3) den tekniska komplexitet som finns inneboende i maskininlärda algoritmer. Tillsammans utgör denna brist på transparens en informationsasymmetri mellan den registrerade och den personuppgiftsansvarige.
GDPR trädde i kraft i maj 2018 med syftet att skydda den personliga integriteten och främja en enhetlig dataskyddslagstiftning i EU. För att förordningen ska vara tillämplig krävs behandling av personuppgifter. I uppsatsen visas att de avledningar som utgör produkten av profilering och som kan läggas till grund för beslut kan utgöra personuppgifter.
GDPR uppställer särskilda krav och garanterar den registrerade ett visst skydd vid automatiserat beslutsfattande. Automatiserat beslutsfattande och profilering används ofta i förening i Big Data-sammanhang. Skiljelinjen mellan begreppen ska bedömas med hänsyn till följderna för den registrerades rättigheter och intressen.
Av GDPR följer en serie transparensförpliktelser vilka tar sig i uttryck som en rätt för den registrerade att få viss information och tillgång till sina personuppgifter. Rättigheterna syftar till att möjliggöra den registrerades förståelse och ålägger skyldigheter för den personuppgiftsansvarige att underlätta för den registrerade att tillvarata sina rättigheter. Transparensförpliktelserna är i regel systemiska snarare än specifika. Legitimiteten och den praktiska nyttan av transparensförpliktelserna kommer bli beroende av hur väl de kan implementeras i beslutssystemen.}},
author = {{Brandt, Martin}},
language = {{swe}},
note = {{Student Paper}},
title = {{Intelligenta (AI) algoritmer - En studie i GDPRs förhållande till profilering och automatiserat beslutsfattande}},
year = {{2018}},
}