AI och förvaltningsbeslut - Om rättssäkerhet vid automatiserat beslutsfattande

Abstract

This thesis is an investigation on how automated decision-making can affect the principle of legal certainty within the administration. Automated decision-making is particularly common within parts of the Swedish administration that deals with a large number of similar cases every year. Automation of decisions can lead to great benefits, both for the administration and for the individuals affected by the decisions. The availability is strengthened and decisions can be made faster, which is beneficial for the confidence in the administration. The efficiency can be improved by an expanding automation. The energy of the human administrative officials can be directed towards tasks that require more advanced reasoning when an increasing part of simple public decisions are made by machines, which leads to an increased efficiency.

Automated decision-making can also lead to risks regarding the principle of legal certainty within the administration. When processes for decision-making are automated, the transparency towards the individuals affected by the decision can become limited. Another risk is that the complexity of the decision-making systems can make it harder for the implementation of new rules to the system, since new rules must be in compliance with the system.

Today, automated decision-making is only used for simple cases. In the future, it is possible that automated decision-making systems will use artificial intelligence (AI). Of particular interest is the part of AI called machine learning. The use of machine learning algorithms implies that the system can train itself using a huge amount of data and “learn” more through the training. These systems will therefore be able to make more complex decisions comparing to the automated decision-making systems that is in use within the administration today. When using machine-learning algorithms for decision-making, new questions arise. Is there a difference between a decision made by a human and one made by a machine, which is “intelligent”? Is there a need for further regulation on how AI can be used for automated decision-making within the administration? Mechanisms for protecting the transparency when automated decision-making is used are presented and analysed. The obligation to be able to motivate decisions made by authorities is considered as a part of the principle of legal certainty.

My conclusion is that automated decision-making should be regulated separate from traditional decision-making processes. Such a regulation should contain, for example, certain rules for procedure and what an automated decision should contain. A future regulation on how AI should be able to influence decision basis and decisions taken within the administration will probably also be needed. To enable such influence within the administration, transparency and a satisfying motivation of decisions must be guaranteed if the process shall be regarded as legally certain.

Abstract (Swedish)

Denna uppsats berör hur automatiserat beslutsfattande kan komma att påverka rättssäkerheten inom förvaltningen. Automatiserat beslutsfattande är särskilt vanligt förekommande inom de delar av förvaltningen där en stor mängd liknande ärenden avgörs. Att beslutsfattandet automatiseras kan innebära stora fördelar för förvaltningen och för de enskilda som berörs av besluten. Tillgängligheten ökar och beslut kan meddelas snabbare, vilket är positivt för tilliten till förvaltningsmyndigheterna. Mänskliga handläggare kan lägga sin tid och energi på sådana beslut som kräver mer eftertanke när fler enkla beslut fattas av maskiner. Den effektivitet som eftersträvas inom förvaltningen kan förbättras avsevärt av långtgående automation. Automatiserat beslutsfattande innebär även en del risker för rättssäkerheten inom förvaltningen. När beslutsförfaranden automatiseras helt riskerar insynen i hur beslut tillkommit och om de är rättvisande att begränsas. Det finns även en risk för att komplexa beslutssystem försvårar att nya regler kan börja tillämpas eftersom det kommer kräva svåra uppdateringar av systemen.

Idag används automatiserat beslutsfattande endast för att fatta enklare typer av beslut. Automatiserade beslutsförfaranden kommer i framtiden eventuellt kunna förses med artificiell intelligens (AI) och särskilt med en del av AI kallad maskininlärning. Att algoritmer som används för att fatta beslut förses med maskininlärning innebär att de kan träna upp sig själva med hjälp av en stor mängd data. De kommer därför kunna fatta mer komplexa beslut än de automatiserade beslutsförfaranden som nu används inom förvaltningen. Vid användandet av sådana beslutssystem uppstår nya frågor. Finns det någon skillnad mellan att beslut som berör enskilda fattas av en människa eller av en maskin som besitter ”intelligens”? Behöver särskild reglering införas för att reglera hur AI får användas inom automatiserat beslutsfattande? I uppsatsen analyseras de möjligheter som finns till insyn i vilken påverkan automatiserat beslutsfattande har på beslut. Förvaltningsmyndigheternas motiveringsskyldighet berörs som en särskild del av det förvaltningsrättsliga skyddet för enskildas rättssäkerhet.

De slutsatser som dras är att automatiserat beslutsfattande bör regleras särskilt. En sådan särskild reglering bör innehålla regler för hur automatiserat beslutsfattande ska genomföras på de områden de skiljer sig från traditionella förfaranden. Exempelvis bör vad som ska framgå av ett automatiserat besluts innehåll regleras särskilt. Något som, enligt min mening, även bör omfattas av en särskild reglering är i vilken omfattning och inom vilka ramar myndigheter ska kunna låta AI påverka framtagandet av beslutsunderlag i ärenden samt dess övriga eventuella inflytande på beslutsfattande. För att sådan påverkan ska vara förenlig med kraven på en rättssäker förvaltning måste insyn och en tillfredsställande motivering av beslut kunna garanteras.

• author: Elmgren Stenkula, Elsa
• supervisor: Vilhelm Persson
• organization: Department of Law; Faculty of Law
• alternative title: AI and Administrative Decisions - About Legal Certainty in Automated Decision-Making
• course: JURM02 20191
• year: 2019
• type: H3 - Professional qualifications (4 Years - )
• subject: Law and Political Science
• keywords: Förvaltningsrätt, förvaltningsbeslut, automatiserat beslutsfattande, artificiell intelligens, rättssäkerhet, insyn, motiveringsskyldighet
• language: Swedish
• id: 8977554
• date added to LUP: 2019-06-17 14:22:19
• date last changed: 2019-06-17 14:22:19