Cracking the AI-gma Code? - The Interpretability and Explainability of AI in light of Forst’s Right to Justification

Abstract

In April 2018 the European Commission took their first step into establishing the European AI Strategy, which aims to make Europe the world-leading centre for AI while ensuring fundamental rights and freedoms. In April 2021 the proposal for a regulation on artificial intelligence, referred to as the AI Act, was announced. The proposed Regulation, which has yet to gain status as secondary law, uses a risk-based approach and particularly emphasises the importance of transparency and trustworthiness in the context of AI. Furthermore, the proposal addresses how opacity can unfavourably affect various fundamental rights that are enshrined in the Charter of Fundamental Rights of the European Union.

The efficiency of the current EU framework has been questioned from various stakeholders who dispute whether the framework can address and safeguard the AI-induced fundamental rights in an adequate manner. The proposal sets forth that AI systems should be developed in a way which allows humans to understand their actions. Therefore, the thesis intends to investigate whether the measures outlined in the proposed AI Act, which aim to safeguard transparency through interpretability and explainability, adequately uphold the right to justification. Moreover, the thesis aims to clarify what the right to justification entails, how interpretability and explainability has been defined in EU law and what obligations the proposed Regulation imposes in respect to interpretability and explainability of AI systems.

The thesis establishes that human rights require us to have our moral right to justification respected. The principle of justification enables a power to demand justification and challenge false legitimations. If interpretability and explainability are not ensured, the right to demand justification and challenge decisions that AI systems make is violated. Thus, the thesis argues that the measures in the proposal, which aim to safeguard transparency through interpretability and explainability, do not sufficiently uphold the right to justification. The EU is showing a clear commitment to fundamental rights by incorporating these measures in the proposal, however this initiative does not mean that the measures are adequately defined and clear.

Abstract (Swedish)

I april 2018 tog EU-kommissionen sitt första steg mot att upprätta den
europeiska strategin för artificiell intelligens, vars syfte är att göra Europa till det världsledande centret för artificiell intelligens samtidigt som
grundläggande rättigheter och friheter garanteras. I april 2021 presenterade
Kommissionen sitt förslag till en förordning om harmoniserade regler för
artificiell intelligens, den så kallade AI-förordningen. Förordningen, som
ännu inte utgör sekundärrätt, använder en riskbaserad strategi och betonar
särskilt vikten av transparens och tillit för AI-system. Vidare betonar förslaget
hur opacitet kan ha en negativ inverkan på rättigheterna i Europeiska
unionens stadga om de grundläggande rättigheterna.

Efterlevnaden av EU:s nuvarande regelverk har betvivlats av flera
akademiker och forskare som ifrågasatt huruvida ramverket kan hantera och
skydda de grundläggande rättigheter som påverkas av artificiell intelligens på ett adekvat sätt. AI-förordningen anger att AI-system bör utvecklas på ett sådant sätt som gör det möjligt för människor att förstå deras beslut. Därmed är syftet med uppsatsen att undersöka om de föreskrivna bestämmelserna i AI-förordningen, som syftar till att garantera transparens genom tolkningsbarhet och förklarbarhet, upprätthåller rätten till rättfärdigande på ett adekvat sätt. Uppsatsen syftar dessutom till att klargöra vad rätten till rättfärdigande innebär, hur tolkningsbarhet och förklarbarhet har definierats i EU-rätten och vilka skyldigheter som den föreslagna förordningen ålägger AI-system vad gäller tolkningsbarhet och förklarbarhet.

I uppsatsen fastställs det att mänskliga rättigheter kräver att vår moraliska rätt till rättfärdigande blir respekterad. Om tolkningsbarhet och förklarbarhet inte garanteras, kränks rätten att kräva rättfärdigande och ifrågasätta de beslut som AI-system tar. I uppsatsen konstateras därför att åtgärderna i förslaget, som
syftar till att garantera transparens genom tolkningsbarhet och förklarbarhet,
inte upprätthåller rätten till rättfärdigande i tillräcklig utsträckning. EU visar ett tydligt engagemang för de grundläggande rättigheterna genom att införliva dessa åtgärder i förslaget. Detta innebär emellertid inte att bestämmelserna är tillräckligt definierade och tydliga.

• author: Tafic, Suana
• supervisor: Eduardo Gill-Pedro
• organization: Department of Law; Faculty of Law
• course: JURM02 20231
• year: 2023
• type: H3 - Professional qualifications (4 Years - )
• subject: Law and Political Science
• keywords: EU law, EU-rätt, AI, Artificial Intelligence, Artificiell Intelligens, AI Act, AI-Act, AI-förordningen, GDPR, Right to Justification, Human rights, Fundamental Rights, Mänskliga rättigheter, Transparency, Explainability, Interpretability, Transparens, Förklarbarhet, Tolkningsbarhet, Trustworthy AI, tillförlitlig AI, Black Box, Opacitet, IT-rätt, Forst
• language: English
• id: 9116222
• date added to LUP: 2023-06-19 10:56:47
• date last changed: 2023-06-19 10:56:47