Skip to main content

LUP Student Papers

LUND UNIVERSITY LIBRARIES

Intelligent hälso- och sjukvård - En rättslig analys av lagenlighet, lämplighet och ansvar vid användning av AI i hälso- och sjukvården

Awad, Anas LU (2024) JURM02 20242
Department of Law
Faculty of Law
Abstract
Artificial intelligence (AI) has the potential to revolutionize healthcare by ena-bling earlier and more accurate diagnoses, personalized treatments and more efficient use of resources. At the same time, the advent of AI technology brings with it complex legal and ethical challenges that need to be addressed in a responsible and thoughtful manner. This thesis analyzes these challenges, focusing on accountability, transparency, patient rights and the need for ap-propriate regulation.
The thesis is based on a legal-dogmatic approach, complemented by compara-tive (EU law regulation) and interdisciplinary elements. Through a systematic analysis of relevant EU and Swedish legal sources, including the AI Regula-tion, GDPR, the Health Care Act,... (More)
Artificial intelligence (AI) has the potential to revolutionize healthcare by ena-bling earlier and more accurate diagnoses, personalized treatments and more efficient use of resources. At the same time, the advent of AI technology brings with it complex legal and ethical challenges that need to be addressed in a responsible and thoughtful manner. This thesis analyzes these challenges, focusing on accountability, transparency, patient rights and the need for ap-propriate regulation.
The thesis is based on a legal-dogmatic approach, complemented by compara-tive (EU law regulation) and interdisciplinary elements. Through a systematic analysis of relevant EU and Swedish legal sources, including the AI Regula-tion, GDPR, the Health Care Act, the Patient Safety Act and the Patient Data Act, key issues are identified and problematized. Particular attention is paid to the “black box” problem, i.e. the difficulty of understanding and explaining the decision-making logic of complex AI systems, and its implications for accountability and patient empowerment. The analysis shows that the existing regulatory framework is insufficient to fully address the challenges posed by AI. There are ambiguities around accountability for AI-related harm, difficul-ties in achieving sufficient transparency and explainability, and risks of un-dermining patient autonomy and privacy.
To ensure the legal, appropriate and responsible use of AI in health care, a set of criteria is formulated, covering medical appropriateness, technical robust-ness, transparency, traceability, risk management, human control, non-discrimination and respect for patient rights.
The conclusion is that AI in healthcare requires a holistic approach that con-siders legal, ethical, technical and organizational aspects. It requires complete national legislation and guidelines, clarification of responsibilities, strength-ened transparency and accountability mechanisms, and deeper ethical reflec-tion. Continuous dialogue and collaboration between all stakeholders - legisla-tors, regulators, researchers, healthcare providers, healthcare professionals, AI developers and patient representatives - is essential.
The recommendations presented in the concluding chapter include a review of liability rules, the development of national guidelines, the establishment of an independent review body, strengthening regulatory capacity, investing in skills development and promoting ethical and reflective practice. (Less)
Abstract (Swedish)
Artificiell intelligens (AI) har potentialen att revolutionera hälso- och sjukvår-den genom att möjliggöra tidigare och mer precisa diagnoser, individanpas-sade behandlingar och effektivare resursanvändning. Samtidigt medför AI-teknikens intåg komplexa juridiska och etiska utmaningar som måste hanteras på ett ansvarsfullt och genomtänkt sätt. Detta examensarbete analyserar dessa utmaningar, med fokus på ansvarsfördelning, transparens, patienträttigheter och behovet av en ändamålsenlig reglering.
Examensarbetet utgår från en rättsdogmatisk metod, kompletterad med kom-parativa (EU-rättslig reglering) och tvärvetenskapliga inslag. Genom en sys-tematisk analys av relevanta EU-rättsliga och svenska rättskällor, inklusive AI-förordningen, GDPR,... (More)
Artificiell intelligens (AI) har potentialen att revolutionera hälso- och sjukvår-den genom att möjliggöra tidigare och mer precisa diagnoser, individanpas-sade behandlingar och effektivare resursanvändning. Samtidigt medför AI-teknikens intåg komplexa juridiska och etiska utmaningar som måste hanteras på ett ansvarsfullt och genomtänkt sätt. Detta examensarbete analyserar dessa utmaningar, med fokus på ansvarsfördelning, transparens, patienträttigheter och behovet av en ändamålsenlig reglering.
Examensarbetet utgår från en rättsdogmatisk metod, kompletterad med kom-parativa (EU-rättslig reglering) och tvärvetenskapliga inslag. Genom en sys-tematisk analys av relevanta EU-rättsliga och svenska rättskällor, inklusive AI-förordningen, GDPR, hälso- och sjukvårdslagen, patientsäkerhetslagen och patientdatalagen, identifieras och problematiseras centrala frågeställningar. Särskild uppmärksamhet ägnas åt "black box"-problematiken, det vill säga svårigheten att förstå och förklara komplexa AI-systems beslutslogik, och dess implikationer för ansvarsutkrävande och patientinflytande. Analysen visar att det befintliga regelverket är otillräckligt för att fullt ut hantera de ut-maningar som AI medför. Det finns oklarheter kring ansvarsfördelningen vid AI-relaterade vårdskador, svårigheter att uppnå tillräcklig transparens och förklarbarhet, och risker för att patientens autonomi och integritet undermine-ras.
För att säkerställa en lagenlig, lämplig och ansvarsfull användning av AI i hälso- och sjukvården formuleras en rad kriterier, som omfattar medicinsk ändamålsenlighet, teknisk robusthet, transparens, spårbarhet, riskhantering, mänsklig kontroll, icke-diskriminering och respekt för patientens rättigheter.
Slutsatsen är att AI i hälso- och sjukvården kräver en helhetssyn som beaktar juridiska, etiska, tekniska och organisatoriska aspekter. Det krävs komplette-rande nationell lagstiftning och riktlinjer, förtydliganden av ansvarsfördel-ningen, stärkta mekanismer för transparens och förklarbarhet, samt en fördju-pad etisk reflektion. En kontinuerlig dialog och samverkan mellan alla berörda aktörer – lagstiftare, tillsynsmyndigheter, forskare, vårdgivare, vårdpersonal, AI-utvecklare och patientföreträdare – är avgörande.
Rekommendationerna som presenteras i det avslutande kapitlet inkluderar en översyn av ansvarsreglerna, utveckling av nationella riktlinjer, inrättande av ett oberoende granskningsorgan, stärkt tillsynskapacitet, satsningar på kompe-tensutveckling och främjande av en etisk och reflekterande praktik. (Less)
Please use this url to cite or link to this publication:
author
Awad, Anas LU
supervisor
organization
alternative title
Intelligent Healthcare - A Legal Analysis of the Legality, Appropriateness and Liability of using AI in Healthcare
course
JURM02 20242
year
type
H3 - Professional qualifications (4 Years - )
subject
keywords
EU-rätt, Civilrätt, Förmögenhetsrätt, Hälso- och sjukvård, AI, Teknologi, Ansvar
language
Swedish
id
9186400
date added to LUP
2025-04-16 16:18:36
date last changed
2025-04-16 16:18:36
@misc{9186400,
  abstract     = {{Artificial intelligence (AI) has the potential to revolutionize healthcare by ena-bling earlier and more accurate diagnoses, personalized treatments and more efficient use of resources. At the same time, the advent of AI technology brings with it complex legal and ethical challenges that need to be addressed in a responsible and thoughtful manner. This thesis analyzes these challenges, focusing on accountability, transparency, patient rights and the need for ap-propriate regulation.
The thesis is based on a legal-dogmatic approach, complemented by compara-tive (EU law regulation) and interdisciplinary elements. Through a systematic analysis of relevant EU and Swedish legal sources, including the AI Regula-tion, GDPR, the Health Care Act, the Patient Safety Act and the Patient Data Act, key issues are identified and problematized. Particular attention is paid to the “black box” problem, i.e. the difficulty of understanding and explaining the decision-making logic of complex AI systems, and its implications for accountability and patient empowerment. The analysis shows that the existing regulatory framework is insufficient to fully address the challenges posed by AI. There are ambiguities around accountability for AI-related harm, difficul-ties in achieving sufficient transparency and explainability, and risks of un-dermining patient autonomy and privacy.
To ensure the legal, appropriate and responsible use of AI in health care, a set of criteria is formulated, covering medical appropriateness, technical robust-ness, transparency, traceability, risk management, human control, non-discrimination and respect for patient rights.
The conclusion is that AI in healthcare requires a holistic approach that con-siders legal, ethical, technical and organizational aspects. It requires complete national legislation and guidelines, clarification of responsibilities, strength-ened transparency and accountability mechanisms, and deeper ethical reflec-tion. Continuous dialogue and collaboration between all stakeholders - legisla-tors, regulators, researchers, healthcare providers, healthcare professionals, AI developers and patient representatives - is essential.
The recommendations presented in the concluding chapter include a review of liability rules, the development of national guidelines, the establishment of an independent review body, strengthening regulatory capacity, investing in skills development and promoting ethical and reflective practice.}},
  author       = {{Awad, Anas}},
  language     = {{swe}},
  note         = {{Student Paper}},
  title        = {{Intelligent hälso- och sjukvård - En rättslig analys av lagenlighet, lämplighet och ansvar vid användning av AI i hälso- och sjukvården}},
  year         = {{2024}},
}