Intelligent hälso- och sjukvård - En rättslig analys av lagenlighet, lämplighet och ansvar vid användning av AI i hälso- och sjukvården
(2024) JURM02 20242Department of Law
Faculty of Law
- Abstract
- Artificial intelligence (AI) has the potential to revolutionize healthcare by ena-bling earlier and more accurate diagnoses, personalized treatments and more efficient use of resources. At the same time, the advent of AI technology brings with it complex legal and ethical challenges that need to be addressed in a responsible and thoughtful manner. This thesis analyzes these challenges, focusing on accountability, transparency, patient rights and the need for ap-propriate regulation.
The thesis is based on a legal-dogmatic approach, complemented by compara-tive (EU law regulation) and interdisciplinary elements. Through a systematic analysis of relevant EU and Swedish legal sources, including the AI Regula-tion, GDPR, the Health Care Act,... (More) - Artificial intelligence (AI) has the potential to revolutionize healthcare by ena-bling earlier and more accurate diagnoses, personalized treatments and more efficient use of resources. At the same time, the advent of AI technology brings with it complex legal and ethical challenges that need to be addressed in a responsible and thoughtful manner. This thesis analyzes these challenges, focusing on accountability, transparency, patient rights and the need for ap-propriate regulation.
The thesis is based on a legal-dogmatic approach, complemented by compara-tive (EU law regulation) and interdisciplinary elements. Through a systematic analysis of relevant EU and Swedish legal sources, including the AI Regula-tion, GDPR, the Health Care Act, the Patient Safety Act and the Patient Data Act, key issues are identified and problematized. Particular attention is paid to the “black box” problem, i.e. the difficulty of understanding and explaining the decision-making logic of complex AI systems, and its implications for accountability and patient empowerment. The analysis shows that the existing regulatory framework is insufficient to fully address the challenges posed by AI. There are ambiguities around accountability for AI-related harm, difficul-ties in achieving sufficient transparency and explainability, and risks of un-dermining patient autonomy and privacy.
To ensure the legal, appropriate and responsible use of AI in health care, a set of criteria is formulated, covering medical appropriateness, technical robust-ness, transparency, traceability, risk management, human control, non-discrimination and respect for patient rights.
The conclusion is that AI in healthcare requires a holistic approach that con-siders legal, ethical, technical and organizational aspects. It requires complete national legislation and guidelines, clarification of responsibilities, strength-ened transparency and accountability mechanisms, and deeper ethical reflec-tion. Continuous dialogue and collaboration between all stakeholders - legisla-tors, regulators, researchers, healthcare providers, healthcare professionals, AI developers and patient representatives - is essential.
The recommendations presented in the concluding chapter include a review of liability rules, the development of national guidelines, the establishment of an independent review body, strengthening regulatory capacity, investing in skills development and promoting ethical and reflective practice. (Less) - Abstract (Swedish)
- Artificiell intelligens (AI) har potentialen att revolutionera hälso- och sjukvår-den genom att möjliggöra tidigare och mer precisa diagnoser, individanpas-sade behandlingar och effektivare resursanvändning. Samtidigt medför AI-teknikens intåg komplexa juridiska och etiska utmaningar som måste hanteras på ett ansvarsfullt och genomtänkt sätt. Detta examensarbete analyserar dessa utmaningar, med fokus på ansvarsfördelning, transparens, patienträttigheter och behovet av en ändamålsenlig reglering.
Examensarbetet utgår från en rättsdogmatisk metod, kompletterad med kom-parativa (EU-rättslig reglering) och tvärvetenskapliga inslag. Genom en sys-tematisk analys av relevanta EU-rättsliga och svenska rättskällor, inklusive AI-förordningen, GDPR,... (More) - Artificiell intelligens (AI) har potentialen att revolutionera hälso- och sjukvår-den genom att möjliggöra tidigare och mer precisa diagnoser, individanpas-sade behandlingar och effektivare resursanvändning. Samtidigt medför AI-teknikens intåg komplexa juridiska och etiska utmaningar som måste hanteras på ett ansvarsfullt och genomtänkt sätt. Detta examensarbete analyserar dessa utmaningar, med fokus på ansvarsfördelning, transparens, patienträttigheter och behovet av en ändamålsenlig reglering.
Examensarbetet utgår från en rättsdogmatisk metod, kompletterad med kom-parativa (EU-rättslig reglering) och tvärvetenskapliga inslag. Genom en sys-tematisk analys av relevanta EU-rättsliga och svenska rättskällor, inklusive AI-förordningen, GDPR, hälso- och sjukvårdslagen, patientsäkerhetslagen och patientdatalagen, identifieras och problematiseras centrala frågeställningar. Särskild uppmärksamhet ägnas åt "black box"-problematiken, det vill säga svårigheten att förstå och förklara komplexa AI-systems beslutslogik, och dess implikationer för ansvarsutkrävande och patientinflytande. Analysen visar att det befintliga regelverket är otillräckligt för att fullt ut hantera de ut-maningar som AI medför. Det finns oklarheter kring ansvarsfördelningen vid AI-relaterade vårdskador, svårigheter att uppnå tillräcklig transparens och förklarbarhet, och risker för att patientens autonomi och integritet undermine-ras.
För att säkerställa en lagenlig, lämplig och ansvarsfull användning av AI i hälso- och sjukvården formuleras en rad kriterier, som omfattar medicinsk ändamålsenlighet, teknisk robusthet, transparens, spårbarhet, riskhantering, mänsklig kontroll, icke-diskriminering och respekt för patientens rättigheter.
Slutsatsen är att AI i hälso- och sjukvården kräver en helhetssyn som beaktar juridiska, etiska, tekniska och organisatoriska aspekter. Det krävs komplette-rande nationell lagstiftning och riktlinjer, förtydliganden av ansvarsfördel-ningen, stärkta mekanismer för transparens och förklarbarhet, samt en fördju-pad etisk reflektion. En kontinuerlig dialog och samverkan mellan alla berörda aktörer – lagstiftare, tillsynsmyndigheter, forskare, vårdgivare, vårdpersonal, AI-utvecklare och patientföreträdare – är avgörande.
Rekommendationerna som presenteras i det avslutande kapitlet inkluderar en översyn av ansvarsreglerna, utveckling av nationella riktlinjer, inrättande av ett oberoende granskningsorgan, stärkt tillsynskapacitet, satsningar på kompe-tensutveckling och främjande av en etisk och reflekterande praktik. (Less)
Please use this url to cite or link to this publication:
http://lup.lub.lu.se/student-papers/record/9186400
- author
- Awad, Anas LU
- supervisor
-
- Ana Nordberg LU
- organization
- alternative title
- Intelligent Healthcare - A Legal Analysis of the Legality, Appropriateness and Liability of using AI in Healthcare
- course
- JURM02 20242
- year
- 2024
- type
- H3 - Professional qualifications (4 Years - )
- subject
- keywords
- EU-rätt, Civilrätt, Förmögenhetsrätt, Hälso- och sjukvård, AI, Teknologi, Ansvar
- language
- Swedish
- id
- 9186400
- date added to LUP
- 2025-04-16 16:18:36
- date last changed
- 2025-04-16 16:18:36
@misc{9186400, abstract = {{Artificial intelligence (AI) has the potential to revolutionize healthcare by ena-bling earlier and more accurate diagnoses, personalized treatments and more efficient use of resources. At the same time, the advent of AI technology brings with it complex legal and ethical challenges that need to be addressed in a responsible and thoughtful manner. This thesis analyzes these challenges, focusing on accountability, transparency, patient rights and the need for ap-propriate regulation. The thesis is based on a legal-dogmatic approach, complemented by compara-tive (EU law regulation) and interdisciplinary elements. Through a systematic analysis of relevant EU and Swedish legal sources, including the AI Regula-tion, GDPR, the Health Care Act, the Patient Safety Act and the Patient Data Act, key issues are identified and problematized. Particular attention is paid to the “black box” problem, i.e. the difficulty of understanding and explaining the decision-making logic of complex AI systems, and its implications for accountability and patient empowerment. The analysis shows that the existing regulatory framework is insufficient to fully address the challenges posed by AI. There are ambiguities around accountability for AI-related harm, difficul-ties in achieving sufficient transparency and explainability, and risks of un-dermining patient autonomy and privacy. To ensure the legal, appropriate and responsible use of AI in health care, a set of criteria is formulated, covering medical appropriateness, technical robust-ness, transparency, traceability, risk management, human control, non-discrimination and respect for patient rights. The conclusion is that AI in healthcare requires a holistic approach that con-siders legal, ethical, technical and organizational aspects. It requires complete national legislation and guidelines, clarification of responsibilities, strength-ened transparency and accountability mechanisms, and deeper ethical reflec-tion. Continuous dialogue and collaboration between all stakeholders - legisla-tors, regulators, researchers, healthcare providers, healthcare professionals, AI developers and patient representatives - is essential. The recommendations presented in the concluding chapter include a review of liability rules, the development of national guidelines, the establishment of an independent review body, strengthening regulatory capacity, investing in skills development and promoting ethical and reflective practice.}}, author = {{Awad, Anas}}, language = {{swe}}, note = {{Student Paper}}, title = {{Intelligent hälso- och sjukvård - En rättslig analys av lagenlighet, lämplighet och ansvar vid användning av AI i hälso- och sjukvården}}, year = {{2024}}, }