Sexuellt explicita deepfakes - En straffrättslig undersökning om skapandet och spridandet av sexuellt AI-genererat material och behovet av rättslig utveckling

Abstract (Swedish)

Utvecklingen av artificiell intelligens har fört med sig betydande utveckling inom flera fält, men även stora utmaningar. En av dessa utmaningar visar sig i uppkomsten av så kallade deepfakes, det vill säga realistiska men fabricerade bilder eller videos som genererats med hjälp av artificiell intelligens. Majorite-ten av alla deepfakes är idag av sexuell natur och de flesta avbildar kvinnor utan att de samtyckt till det. Förekomsten av sexuellt explicita deepfakes för med sig stora individuella och samhälleliga konsekvenser. Juridiska forskare har dessutom identifierat fenomenet som en form av bildbaserat sexuellt våld. Det är därför av stor vikt att straffrätten, vilken har en betydande expressiv funktion, bemöter skapandet och spridandet av sådant material på ett adekvat sätt. Huruvida straffrätten för tillfället reglerar sådant material är emellertid oklart. Det här examensarbetet syftar därför till att, ur ett brottsofferperspektiv, utreda i vilken utsträckning svenska straffrättsliga bestämmelser är tillämpliga på skapandet och spridandet av sexuellt explicita deepfakes som skapats utan den avbildade personens samtycke. Därtill syftar utredningen till att undersöka hur straffrätten kan utvecklas för att bättre tillgodose brottsoffers intressen i förhållande till sådant material.

Utredningen visar på att brotten olaga integritetsintrång, förtal och olaga våldsskildring troligtvis kan tillämpas på spridandet av sexuellt explicita deepfakes. I förhållande till skapandet av sådant material är det främst brotten sexuellt ofredande och ofredande som aktualiseras. Några absoluta slutsatser går dock inte att dra utan till exempel vägledande avgöranden från Högsta domstolen. Det finns ur ett brottsofferperspektiv en rad för- och nackdelar med samtliga dessa brott. Med hänsyn till bland annat avsaknaden av en tydlig reglering dras emellertid slutsatsen att dagens rättsläge är otillräckligt för att tillgodose brottsoffers intressen.

Utredningen identifierar fyra huvudsakliga tillvägagångssätt för att straffrätts-ligt hantera sexuellt explicita deepfakes; 1) att införa en särskild kriminali-sering av fenomenet, 2) att utvidga redan existerande bestämmelser genom lagstiftning, 3) att låta Högsta domstolen tolka nuvarande lagstiftning på ett sätt som inkluderar fabricerat material samt 4) att införa en generell kriminali-sering av sexuella övergrepp eller bildbaserat sexuellt våld. Samtliga alternativ har styrkor och brister och uppsatsen avstår från att rangordna dem. Det framhålls dock att fenomenet bör regleras som ett sexualbrott för att inte för-minska utsatta personers upplevelser. Denna uppsats föreslår bland annat att Högsta domstolen klargör att brottet sexuellt ofredande omfattar både skapan-det och spridandet av fabricerat material. Vidare rekommenderas en lagänd-ring som flyttar punkterna 1 och 5 av brottet olaga integritetsintrång till brotts-balkens sjätte kapitel, vilket innehåller sexualbrotten. Det rekommenderas vi-dare att denna lagändring klargör att bestämmelsen omfattar fabricerat material samt utvidgar dess tillämpningsområde till att även omfatta skapandet av så-dant material.

Popular Abstract

The development of artificial intelligence has led to significant advancements across various fields but is has also introduced considerable challenges. One such challenge is the emergence of so-called deepfakes, which are realistic, yet fabricated images or videos generated by artificial intelligence. A large propor-tion of deepfakes today are sexual in nature, most of which depict women without their consent. Non-consensual sexually explicit deepfakes entails se-rious consequences for individuals and society at large. Moreover, legal scholars have identified the phenomenon as a form of image-based sexual abuse. It is therefore crucial that criminal law, given its important expressive function, addresses both the creation and distribution of such material in an appropriate manner. This thesis aims to examine, from a victim-oriented per-spective, the extent to which Swedish criminal law is applicable on the crea-tion and distribution of sexually explicit deepfakes produced without the de-picted individual’s consent. Additionally, it explores how criminal law could be developed to advance and more efficiently protect the interests of victims of such abuse.

This thesis finds that the offences of unlawful violation of integrity, defama-tion and unlawful depiction of violence may potentially apply to the distribu-tion of sexually explicit deepfakes. In terms of their creation, the most relevant offences appear to be sexual molestation and molestation. However, definitive conclusions cannot be drawn in the absence of guiding case law from the Swedish Supreme Court. The abovementioned crimes carry several ad-vantages and limitations from a victim’s perspective. Due to several factors such as the lack of clear regulations on the issue, this study concludes that the current legal framework is insufficient and cannot adequately meet the inter-ests of victims.

This study identifies four main approaches for addressing sexually explicit deepfakes through criminal law: 1) introducing a specific offence targeting such material, 2) expanding existing provisions through legislation, 3) allow-ing the Supreme Court to interpret current legislation to include fabricated material, and 4) introducing a general criminalization of sexual assault or im-age-based sexual abuse. Each approach has its strengths and weaknesses, and this thesis refrains from ranking them. However, it is emphasized that the phenomenon should be regulated as a sexual offence to avoid diminishing the experiences of victims. This thesis recommends that the Supreme Court clari-fies that the offence of sexual molestation includes both the creation and dis-tribution of fabricated material. Furthermore, it recommends a legislative amendment that relocates sections 1 and 5 of the offence of unlawful invasion of privacy to the sixth chapter of the Penal code, which governs sexual crimes. This amendment should also clarify that the provision covers fabricat-ed material and extend its scope to include the creation of such material.

• author: Lundqvist, Lisa
• supervisor: Ulrika Andersson
• organization: Department of Law; Faculty of Law
• alternative title: Sexually Explicit Deepfakes - A Criminal Law Analysis of the Creation and Distribution of Sexually AI-Generated Material and the Need for Legal Development
• course: JURM02 20251
• year: 2025
• type: H3 - Professional qualifications (4 Years - )
• subject: Law and Political Science
• keywords: straffrätt, rättsvetenskap, genusrättsvetenskap, brottsoffer, deepfake
• language: Swedish
• id: 9189112
• date added to LUP: 2025-06-09 16:04:48
• date last changed: 2025-06-09 16:04:48