Manipulerat intimt material – Straffrättsliga utmaningar i ljuset av AI-genererad pornografi och COM(2022) 105 final

Abstract

In 2014, eight researchers presented a new framework for artificial intelligence in which two neural networks collaborate to produce manipulated, realistic material. While this technology has contributed to valuable research advancements, it can also be used for the production of manipulated intimate material. With use of this technological innovation, new methods for users to create realistic pornographic content without the consent of the depicted individuals emerge.

In 2022, COM(2022) 105 final was originally presented, proposing an EU directive that, among other things, criminalizes the production and distribution of manipulated intimate material. The initiative aims to prevent and combat gender-based violence and violence in close relationships, as well as to increase the possibilities of protecting victims and prosecuting perpetrators in this field.

This work aims to investigate the possibilities under Swedish criminal law for prosecuting the production and distribution of manipulated intimate material. It also aims to evaluate the current protection provided by Swedish criminal law against violations of sexual integrity through manipulated intimate material. Additionally, the work aims to assess the potential harmonization of the criminalization according to the proposal in relation to the potential need for criminal law reform.

The investigation finds that there is a need for direct legal measures to provide an adequate response to these violations. According to current Swedish criminal law, neither the production nor the distribution of such material is directly criminalized, however there is some room for interpretation with regards to some of the named offenses. Based on the theoretical perspectives, this solution is considered fragmented and reactive. Similarly, and for the same reason, the proposal’s goal of a comprehensive set of regulations to combat violence is not fulfilled. Therefore, the investigation concludes that Swedish criminal law does not provide necessary protection for sexual integrity, both via analysis of the theoretical perspectives and in relation to the proposal’s goals and suggested provision. Moreover, it is also concluded that the proposed directive is unlikely to provide the necessary protection for some aspects of the violation, as it suggests that the criminality of the production is dependent on the distribution of the material.

Abstract (Swedish)

År 2014 presenterade åtta forskare ett nytt maskininlärningsramverk för artificiell intelligens där två neuronnätverk samverkar för framställning av manipulerat verklighetstroget material. Teknologin har bidragit i värdefulla forskningsframsteg, men kan också användas för framställning av manipulerat intimt material. I samband med teknisk innovation uppstår därmed nya tillvägagångssätt för användare att skapa verklighetstroget pornografiskt material utan den avbildades vetskap.

År 2022 presenterades COM(2022) 105 final, ett förslag till EU-direktiv som innehåller en kriminalisering av framställning i förening med spridning av manipulerat intimt material. Initiativet bakom förslaget syftar till att dels förhindra och bekämpa det genusbaserade våldet och våld i nära relationer, dels öka möjligheterna att skydda brottsoffer och lagföra gärningspersoner inom området.

Detta arbete syftar till att utreda svensk straffrätts möjligheter till lagföring av framställning och spridning av manipulerat intimt material samt att värdera svensk straffrätts nuvarande skydd mot kränkningar av den sexuella integriteten genom manipulerat intimt material. Därutöver syftar arbetet till att bedöma lämpligheten av en harmonisering av kriminaliseringen enligt förslaget i förhållande till det eventuella behovet av straffrättslig reform.

Enligt undersökningen föreligger ett behov av direkt straffrättsligt bemötande av problemet för att ge adekvat svar på kränkningarna. Enligt gällande rätt är inte framställning eller spridning av manipulerat intimt material direkt kriminaliserat, men visst tolkningsutrymme för lagföring finns under några av de utredda brotten. Mot bakgrund av de teoretiska perspektiven är denna lösning emellertid att betraktas som ett fragmenterat och reaktivt bemötande av problemet. Förslagets målsättning om en heltäckande uppsättning regler för bekämpning av våldet uppfylls av samma anledning inte heller. Därför kan det konstateras att svensk straffrätt inte ger erforderligt skydd för den sexuella integriteten, dels utifrån de teoretiska perspektiven, dels utifrån förslagets målsättningar, skäl och föreslagna kriminalisering. Av undersökningen framgår dock att den föreslagna kriminaliseringen sannolikt inte heller medför att erforderligt skydd ges för alla delar av gärningen, eftersom framställningens straffbarhet föreslås fordra att materialet tillgängliggörs för allmänheten.

• author: Bergengren, Gustav
• supervisor: Ulrika Andersson
• organization: Department of Law; Faculty of Law
• alternative title: Manipulated intimate material – Criminal law challenges in light of AI-generated pornography and COM(2022) 105 final
• course: JURM02 20232
• year: 2023
• type: H3 - Professional qualifications (4 Years - )
• subject: Law and Political Science
• keywords: EU-rätt (en. EU law), rättsvetenskap (en. law), straffrätt (en. criminal law), artificiell intelligens (en. artificial intelligence), AI, manipulerat intimt material (en. manipulated intimate material), deepfakes, AI-genererad pornografi (en. AI-generated pornography)
• language: Swedish
• id: 9142306
• date added to LUP: 2024-01-19 12:08:33
• date last changed: 2024-01-19 12:08:33