Semi-Autonomous Weapon Systems in International Humanitarian Law

Abstract

The purpose of my Master Thesis is to examine, in detail, how current international law relates to autonomous weapon systems. The background for this project is that the requirement of current international humanitarian law presupposes that the characters of war, namely soldiers and military officers, are human beings. Warfare has, however, changed increasingly since the Geneva Conventions were written in August 1949. War is now increasingly fought with machines or virtual networks that are somehow controlled by humans, and this method of warfare is here to stay. Artificial intelligence has made war-machines less dependent on human control and thus more autonomous. The use of autonomous weapon systems will cause difficulties in establishing responsibility for the implementation of humanitarian law when numerous individuals are involved, and when the actor is a robot. The question of accountability is therefore essential since this issue will arise in the framework of all fully autonomous and semiautonomous weapon systems.

The concept of autonomous weapon systems (AWS) will be defined more precisely alongside three different forms of autonomy in order to demonstrate its compliance with current international law. The analysis will begin from the bottom of the decision-making process to gradually eliminate all candidates who do not have sufficient knowledge to assume accountability. The candidates that will be observed are the military personnel, the acquisition team, the programmer or manufacturer, corporations, and lastly, the robot. Each chapter will build upon the next and include a descriptive part in the beginning with an analysis toward the end of the thesis. Parallels will be drawn between the new legal phenomenon and existing legal systems.

The thesis will later lead to the conclusion that States cannot absolve themselves of their obligations under international humanitarian law when deploying autonomous weapon systems on the field. The State will still remain responsible for ensuring that relevant and fundamental standards are met and that international law is respected. The thesis will also argue that there is no fully autonomous AWS existing at the present time, and AWSes can therefore not itself be held accountable for crimes under international law. Nevertheless, this new character of warfare will bring real challenges for military commanders, not least in how to manage the information to ensure proper conduct but also to maintain discipline amongst subordinates.

An effective system of accountability for autonomous weapon systems is when the lines for responsibility are well defined. To the extent that the autonomy of semi-autonomous causes gaps in current accountability instruments, it will be argued that the gaps can be filled through establishment of a new framework of command responsibility with a technical expert as a vital subordinate.

Popular Abstract (Swedish)

Syftet med mitt examensarbete är att undersöka i detalj hur gällande folkrätt förhåller sig till autonoma vapensystem. Bakgrunden till detta projekt är att internationell humanitär rätt förutsätter att aktörerna i kriget, soldater och officerare är människor. Krigföring har dock förändrats i allt högre grad sedan de första Genèvekonventionerna skrevs i augusti 1949. Krig kämpas numera med maskiner eller virtuella nätverk som på något sätt kontrolleras av människan, och denna metod av krigföring är här för att stanna. Artificiell intelligens har gjort krigsmaskiner mindre beroende av mänsklig kontroll och därmed mer självständiga. Den nya användningen av autonoma vapensystem kommer att orsaka svårigheter i fastställandet av ansvar för implementeringen av humanitär rätt när många enskilda personer är inblandade och den som agerar är en robot. Frågan om ansvar således är viktigt eftersom frågan kommer att uppstå inom ramen för alla hel- och halvautonoma vapen.

Begreppet autonoma vapensystem kommer att preciseras genom tre olika former av självständighet för att se användandets överensstämmelse med gällande internationell rätt. Analysen kommer att göras i samband med bedömningen av den frågeställning som börjar längst ner i beslutsfattandet för att senare gradvis eliminera alla kandidater som inte hade tillräckliga kunskaper för att åta ansvar. De kandidater som kommer att observeras i uppsatsen är den militära personalen, personen/personer som anskaffar vapnet, programmeraren eller tillverkaren, företag och slutligen roboten. Varje kapitel kommer att innehålla en beskrivande del i början med en analys mot slutet av uppsatsen. Paralleller kommer även att dras mellan det nya rättsliga fenomenet och befintliga rättssystem.

Uppsatsen utgår sedan till slutsatsen att staterna inte kan frita sig från ansvar och skyldigheter enligt internationell humanitär rätt genom upphandlandet av autonoma vapensystem på fältet. Staten kommer fortfarande att fortsätta att ansvara för att se till att de relevanta normerna uppfylls och att folkrätten respekteras. Uppsatsen kommer även hävda att det inte finns helt självständiga AWS existerande i dagsläget, vilket leder till dess oförmåga att ställas till svars för brott mot internationell rätt. Dock, kommer den nya karaktären av krigföring skapa verkliga utmaningar för militära befälhavare, inte minst i hur man ska hantera informationen från vapensystemet för att säkerställa operationer men också för att upprätthålla disciplinen bland underordnade.

Ett effektivt system för ansvarsskyldighet för det autonoma vapensystemet är när linjerna för ansvar är väl definierade och definitiva. I den mån halvautonoma vapensystem orsakar ofullständigheter i nuvarande ansvarsinstrument, kommer uppsatsen hävda att dessa luckor kan fyllas genom inrättandet av ett nytt ramverk av befälsansvar med den tekniska experten som en avgörande underordnad.

• author: Hosseini Ghasemi, Ajda-Sadat
• supervisor: Gregor Noll
• organization: Department of Law
• course: JAMM04 20141
• year: 2014
• type: H2 - Master's Degree (Two Years)
• subject: Law and Political Science
• keywords: Humanitarian law, Autonomous Weapon Systems
• language: English
• id: 4580376
• date added to LUP: 2014-07-24 11:11:28
• date last changed: 2014-07-24 11:11:28