
Drönare, cyberattacker och AI - regler för ny teknik i krig
Drönare, cyberattacker och AI - regler för ny teknik i krig
Autonoma vapensystem, användning av AI i militärt beslutsfattande, cyberattacker och militära operationer i rymden - dagens krigföring står inför flera juridiska, humanitära och etiska utmaningar kopplade till utveckling av ny teknik.
Krigets lagar och nya vapen
Teknologiska utvecklingar har genom historien ofta gett upphov till nya metoder och medel för krigföring. Dessa har hanterats av det internationella samhället och nya vapen och stridsmetoder har löpande reglerats i syfte att skydda människor i krig och minska det lidande som väpnade konflikter medför.
Röda Korset har genom historien aktivt arbetat för att den humanitära responsen – både direkt och genom regelverk – ska vara adekvat i förhållande till de fasor kriget fört med sig i olika tider.
Idag står vi inför nya utmaningar så som användning av artificiell intelligens (AI), beväpnade drönare och robotar samt cyberattacker vilket medför nya etiska, humanitära och juridiska utmaningar.
Vid utveckling eller anskaffning av ett nytt vapen, eller nya medel eller metoder för krigföring är det av avgörande betydelse att en stat bedömer om det överensstämmer med den internationella humanitära rätten, även kallat krigets lagar. Denna innehåller både övergripande principer och specifika regler för hur krig får föras. Att tillämpa redan existerande rättsregler på en ny teknologi kan dock ofta väcka frågor om reglerna är tillräckligt tydliga och hur de ska tillämpas, med hänsyn till en viss ny teknik.
Här får du kort information om några av de områden kopplat till ny teknik i krig som diskuteras idag, med länkar till Internationella rödakors- och rödahalvmånekommitténs (ICRC) sidor om dessa frågor. Så att du kan fördjupa dig och hålla dig uppdaterad med vad som händer och vad Röda Korset tycker.
Maskiner som fattar beslut om liv och död. Det som en gång var science fiction är inte längre det. Autonoma vapen är system som, om de används i krig, kan agera utan mänsklig övervakning. Autonomt dödande är en juridisk och etisk fråga som för närvarande övervakas av människor. Men detta kan förändras över en natt. Maskiner kan inte följa krigets regler. Endast människor kan.
Vad är artificiell intelligens (AI) och maskininlärning i väpnade konflikter?
När vi pratar om artificiell intelligens (AI) menar vi användning av datorsystem för att utföra uppgifter som kräver någon slags process för tänkande, minne, planering, resonemang eller lärande – uppgifter som ofta förknippas med mänsklig intelligens. Maskininlärningssystem är AI-system som ”tränas” och ”lär sig” från data.
I väpnade konflikter kan AI och maskininlärning användas på flera olika sätt, till exempel används AI vid krigföring eller annan våldsutövning i vapensystem, särskilt autonoma vapensystem, men även i cyber- och informationsoperationer och i ”beslutsstödsystem”, som hjälper till vid beslutsfattande. Men AI kan också användas i humanitärt arbete för att bistå och skydda offer för väpnade konflikter.
Vad är autonoma vapensystem?
Autonoma vapensystem, så som ICRC definierar dem, är vapen som väljer ut mål och använder våld mot det utan mänsklig inblandning. En person aktiverar ett autonomt vapen, men vet inte exakt när, vem eller vad det kommer att träffa, för det styrs av datorsystem. Till exempel kan ett vapensystem vara skapat för att, utan ytterligare inblandning av den som aktiverat vapnet, attackera formen av ett särskilt fordon, eller rörelse i ett visst område.
Ofta är det mycket svårt att förutse på vilken grund ett maskininlärningssystem kommer fram till en viss bedömning eller ett visst resultat i en specifik situation. Det gör det svårt att kontrollera och begränsa effekterna av dessa vapen, med humanitärt lidande till följd. Men det är också svårt att göra nödvändiga juridiska och etiska bedömningar utöver det som triggar attacken.
Juridiska problem
Det finns regler för krig som behöver tas hänsyn till innan våld används som väcker frågor om det är autonoma system som beslutar om våld ska användas. Hur kan den som aktiverar vapnet vara rimligt säker på att den slutliga attacken kommer ligga inom vad som är tillåtet under krigets lagar - fanns det till exempel många civila i närheten som skadas, eller redan sårade soldater som inte längre deltar i stridigheterna? Hur ställs förövare till svars vid överträdelser av krigets lagar om ingen människa har kontroll över när och vad som attackeras?
Etiska problem
Ett etiskt problem är att autonoma vapen minskar mänsklig handlingsförmåga i beslut att döda, skada och förstöra. Människor har en moralisk handlingsförmåga som påverkar våra beslut. Ska vi låta en maskin, som saknar sådan förmåga, bestämma i frågor om liv och död? Maskininlärningssystem kan också ifrågasättas för att det finns risker för inbyggda bias i systemen, till exempel avseende kön.
Vad tycker Röda Korset?
ICRC har rekommenderat staterna att anta nya, internationellt rättsligt bindande regler som förbjuder oförutsägbara autonoma vapen och sådana som är utformade eller används för att utöva våld mot personer, samt att införa strikta begränsningar för alla andra autonoma vapen. Sådana regler skulle bidra till att minska riskerna för människor som drabbas av krig. Det som nu behövs är principfast politiskt ledarskap från stater för att föra denna lösning vidare till ett rättsligt bindande instrument som kommer att skydda människor under lång tid framöver
Autonoma vapen blir allt vanligare i världen. Men det finns många stora faror med dessa vapen. Vi måste se till att krigets lagar följs och att civila skyddas från att bli måltavlor.
Cyberattacker och informationsoperationer
Samhällen blir alltmer digitaliserade, det kan användas på bra sätt, men kan också göra att människor och samhälle mer sårbara. Under väpnade konflikter påverkar detta de risker och hot människor kan utsättas för.
Det internationella samfundet erkänner att cyberoperationer under väpnade konflikter, precis som andra metoder för krigföring, kan orsaka stor skada för civila och andra skyddade personer och objekt. Kritisk infrastruktur, telekommunikation, transporter, finansiella system m.m. kan slås ut med svåra humanitära konsekvenser till följd.
Idag har teknologiska framsteg som möjliggör omedelbar överföring av information via digitala medel, inklusive sociala medieplattformar och meddelandeappar, förändrat omfattningen, hastigheten och räckvidden för hur vilseledande, felaktig, hatfull eller på annat sätt skadlig information sprids. Informationsoperationer kan innebära att skadlig information sprids snabbt till många. Det kan därför snabbt bidra till eller uppvigla till våld mot människor, orsaka bestående psykologisk skada, undergräva tillgången till grundläggande tjänster och störa humanitära aktörers arbete.
Detta gör att Röda Korset tycker att det är viktigt att nå en gemensam förståelse för de rättsliga begränsningar som gäller för cyberoperationer och skadlig information under väpnade konflikter.
Vad säger den humanitära rätten?
Den huvudsakliga rättsliga ramen som reglerar användningen av cyber- och informationsoperationer i krig är internationell humanitär rätt, krigets lagar. Krigets lagar gäller för alla former av krigföring och alla typer av vapen, inklusive framtida sådana, som inte fanns när man kom överens om reglerna.
De grundläggande reglerna för cyberoperationer och skadlig information är därför tydliga: Attacker mot civila och civila objekt är förbjudna, urskillningslösa vapen får inte användas, urskillningslösa och oproportionerliga attacker är förbjudna och sjukvården och humanitär hjälp måste respekteras och skyddas. Dessa och många andra regler gäller även i cyber och informationsoperationer under väpnade konflikter.
Det finns dock fortfarande också frågor som behöver förtydligas. Röda Korset välkomnar den ökande internationella uppmärksamheten kring cyberoperationers eventuella humanitära konsekvenser och tillämplig internationell rätt. Det är avgörande att humanitär rätt tolkas och tillämpas på ett sätt som skyddar inte bara fysiska objekt utan även den digitala infrastruktur som människor är beroende av i alla aspekter av sina liv.
Militära operationer i rymden och vapen i yttre rymden
Visste du att många av de tjänster vi dagligen använder, såsom elektricitet, vatten, sanitet, sjukvård, livsmedelsproduktion, finansiella system och transporter i allt högre utsträckning är beroende av rymdbaserad teknik? Satelliter som tillhandahåller till exempel möjligheter till navigering och kommunikation spelar en avgörande roll för att mycket av det vi ser som självklart idag ska fungera.
Humanitära organisationer, inklusive Röda Korset, är också beroende av satellittjänster för att nå människor under krig och katastrofer. Utan dessa system blir det mycket svårt, och ibland omöjligt, att tillhandahålla livräddande hjälp och stödja samhällen.
Samtidigt har rymdsystem också blivit centrala för moderna militära operationer. Yttre rymden militariseras och stater antar till exempel särskilda rymdförsvarsstrategier.
Denna utveckling väcker allvarliga humanitära farhågor. När det militära beroendet av rymdsystem ökar, ökar också risken för att dessa system blir måltavlor eller störs. Situationen kompliceras av att satelliter ofta tjänar ofta både civila och militära funktioner. Risken att civila drabbas ökar när det kan finnas klara militära fördel att angripa en satellit som används även för militära förmågor.
Vad säger den humanitära rätten?
Militära operationer i rymden sker inte i ett rättsligt vakuum. Alla aktiviteter i yttre rymden som utförs av stater ske i enlighet med internationell rätt. Av särskild relevans för militära operationer är FN-stadgan, liksom fördrag om yttre rymden, neutralitetsrätten och krigets lagar.
Krigets lagar gäller för alla former av krigföring och för alla typer av vapen – de som tillhör det förflutna, de som används idag och de som kommer i framtiden. I synnerhet förbjuder krigets lagar direkta attacker mot civila och civila objekt, så som även civila satelliter. Även i fall där en satellit kan förlora sitt skydd som civila objekt på grund av den även används i militära syften, måste varje attack mot en satellit fortfarande respektera de grundläggande principerna i krigets lagar samt det särskilda skydd som till exempel sjukvård och humanitär hjälp har.
Röda Korset är tydliga med att civila på jorden ska skyddas från de skadliga effekterna av alla militära operationer, oavsett var de äger rum.
Tips på mer läsning
Läs mer om AI och kriget lagar här:
Läs mer om autonoma vapen här:
What you need to know about autonomous weapons | ICRC
Läs mer om cyber- och informationsoperationer här:
Civilian Involvement in Digitalizing Armed Conflicts | International Committee of the Red Cross
IHL and cyber operations during armed conflicts | ICRC
Läs mer om militära operationer i rymden här:
Constraints under International Law on Military Space Operations | ICRC
Preliminary recommendations on reducing space threats | ICRC

