Häromveckan avslöjade Dronewars.net att Storbritanniens försvarsdepartement sedan länge ger forskningsanslag till så kallade mördarrobotar, eller Laws (lethal autonomous weapon systems), som de kallas i officiella sammanhang. Det handlar om beväpnade robotar, till exempel en vapenförsedd drönare, som har förmågan att på egen hand både söka upp ett tilltänkt offer och attackera det.

Att det finns vapenförsedda drönare är tyvärr inget nytt. Under Obama gjorde sig USA skyldigt till att med hjälp av drönare avsluta åtminstone några tusen liv utan rättegång, bara det är ett enormt problem. Men de drönarna var skickade av en människa och det var en människa som styrde och fattade beslutet. Nästa steg är betydligt mer skrämmande, nästa steg är att det inte längre står under mänsklig kontroll.

Det finns många stora risker med det här, till exempel riskerar vi en framtid där de enda som finns i krigszonerna är två sidors vapenförsedda fordon och civila. Plötsligt, när risken för egna dödsoffer minimeras, blir också kostnaden för att gå i krig lägre. Vi riskerar fler och mer lättvindiga krig, där de enda egentliga offren är civila. Fler krig innebär så gott som garanterat betydligt fler civila offer. Men för att undvika att det blir ännu värre så står vår förhoppning till att AI:n inte har några systematiska biases, att den inte råkar lära sig fel. Att den inte får för sig att vissa karaktärsdrag innebär ett hot. För när en mördarrobot gör fel, vem är då skyldig?

Det finns en annan typ av risker också. Kina proklamerade 2014 att de inledde försöken med ett socialkreditsystem som ska vara implementerat över landet till 2020. Med hjälp av AI, artificiell intelligens, kameror och ansiktsigenkänning ska samtliga medborgare övervakas. De medborgare som gör dåliga saker, som till exempel att röka på ställen där man inte ska eller prata i telefon när man kör bil, får sin ranking sänkt. Tidigare i år var systemen (hittills finns det flera från både privata och offentliga aktörer, men inget är landsomfattande än) implementerade i sådan grad att vissa medborgare till följd av för låg rankning nekats att beställa vissa flyg- och tågbiljetter.

Ungefär samtidigt som de nyheterna kablades ut samlades regeringsrepresentanter i FN för att diskutera farhågorna med laws. Med sig hade den amerikanska representanten ett dokument med rubriken ”Mänsklig nytta med de växande teknologierna inom området dödliga autonoma vapensystem”, där punkt 16–18 handlar om hur AI:ns förmåga att snabbt genomsöka så kallade ”big data” kan användas för att snabbt finna intressanta mål i andra situationer. Det är inte svårt att följa tankarna till sitt slut. Vem har rätt till en rättegång när en algoritm klassat en som terrorist? Vad händer när ens sociala rankning blir för låg?

Att Dronewars rapportskrivare Peter Burt ägnat året åt att undersöka brittiska försvarsdepartementets ageranden trots att brittiska regeringen säger sig varken ha tillgång till helt autonoma vapen eller något intresse av att ta fram sådana är ingen slump. Det finns en massiv motrörelse över världen. Organisationen Stopkillerrobots har drivit på för förbud i flera år och har ett upprop där forskare, Nobelpristagare och kändisar, som till exempel Elon Musk och Stephen Hawkins, skrivit på. EU-parlamentet har antagit resolutioner som uppmanar både medlemsländer och ministerrådet att stödja ett förbud. Majoriteten av de deltagande länderna under FN-mötet är för fortsatta förhandlingar under 2019 i syfte att förbjuda Laws. Och i förra veckan gick Human Rights Watch i Frankrike ut med en uppmaning till Frankrike att ställa sig bakom förbudet.

Precis som brittiska regeringen så har Emmanuel Macron uttalat sig starkt emot, men i praktiken driver Frankrike och Tyskland en gemensam hållning där de föreslår en inte bindande resolution som en medelväg.

Det är nu hundra år sedan det första världskriget avslutades. I helgen samlades världens ledare i Paris för att hedra minnet av dess offer. Ett ärligare sätt att hedra dem hade varit att försöka hindra framtidens krig.

Då håller det inte att, som till exempel Frankrike, Storbritannien, USA och Kanada sälja vapen till länder som Saudiarabien. Då håller det inte att fortsätta öka anslagen till försvarsbudgeten som Tyskland och Frankrike. Men det håller inte heller att låta tiden gå, att släppa fram nästa form av massförstörelsevapen. Den här gången behöver vi agera snabbt. För när tekniken väl finns framtagen, då är det inte mycket som hindrar vilken organisation som helst från att använda den.