Delstatsvalet i indiska Bihar i november visar hur AI blivit ett kraftfullt verktyg i politiska kampanjer – men också hur tekniken riskerar att bidra till ökad desinformation. Den snabba spridningen av AI-genererat innehåll riskerar att urholka förtroendet för demokratin om inte etiska riktlinjer och system för att granska falskt innehåll upprättas snabbt, skriver skribenten Vladan Lausevic.
Det senaste delstatsvalet i Bihar i Indien i november visar hur artificiell intelligens (AI) håller på att bli en integrerad del av politiska kampanjer. AI-genererade röster, bilder och videor användes inför och under delstatsvalet för att skapa innehåll, sprida budskap och främja politiska berättelser.
Samtidigt ökade mängden falsk och manipulerad information, vilket gjorde det svårare för väljarna i Bihar att avgöra vad som var verkligt och vad som var falskt rörande vallöften. Det indiska delstatsvalet kan därför visa hur teknikens hastighet, räckvidd och låga kostnader förstärker redan existerande problem och orättvisor samt riskerar att försvaga och urholka demokratisk delaktighet ännu mer.
AI missbrukas för odemokratiska metoder
Indien är världens största demokratiska samhälle och digital teknik har använts under de senaste åren för att kommunicera och engagera stora väljargrupper. I det senaste delstatsvalet i Bihar, vars befolkning bedöms vara runt 120 miljoner invånare, användes artificiell intelligens mycket mer än tidigare i landet. Genom AI skapades innehåll anpassad efter språk, ålder, jobb och andra identitetsfaktorer som anses viktiga vid politisk kommunikation.
AI blev ett sätt att effektivisera kommunikationen, men det förändrade också själva valets utveckling, händelser och kampanjkostnader. Budskap och bilder kunde upprepas dagligen utan större mänsklig ansträngning. Personalkostnader kunde minskas och politiska ledare kunde ”närvara” digitalt i områden som de tidigare inte hade möjlighet att besöka fysiskt.
Samtidigt präglades valkampanjen av en mer aggressiv, polariserande och intensiv kommunikation där snabbhet, spridning och mängd blev viktigare än respekten för demokratiska spelregler och värderingar. Valet i Bihar kännetecknades av deepfakes, falska uttalanden och fabricerade videoklipp som cirkulerade samtidigt med de officiella kampanjerna. För många väljare i delstaten blev det svårt att avgöra vilka budskap som verkligen kom från politikerna och vilka som var skapade för att förvirra, sprida hat mot eller underminera de politiska motståndarna.
Undergräver tillit till demokratin
Flera forskare menar i dag att när gränsen mellan det verkliga och artificiella suddas ut undermineras tilliten till den demokratiska processen. Vilket även resulterar också till att fler kan misstro eller förneka valresultats legitimitet. Ett annat demokratiskt problem är hur AI förstärker redan etablerade maktstrukturer och andra problem för demokratin. Politiska aktörer med stora resurser kan producera avancerade och sofistikerade kampanjer som tränger undan mindre partier och kandidater.
AI-program gör det också möjligt att anpassa budskap efter individens beteende, värderingar och intressen som i sin tur kan splittra människor i isolerade informationsbubblor. Resultatet blir en politisk kommunikation som inte längre bygger på gemensam samhälleliga samtal, utan på ”parallella” eller ”alternativa” verkligheter. I samhällen med stora sociala och ekonomiska ojämlikheter samt där digital kompetens varierar mycket är riskerna för sådana problem ännu större.
När teknologisk utveckling går snabbare än lagarna och institutionerna ökar risken att politiskt inflytande flyttas från medborgarna till tekniska system. På flera sätt kan AI bidra till att sprida viktig information och öka politiskt deltagande men även orsaka flera problem genom missbruk. Utan tydliga regler, etiska riktlinjer och system för att granska falskt innehåll kan AI i sin värsta form stärka just diktaturer och auktoritära system istället för att förnya och förbättra demokratin.
