Samhälle Krönika
Deepfakes och AI-imitationer kan avgöra val
I det slovakiska valet spreds fejkade ljudklipp där en partiledare påstods vilja köpa röster. I Storbritannien cirkulerar falska ljudfiler där Labour-ledaren Keir Starmer skäller ut medarbetare med grovt språk. Kunskapen om deepfakes, AI-imitationer och desinformationskampanjer måste nu öka snabbt, skriver Joakim Broman.
Enligt tradition har Slovakien ett moratorium på politiska uttalanden två dagar innan ett val. Då förväntas debatten vara färdig och väljarna ska i lugn och ro få bestämma sig. Så även inför årets val, som ägde rum den 30 september. Precis 48 timmar innan valet började så ett ljudklipp spridas i sociala medier. På inspelningen hörs partiledaren för liberala partiet Progressiva Slovakien, Michal Šimečka, samtala med Monika Tódová från dagstidningen Denník N om möjligheterna att köpa röster från landets romska befolkning.
Ljudklippet var förstås fejk, där AI-röster användes för att imitera de verkliga personerna, men på grund av moratoriet och tajmingen var det svårt både för partiet och etablerade medier att sprida sanningen i tid. Röstköpsklippet var inte, som teknikmagasinet Wired skriver i sin genomgång av händelserna, det enda som cirkulerade. Tre dagar innan valet spreds exempelvis ett annat ljudklipp där Šimečka pratade om att dubbla priset på öl vid valseger.
Därmed tycks hösten 2023 bli det verkliga genombrottet för så kallade politiska deepfakes.
Det är svårt att veta säkert hur effektiv påverkanskampanjen var, men att PS ledde i opinionsmätningarna och till slut förlorade med knapp marginal mot vänsterpopulisterna SMER tyder på att klippen spelade roll. Att SMER är pro-ryskt och bland annat vill stoppa vapenleveranserna till Ukraina kanske kan ge en ledtråd om syftet med påverkanskampanjen.
Därmed tycks hösten 2023 bli det verkliga genombrottet för så kallade politiska deepfakes, där AI-genererade ljud- eller videoklipp används för att sprida desinformation. För ett par veckor sedan, samma dag som brittiska Labour samlades till konferens, spreds ett fejkat klipp där partiledaren Keir Starmer med grovt språk skäller ut medarbetare.
Och i den polska valkampanjen publicerade det största oppositionspartiet Platforma Obywatelska (”Medborgarplattformen”) en video där verkliga klipp på premiärministern Mateusz Morawiecki blandades med AI-genererat material. (För att ytterligare bidra till förvirringen innehöll klippen AI-inläsningar av mejl som ska ha läckts från Morawieckis stabschef, men där det råder oklarhet kring autenticiteten för mejlen.) Filmen kritiserades skarpt av experter och kommentatorer, och några timmar efter publiceringen förtydligade partiet att klippet innehöll AI-genererade röster. Hur originalklippet spreds vidare vet man dock inte.
***
I jämförelse med de klipp som kan ha avgjort det slovakiska valet är det tämligen beskedligt, men jag blev ändå lite ställd när jag på X (tidigare Twitter) sprang på ett klipp där Magdalena Andersson pratade arabiska. Klippet var taget från partiledardebatten den 8 oktober, och innehåller S-ledarens fördömande av Hamas och deklaration om att Israel har rätt att försvara sig. Det är sedan dubbat till arabiska, och rösten är – så vitt jag kan bedöma – en AI-imitation av Andersson utan att det anges i filmen. Den uppfattning som Andersson gav uttryck för i partiledardebatten återges på ett helt korrekt sätt, men användningen av en AI-röst är inte därmed automatiskt harmlös. Vad händer exempelvis om klippet sprids ihop med påståendet om att Andersson lärt sig arabiska för att bättre kunna kommunicera med muslimska gemenskaper och företrädare? I ett sådant fall behöver inte ens upphovsmakaren ha ett illvilligt syfte för att filmen ska kunna göra skada.
Att genombrottet för deepfakes kommer nu, flera år efter att de första AI-genererade klippen börjat spridas, beror enligt datavetaren Dame Wendy Hall på att tekniken nu mognat och blivit tillgänglig för fler. Vem som helst kan ladda ner verktyg för att fejka ljudklipp. Video är fortfarande svårare att göra på ett trovärdigt sätt, men som Slovakien-fallet är potentialen att skada mycket stor även utan rörlig bild.
Dame Wendy Hall menar enligt Sky News att politiken måste vakna och få AI-regleringar på plats. Frågan är bara vad regleringar skulle göra för skillnad. Verktygen finns redan att få tag i för den som vill, och förbud skulle inte stoppa ljusskygga aktörer.
Hall har dock rätt i att medvetenheten kring deepfakes måste öka, och det snabbt. Nästa år sker viktiga valrörelser i USA, Storbritannien, Indien och till Europaparlamentet. Inte minst Ryssland kommer att ha stort intresse av att påverka opinionen och sprida desinformation, och om inte allmänheten känner till hur enkelt det är att göra perfekta imitationer kan situationen milt uttryckt bli farlig.