Deepfakes og valgmanipulation er en trussel mod demokratiet og weekendens EU-valg

Den globale cybersikkerhedsvirksomhed Check Point Software Technologies Ltd advarer om, at cybertrusler og deepfake-teknologier påvirker tilliden til politiske valg, og dermed kan true valgintegriteten.

Det gælder også det kommende EU-valg, som finder søndag den 9. juni.

Med det forestående valg til Europa-Parlamentet er der en øget risiko for cyberangreb og misbrug af deepfake-teknologier, hvilket ikke blot er en teknologisk trussel, men også en demokratisk udfordring for alle EU’s 27 medlemslande. Check Point Research, der er en del af Check Point Software Technologies, har analyseret 36 valg i EU og globalt siden september 2023, og analyserapporten påviser brug af deepfake-teknologier i 10 ud af de 36 valg, herunder valgene i Frankrig, Slovakiet og Polen.

“I takt med at EU-parlamentsvalget nærmer sig, står Danmark og mange andre europæiske lande over for denne voksende trussel fra deepfake-teknologien, som kan underminere valgintegriteten og svække borgernes tillid til demokratiet.” påpeger Sergey Shykevich, der er chef for Check Points Threat Intelligence-division og fortsætter: ”Danmark er imidlertid et land med et veletableret demokrati og en høj grad af tillid, og vi ved fra vores rapporter, at der er færre tilfælde af AI-genereret misinformation under valg i sådanne lande. Dog tyder nylige hændelser – herunder en deepfake-video af den danske statsminister – på at teknologien begynder at gøre sit indtog i dansk politik. Behovet for stærkere lovgivning og fælles retningslinjer for at bekæmpe denne form for digital manipulation er derfor mere relevant nu end nogensinde før,” afslutter han.

Professor og valgforsker: Danskerne skal ikke være bange, men vi kan forvente mere deepfake-manipulation i fremtiden

Ifølge professor og valgforsker på Københavns Universitet, Kasper Møller Hansen, bliver det sværere at skelne mellem rigtige og falske nyheder og indhold. Han forudser, at de store mediehuse får en vigtig rolle i at levere valideret indhold. Selvom han ikke er bekymret for det danske demokrati nu og her, ser han dog en række problemer, der skal adresseres.
“Valghandlingen fungerer fint i Danmark, fordi sikkerheden er høj. Men brugen af deepfake-teknologi i kampagner udvikler sig hele tiden. Vi skal forvente at se både satirisk indhold – som f.eks. Dansk Folkepartis deepfake-video med statsministeren – og forsøg på decideret manipulation. Dog skal vi ikke være bange her og nu, men det er vigtigt, at vi som nation tager stilling til, hvordan vi skal håndtere udviklingen,” understreger Kasper Møller Hansen, der samtidig håber, at borgerne vil vende sig mod de store mediehuse for at få verificeret indhold.

Deepfake-svindel går i mange retninger

Deepfake-svindel kan bruges til at sprede misinformation og manipulere den offentlige opinion, men der er også den potentielle trussel om cyberangreb på valgsystemernes infrastruktur. Derfor kræves der opmærksomhed og samarbejde på alle niveauer for at bevare integriteten af valgprocessen.

Deepfake-teknologier bruger maskinlæring og kunstig intelligens til at skabe eller redigere videoer og lydoptagelser, så de virker autentiske. I en valgkontekst kan sådanne videoer skade politikeres omdømme og sprede falske nyheder og misinformation, der kan påvirke vælgernes beslutninger. At skabe falsk og bedragerisk indhold er desværre foruroligende overkommeligt og nemt via onlinetjenester, hvor priserne starter ved beskedne 15-20 kr. pr. video.

“EU og medlemsstaterne forsøger aktivt at imødegå disse trusler – blandet ved at vedtage EU’s AI Act, der har til hensigt at øge gennemsigtigheden og begrænse brugen af AI til skadelige formål, hvilket dog ikke vil forhindre cyberkriminelle og nationale hackergrupper i at bruge EU-valget til at sprede propaganda mod EU og støtte forskellige anti-EU-initiativer i de enkelte medlemslande,” siger Sergey Shykevich.

Nøglepointer fra rapporten:

• Deepfakes og AI-genereret materiale: Disse frigives ofte lige før et valg for at begrænse muligheden for, at faktatjekkere kan nå at reagere. De udnytter desuden regler, der forbyder politisk diskussion i de toneangivende medier kort før afstemning, hvilket tillader uimodsagte falske nyheder at dominere.

• Deepfake-lyd gør sit indtog: Lydfiler bliver i stigende grad anvendt med succes ift. deepfake billeder og videoer. Mange lande mangler nemlig tilstrækkelig regulering for at begrænse spredningen af sådant indhold.

Fransk eksempel på deepfake-anvendelse

Her ses et eksempel fra rapporten med anvendelse af deepfake-teknologi i forbindelse med det franske senatsvalg afholdt i september 2023, hvor en senatskandidat indrømmede, at der var blevet anvendt AI til at forbedre hendes valgplakatportræt. Selvom dette er et anekdotisk eksempel, fremhæver det brugen af AI-genereret materiale til at forbedre en kandidats position.

Forstyrrelse af valgprocessen

Brugen af disse teknologier i disinformationskampagner udgør en trussel mod de EU-valget, og valgprocessen kan ifølge analyserapporten blive forstyrret på flere måder:

1. Vælgermanipulation: Deepfake-videoer og lydoptagelser kan bruges til at skabe falske begivenheder, hvor politikere siger eller gør ting, der kunne skade deres omdømme eller påvirke vælgere. Sådanne videoer kan sprede sig meget hurtigt gennem sociale medier. Omvendt kan der dukke videoer op, der fremstiller kandidater som helte med prisværdige handlinger, som de dog aldrig har udført.
2. Underminering af den offentlige tillid: Hvis deepfake-videoer og lydoptagelser bliver almindelige værktøjer, kan det medføre en bredere offentlig mistillid til information, hvilket gør det endnu sværere for vælgerne at træffe beslutninger på et oplyst grundlag.
3. Destabilisering af det politiske miljø: Den effektive udbredelse af deepfake-svindel kan føre til politisk spænding og ustabilitet, hvis vælgerne ikke er i stand til at skelne sande oplysninger fra falske. Konsekvensen kan være manglende tillid til demokratiske institutioner og processer.
4. Spionage: Nationale hackergrupper og andre cyberkriminelle kan forsøge at forstyrre valg gennem forskellige sofistikerede angreb samt spionage og datalækageforsøg for at påvirke valgresultaterne til fordel for bestemte politiske grupper eller ideologier.

5. Juridiske og etiske dilemmaer: Deepfake-videoer rejser en række spørgsmål om indgriben i personlige rettigheder og juridiske normer. Juraen kan have svært ved at følge med den teknologiske udvikling, hvilket gør det vanskeligt at regulere og straffe misbrug.

Samtidig kan vi forvente en bølge af hacktivistiske angreb, især i form af DDoS-angreb på forskellige tjenester og eksponerede websteder. For eksempel forsøgte den pro-russiske hacktivistgruppe NoName057(16) under de tjekkiske præsidentvalg at nedlægge nogle kandidaters websteder og skabe en atmosfære af frygt.

Sådan forsvarer man sig imod deepfake-svindel

• Verificer kilder: Lær at identificere pålidelige informationskilder og undgå at dele utroværdigt indhold, der kan manipulere dine venner.
• Uddan dig selv: Uddannelse og brug af kritisk tænkning er nøglen til at bekæmpe manipulation, misinformation og disinformation. Det er nyttigt at deltage i workshops eller kurser om medieforståelse for bedre at kunne identificere falsk indhold.
• Brug teknologi til et godt formål: Brug tilgængelige værktøjer til at opdage deepfake og andet manipulerende indhold. Sociale netværk og platforme bør informere brugerne om potentielt manipuleret indhold.

• Vær opmærksom på uønskede beskeder: Åbn ikke e-mails eller vedhæftede filer fra ukendte kilder eller personer. Reagér ikke på disse beskeder. Slet dem og rapporter dem i stedet for.