Unit 42, Palo Alto Networks’ forskningsgruppe, har afdækket omfattende svindelkampagner, der udnytter deepfake-videoer med kendte offentlige personer.
Kampagnerne spreder falske investeringsordninger og statsstøttede giveaways på flere sprog og rammer målgrupper verden over.
Deepfake-teknologi anvendes i stigende grad af cyberkriminelle til at narre både virksomheder og privatpersoner. Forskerne fra Unit 42 har identificeret snesevis af svindelkampagner, der spreder falsk information gennem realistiske AI-genererede videoer, som bruger kendte ansigter som Elon Musk og andre offentlige figurer. Videoerne bliver ofte brugt til at promovere fiktive investeringsmuligheder og falske tilbud om statsstøtte.
Kampagnerne er målrettet enkeltlande, herunder Canada, Frankrig, Tyrkiet, og der er ingen tegn på, at Norden går fri af disse trusler. I et eksempel på en af de største svindelkampagner, kaldet Quantum AI, har Unit 42 afsløret brugen af hundredvis af domæner, der i gennemsnit er blevet tilgået 114.000 gange globalt. Det indikerer et stort omfang og en massiv spredning af misinformation.
– Nye globale tal viser en markant stigning i deepfake-relaterede svindelkampagner, og der tegner sig et lignende billede af de nordiske tal. Det er derfor afgørende, at både virksomheder og privatpersoner i Norden er opmærksomme på truslen og tager de nødvendige forholdsregler for at beskytte sig mod angreb, siger Jesper Olsen, Nordeuropæisk CSO for Palo Alto Networks.
Sporing af svindel og trusselsaktører
Sporing af svindel og trusselsaktørerAnalyser af Quantum AI-svindelkampagnen viser, at mange af kampagnerne har samme taktiske og infrastrukturelle baggrund, hvilket tyder på en enkelt trusselsaktørgruppe som bagmand.
Ved at bruge generativ AI (GenAI) formår aktørerne at skabe overbevisende videoer med AI-genereret lyd og avanceret læbesynkronisering, som får kendte personer til at fremstå som fortalere for falske investeringer. Teknologien gør det muligt for svindlerne at ramme specifikke målgrupper i bestemte lande ved at tilpasse kampagnerne i både indhold og sprog.
Nordiske virksomheder og privatpersoner bør være opmærksomme på den stigende trussel fra deepfake-svindel. Cyberkriminelle har allerede forårsaget betydelige økonomiske tab globalt, og den nordiske region er ingen undtagelse. Med en forventet stigning i cyberkriminalitet drevet af deepfake-teknologi er det vigtigt, at forsvarsmekanismerne forbedres, og at der proaktivt arbejdes på at forhindre angrebene.
Beskyttelse mod deepfake-svindel
Palo Alto Networks beskytter løbende sine kunder mod deepfake-svindel gennem avancerede sikkerhedsløsninger som Advanced URL Filtering, der effektivt opdager og blokerer ondsindede websteder. Selvom truslerne udvikler sig med brug af avanceret AI-teknologi, er traditionelle efterforskningsteknikker stadig værdifulde, da de gør det muligt at identificere og spore de underliggende infrastrukturer, som trusselsaktører benytter, hvilket hjælper med at afsløre og forhindre svindelkampagner, selv når de bliver mere sofistikerede.
Fremtiden for deepfake-svindel
2024 bliver det største valgår nogensinde, med over 60 lande og 4 milliarder mennesker, der skal deltage i præsident-, parlaments- og lokalvalg. Med så mange vigtige valg stiger risikoen for, at deepfake-teknologi vil blive brugt til at manipulere politiske budskaber og påvirke vælgernes holdninger. Cyberkriminelle er klar til at udnytte situationen, ikke kun til at forvride politiske meninger, men også til at bedrage virksomheder og borgere for økonomisk gevinst. Palo Alto Networks’ forskere vil fortsætte med at overvåge og bekæmpe truslerne, så vores kunder kan føle sig trygge i det digitale landskab.
