Xanthorox er en ny AI-tjeneste, som markedsføres på det mørke internet som “AI uden grænser” – et system uden etiske begrænsninger eller sikkerhedsfiltre.
For kun 300 dollars om måneden kan enhver kriminel få adgang til systemet og bruge det til at udføre avancerede hackerangreb, som tidligere krævede stor teknisk indsigt. Xanthorox er blevet afsløret af cybersikkerhedsselskabet Trend Micro.
Eksperter fra Trend Micro har netop afsløret AI-tjenesten Xanthorox – et nyt fænomen, hvor udviklere tilbyder ufiltrerede AI-systemer på abonnement til priser fra 300 dollars om måneden. Det gør det muligt for amatører at udføre komplekse cyberangreb ved blot at beskrive det ønskede resultat i en prompt.
“Bagmændene påstår, at tjenesten er udviklet til såkaldt etisk hacking – dvs. godartet hacking – men Xanthorox bliver åbenlyst markedsført i kriminelle miljøer, og det er nemt at finde dokumentationen på bl.a. YouTube,” siger danske Jonas Hvarness Sebøk-Grandal, country sales director for Danmark, Grønland og Færøerne, Trend Micro.
Selvom Trend Micros analyser viser, at den nye AI-tjenestes egenskaber overdrives af bagmændene, så repræsenterer tjenesten stadig et bekymrende skifte i måden, kriminelle kan udnytte kunstig intelligens på.
Trend Micros dybdegående analyse viser, at Xanthorox:
-
Jonas Hvarness Sebøk-Grandal, country sales director for Danmark, Grønland og Færøerne, Trend Micro
Genererer fuldt fungerende skadelig kode og giver trin for trin-vejledning, som legitime AI-tjenester normalt blokerer for.
- Mangler adgang til internet og dark web, hvilket gør tjenesten langt mindre egnet til rekognoscering eller sårbarhedsanalyse, end udvikleren påstår.
- Formentlig er bygget på en jailbroken kommerciel model – muligvis en manipuleret version af Googles Gemini Pro-model – selv om udvikleren hævder, at systemet er selvstændigt og privat hostet.
- Ser ud til at være designet til at fjerne sikkerhedsfiltre og etiske begrænsninger snarere end at styrke de tekniske evner — tjenesten prioriterer “ufiltreret” brug frem for reel performance.·
“Xanthorox viser tydeligt, hvordan AI misbruges i kriminelle sammenhænge. Selvom værktøjet ikke kan erstatte dygtige hackere, sænker det barrieren for at deltage i cyberkriminalitet markant – og øger dermed mængden af potentielle angreb,” siger Jonas Hvarness Sebøk-Grandal.
Behov for AI-governance i virksomheder
Jonas Hvarness Sebøk-Grandal understreger, at udviklingen af værktøjer som Xanthorox skærper behovet for governance, overvågning og politikker for brugen af generativ AI i erhvervslivet.
Når AI bliver integreret i virksomheders daglige processer, kan teknologien lige så let udnyttes af angribere som af forsvarere.
“Danske virksomheder skal sikre, at deres AI-strategier ikke kun handler om innovation og effektivitet, men også om sikkerhed og kontrol. Uden klare retningslinjer risikerer man, at medarbejdere uden at være bevidste om det anvender AI-tjenester, der åbner døren for cyberangreb,” forklarer Jonas Hvarness Sebøk-Grandal.
Trend Micro forventer, at fremtidige versioner af ondsindede AI-systemer vil kombinere stærkere modeller med bedre anonymitet, hvilket kan give angribere en betydelig fordel.
Derfor er overvågning og forståelse af denne udvikling afgørende for at kunne forudse næste generation af AI-drevne trusler.
