Hvis hackere får adgang til virksomheders AI-instruktioner, kan de få direkte indsigt i virksomhedernes forsvarsstrategier og beslutningsprocesser, som de kan misbruge til at målrette hackerangreb med langt større præcision.
Det viser nye undersøgelser fra cybersikkerhedsvirksomheden TrendAI, der er en del af Trend Micro.
“AI-instrukser er en overset angrebsflade, som traditionel sikkerhedssoftware slet ikke kan håndtere,” siger danske Jonas Hvarness Sebøk-Grandal fra TrendAI.
Danske virksomheder og offentlige myndigheder integrerer i stigende grad AI direkte i forretningskritiske systemer. Men ifølge nye undersøgelser fra TrendAI skaber AI-integrationer en ny og alvorlig angrebsflade, som mange endnu ikke har indregnet i deres sikkerhedsstrategi.
Det handler om de instruktioner – ofte kaldet AI-skills – der styrer AI-assistenter og automatiserede arbejdsgange, bl.a. i relation til virksomhedens cybersikkerhed. Hvis de kompromitteres, kan de give hackernes et detaljeret indblik i organisationens indre logik, processer og prioriteter.
Kan afsløre alarmtærskler og forsvarsstrategier
Jonas Hvarness Sebøk-Grandal
AI-instruktioner bruges allerede i kritiske miljøer som:
- Sikkerhedsoperationelle centre (SOC’er)
- Finansielle handels- og risikomodeller
- Sundhedssektorens beslutningslogik
- Industri- og energisektorens produktionsoptimering
Ifølge TrendAI’s undersøgelser er især sikkerhedscentre udsatte. Får en hacker adgang til AI-logikken bag overvågningen, kan det afsløre:
- Hvordan alarmer prioriteres
- Hvilke tærskler, der udløser handling
- Hvordan hændelser klassificeres
- Hvilke automatiske modforanstaltninger der aktiveres
“Når virksomheder omsætter deres viden og beslutningslogik til AI-instruktioner, bliver det en del af deres digitale infrastruktur. Det er ekstremt værdifuldt – både for virksomheden selv og for en hacker. Hvis hackeren får adgang til AI-logikken, ser de ikke bare systemerne. De ser, hvordan organisationen tænker, prioriterer og reagerer. Det giver en strategisk fordel, som kan være langt mere alvorlig end et traditionelt databrud,” forklarer danske Jonas Hvarness Sebøk-Grandal, country sales director for Danmark, Grønland og Færøerne, Trend Micro.
Fra taktisk indsigt til strategisk overblik
Ifølge TrendAI kan kompromittering af enkelte AI-instruktioner give hackerne taktisk indsigt, mens adgang til mange instruktioner kan give et fuldt overblik over organisationens prioriteringer og forsvarsstrategi.
I yderste konsekvens kan det gøre det muligt at konstruere en digital model af organisationens beslutningsmønstre – en såkaldt digital tvilling.
“AI er ikke længere kun et produktivitetsværktøj. Det er blevet en integreret del af kritiske processer. Hvis sikkerheden ikke følger med, risikerer virksomheder at åbne en ny bagdør ind til deres kerneforretning og mest følsomme oplysninger,” siger Jonas Hvarness Sebøk-Grandal.
Traditionelle sikkerhedsværktøjer ser ikke problemet
En central udfordring er, at AI-instruktioner primært består af ustruktureret tekst, der kombinerer data og eksekverbar logik. De fleste traditionelle sikkerhedsværktøjer er designet til at genkende angrebsmønstre, ikke til at analysere betydningen i tekstbaseret AI-logik.
Ifølge TrendAI skaber det en blind vinkel i mange organisationers sikkerhedsarkitektur.
“Mange virksomheder implementerer AI hurtigere, end de forstår sikkerhedskonsekvenserne. Når AI kobles direkte på kerneprocesser, skaber man en ny angrebsflade, og den bliver i dag ikke overvåget systematisk,” siger Jonas Hvarness Sebøk-Grandal.
Anbefalinger til danske organisationer
TrendAI anbefaler blandt andet, at organisationer:
- Kortlægger og klassificerer eksisterende AI-instruktioner
- Begrænser adgang efter “least privilege”-princippet
- Overvåger ændringer og uregelmæssig AI-eksekvering
- Adskiller AI-instruktioner fra data, der ikke er verificeret eller kontrolleret
- Tester løsninger mod manipulations- og injektionsangreb
Læs mere her
