AI giver vidt forskellige svar på det samme spørgsmål. Svaret afhænger bl.a. af geografi, sprog og politisk kontekst.
Det viser en ny analyse af næsten 100 forskellige AI-modeller, som cybersikkerhedsselskabet Trend Micro har udført.
“Mange virksomheder bruger AI direkte i kunderettede løsninger og beslutningsprocesser uden at kontrollere svarene. Det kan føre til alvorlige juridiske problemer, økonomiske tab og skade på omdømmet,” siger danske Jonas Hvarness Sebøk-Grandal fra Trend Micro.
“Mange virksomheder forventer, at AI opfører sig som klassisk software – at samme input giver samme output hver gang. Men sådan fungerer store sprogmodeller (LLM’er), som AI er baseret på, ikke. Vores analyse viser, at svarene kan variere fra land til land – og endda fra én interaktion til den næste. Hvis AI bruges direkte i produkter til kunder eller i forretningskritiske beslutninger, risikerer man at miste kontrollen over både compliance og brand,” forklarer danske Jonas Hvarness Sebøk-Grandal, Country Sales Director for Danmark, Grønland og Færøerne, Trend Micro.
Jonas Hvarness Sebøk-Grandal
Trend Micros nye rapport “Unmanaged AI Adoption and the Risks to Enterprises” er baseret på analyser af næsten 100 forskellige AI-modeller, tusindvis af gentagne tests og mere end 800 målrettede prompts, der samlet har genereret over 60 mio. input tokens og mere end 500 mio. output tokens. Tokens er de tekstbidder/ord, en AI sender/modtager i en prompt.
Svar kan overskride lokale regler, normer og værdier
Resultaterne viser, at AI-modeller kan give markant forskellige svar afhængigt af, hvor i verden de anvendes, hvilket sprog de bliver spurgt på, og hvilke indbyggede begrænsninger og styringsmekanismer de er underlagt. I kunderettede løsninger og beslutningsstøtte kan det betyde, at AI’ens output ikke stemmer overens med lokale regler, kulturelle normer eller virksomhedens egne værdier.
AI ændrer svar for at behage brugeren
Rapporten peger bl.a. på, at AI-modeller kan udvise regionale og politiske bias i spørgsmål om territorier og national identitet, levere upræcise eller forældede svar i finansielle og tidskritiske sammenhænge og ændre adfærd over tid for at behage brugeren.
For globale organisationer, der opererer på tværs af markeder, forstærkes risikoen yderligere.
Den offentlige sektor er særligt udsat
Særligt i den offentlige sektor kan ukritisk brug af AI være problematisk, da AI-genereret indhold ofte opfattes som officiel information.
“AI bør ikke betragtes som et plug and play-produktivitetsværktøj. Det er en højrisikoteknologi, som kræver klare governance-strukturer, tydelig ansvarsfordeling og menneskelig verifikation af alle brugerrettede outputs. Samtidig bør organisationer stille krav om gennemsigtighed til AI-leverandører – både i forhold til datagrundlag, modellernes begrænsninger, og hvor der sættes grænser for deres adfærd,” siger Jonas Hvarness Sebøk-Grandal, der dog understreger, at AI har stort potentiale, når det gælder innovation og effektivisering.
“AI-teknologien skal implementeres med en realistisk forståelse af dens begrænsninger og med kontroller, der matcher den måde, AI faktisk opfører sig på i praksis,” siger han.
Om Trend Micro
Trend Micro er en global leder inden for cybersikkerhed med over 7.000 medarbejdere i 70 lande. Trend Micros AI-drevne sikkerhedsplatform beskytter virksomheder og privatpersoner mod trusler på tværs af cloud, netværk, enheder og endpoints.
