Selv om agentic AI er udset til at blive den næste store revolution indenfor AI, falder tilliden til AI-agenter kraftigt blandt beslutningstagere i virksomheder og organisationer.
Det konkluderer ny rapport fra den globale konsulentvirksomhed Capgemini, der bl.a. viser, at tilliden til autonome AI-agenter på bare ét år er faldet fra 43 til 27 pct. – primært på grund af bekymringer om etik og håndtering af persondata.
AI-agenter forventes at være involveret i hovedparten af alle forretningsmæssige opgaver og processer indenfor bare tre år. Det er en af hovedpointerne i en ny rapport fra Capgemini Research Institute, “Rise of agentic AI: How trust is the key to human-AI collaboration”. Men rapporten viser samtidig, at tilliden til fuldt autonome AI-agenter er kraftigt dalene blandt erhvervsledere: Fra 43 pct. sidste år til 27 pct. i årets rapport. Kun 40 pct. svarer nu, at de vil betro AI-agenter at håndtere opgaver og processer autonomt, mens et flertal ikke har ubetinget tillid til teknologien.
Michael Clausen, CTO i Capgemini Danmark
Særligt bekymringer i forhold til etiske aspekter som persondata, bias i algoritmer og mangel på gennemsigtighed i beslutninger vejer ifølge Capgeminis rapport stadig tungere. Samtidig mener godt to ud af fem erhvervsledere i dag, at de risici, der følger med implementeringen af AI-agenter, overstiger gevinsterne.
”Det er selvsagt afgørende for den transformation, der følger med agentic AI, at der er en høj grad af tillid til, at AI fra start kan agere ansvarligt med hensyn til etik, privatliv, mm. Derfor ser vi også, at mange fokuserer på at fremme menneske-AI-relationen og via veldefinerede rammer skabe de rette betingelser for, at teknologien kan understøtte og forbedre vores menneskelige hverdag – herunder beslutningstagen,” siger Michael Clausen, CTO i Capgemini Danmark, og tilføjer:
”Det er bl.a. det, der sker i Industry 5.0, som repræsenterer et skifte mod en mere ansvarlig og balanceret tilgang til industrialisering. Her tjener teknologien mennesker og miljø – ikke omvendt”.
Ifølge rapporten er en udbredt erkendelse i dag, at AI-agenter giver det største bidrag, når mennesker er aktivt involveret i opgaveløsningen og rammesætningen. Næsten 75 pct. svarer, at fordelene ved menneskelig involvering og klart definerede rammer er større end omkostningerne, og 90 pct. ser menneskelig involvering i AI-drevne arbejdsgange som enten økonomisk positive eller omkostningsneutrale.
Selv om Capgeminis undersøgelse fremhæver agentic AI som en af de hurtigst voksende teknologitrends, befinder de fleste organisationer og virksomheder sig stadig i de tidlige adoptionsfaser. Mens ca. en fjerdedel i undersøgelsen har lanceret pilotprojekter – og lille antal (14 pct.) har påbegyndt implementering – er langt hovedparten stadig i planlægningsmode. Den lidt afventende tilgang står i skarp kontrast til topledelsens ambitioner. Her regner stort set alle (93 pct.) med at kunne skalere brugen af AI-agenter i organisationen indenfor 12 måneder og på kort sigt opnå konkurrencefordele via teknologien.
”Det er en væsentlig pointe, at tillid og menneskeligt definerede rammer for AI-agenters spillerum er kritiske faktorer for at realisere potentialet i agentic AI. Men vi ser også, at skismaet mellem gode intentioner og reel parathed til at handle er en af de største barrierer for at realiserer den enorme økonomiske mulighed på op mod 450 milliarder US-doller, der ligger i agentic AI,” fastslår Michael Clausen.
Se hele rapporten på: https://www.capgemini.com/wp-content/uploads/2025/07/AI-Agents_Final_290725.pdf
Om Capgemini Gruppen
Capgemini er en førende, global teknologi- og rådgivningspartner. I Danmark har Capgemini mere end 500 medarbejdere, der hjælper kunderne med rådgivning, strategi- og teknologiudvikling samt effektiv IT-drift. Globalt beskæftiger Capgemini Gruppen 340.000 medarbejdere i mere end 50 lande. Med 55 års erfaring og en dyb industrispecifik ekspertise er Capgemini en betroet partner for kunder, der vil indfri deres forretningsambitioner via digital teknologi, software, cloud, data science og AI. Capgemini Gruppen omsatte i 2024 for €22,1 mia. Se mere på www.capgemini.com
