Red Hat præsenterer nu asago (AI Safety And Governance Orchestration), et nyt open source-projekt, der skal hjælpe organisationer med at omsætte AI-politikker til sikre og produktionsklare AI-systemer.
Initiativet samler flere førende teknologivirksomheder og forskningsinstitutioner med målet om at gøre arbejdet med AI-sikkerhed, compliance og styring enklere.
Bag projektet står et voksende internationalt samarbejde, hvor blandt andre Microsoft, IBM Research, NVIDIA, MIT Lincoln Laboratory og The Alan Turing Institute deltager. Sammen bidrager de med ekspertise inden for AI-sikkerhed, maskinlæring, compliance og udvikling af virksomhedsløsninger.
En af de største udfordringer for organisationer, der implementerer AI, er at omsætte overordnede politikker og regulatoriske krav til konkrete tekniske kontroller. Ifølge Red Hat er processen ofte tidskrævende og afhængig af manuelle arbejdsgange, hvilket kan føre til både forsinkelser og fejlfortolkninger.
asago er udviklet til at automatisere denne procesved at skabe et sammenhængende og sporbart workflow mellem AI-udvikling, sikkerhed og compliance. Projektet integreres med etablerede open source-værktøjer og skal reducere tiden fra politiske krav og retningslinjer til produktionssætning fra måneder eller år til blot få dage.
Projektet bygger på fire centrale trin: risikokortlægning, risikovurdering, risikohåndtering og implementering. Ved at koble AI-politikker til etablerede rammeværk som NIST AI RMF, OWASP LLM Top 10 og EU AI Act kan organisationer få en tydeligere struktur for, hvordan sikkerhedskrav implementeres og løbende følges op.
En vigtig del af løsningen er, at alle sikkerhedskontroller i produktionsmiljøet kan spores tilbage til det specifikke politikrav eller regelsæt, der ligger bag beslutningen. Det skaber et kontinuerlig revisionsspor, som gør det lettere at dokumentere compliance og håndtere fremtidige regulatoriske krav.
Lanceringen sker på et tidspunkt, hvor mange virksomheder bevæger sig fra AI-pilotprojekter til mere avancerede og autonome AI-systemer. Samtidig vokser kravene til sikkerhed, gennemsigtighed og kontrol i takt med, at nye regler – herunder EU AI Act får større betydning.
– Når organisationer bevæger sig fra eksperimentelle AI-piloter til langsigtede autonome AI-agenter, bliver tydelige sikkerhedsrammer et grundlæggende krav til infrastrukturen. asago automatiserer forbindelsen mellem organisationernes AI-politikker og AI-agenter i produktion og giver den operationelle sikkerhed, der kræves for at skalere pålidelig AI i hybrid cloud-miljøer, siger Steven Huels, Vice President, AI Engineering hos Red Hat.
Red Hat understreger, at asago udvikles som et åbent community-projekt, og at flere organisationer opfordres til at deltage i udviklingen.
– asago er et åbent samarbejdsprojekt, der samler aktører fra teknologiindustrien, forskningsverdenen og offentlige organisationer. Vi byder flere organisationer velkommen til at tilslutte sig communityet og bidrage med nye perspektiver på AI-sikkerhed, siger Stuart Battersby, AI Safety and Model Evaluation Architect hos Red Hat.
Med asago ønsker Red Hat og deres samarbejdspartnere at skabe et fælles fundament for, hvordan fremtidens AI-systemer kan udvikles, styres og implementeres på en sikker og transparent måde – samtidig med at innovationstempoet fastholdes.
