Det sociale netværk Boblberg, der siden 1. juli har været en del af Røde Kors, udvikler sammen med Alexandra Instituttet en AI-moderator, der skal fange skadeligt indhold i opslag og beskeder.
Modellen kører på Alexandra Instituttets danske AI-platform, så løsningen er i tråd med GDPR.
Det sociale medie Boblberg forbinder i dag over 690.000 brugere på tværs af landet. Her mødes mennesker i alle aldre om fælles interesser, aktiviteter og oplevelser. Et trygt og uformelt sted, hvor det handler om at finde gode fællesskaber.
Men fællesskaber har også en bagside, der kan indebære mistrivsel og ensomhed. En nylig undersøgelse fra Analyse og Tal viser, at 38% af de brugere, der i 2025 skrev på Boblberg, gav udtryk for mental mistrivsel i deres indhold blandt de over 1,4 millioner bobler og beskeder, der blev skrevet i løbet af året.
For at komme mistrivslen i møde er der behov for moderation. Indtil videre er arbejdet blevet udført manuelt af Boblberg-teamet, men i fremtiden skal det være AI-understøttet.
“I dag bruger vi en del ressourcer på manuelt at gennemgå indholdet på platformen. Når AI assisterer en stor del af det arbejde, kan vi bruge tiden på opgaver, der skaber endnu mere værdi,” siger Stephan Djurhuus, Senior Software Engineer i Innovation & Development hos Boblberg.
Privatliv og AI-modeller
I bestræbelserne på at finde den rette AI-løsning har Alexandra Instituttets specialister rådgivet Boblberg om valg af AI-modeller og retningslinjer for beskyttelse af brugernes privatliv.
Pilotmodellen foregår således, at når en bruger opretter et en bobl eller sender en besked, vurderer AI-modellen indholdet. Hvis indholdet tyder på mistrivsel og overskrider en forudbestemt sandsynlighedstærskel, bliver det holdt tilbage og sendt til manuel gennemgang hos Boblberg. Her vurderer en medarbejder, om der er behov for at vejlede brugeren om andre relevante tilbud eller hjælpe på anden vis.
“Når AI-modellen kan klare flere af sagerne, kan vi bruge vores tid på de sager, hvor der virkelig skal et menneske til,” siger Stephan Djurhuus.
Grundelementerne er på plads, og løsningen er nu i test. Målet er, at modellens afgørelser skal flugte med vurderingerne fra Boblbergs egne moderatorer, før den tages i brug.
Data bliver i Danmark
Pilot-løsningen kører på Alexandra Instituttets AI-platform, som er hostet i Danmark og overholder GDPR-reglerne. Det er afgørende, når emnerne ofte kredser om ensomhed og mistrivsel.
“Boblberg er et godt eksempel på en social platform, hvor man skal kunne garantere et lukket rum. Man kan ikke bare sende brugernes samtaler gennem en udenlandsk AI-tjeneste uden at vide, hvad der sker med dem,” siger Alexandre Alapetite, Principal AI Specialist hos Alexandra Instituttet.
“På en AI platform som vores er der ingen risiko for, at modellen trænes på de analyserede data. Mange sociale medier, som gerne vil være digitalt suveræne, vil kunne drage nytte af sådan en løsning, afslutter han.
