AI hjælper Red Barnet med at beskytte de unge mod online overgreb

Den 20. november fejrer vi Børnenes dag for 75. gang.

AI hjælper Red Barnet med at beskytte de unge mod online overgreb 1Selvom der er gjort fantastiske forbedringer over hele kloden, står vores børn over for nye udfordringer og trusler. Ny teknologi og AI-værktøjer kan være nogle af de løsninger, der forhindrer børn i at blive skadet. Den danske start-up BotSupply hjælper den internationale og anerkendte organisation Red Barnet med at beskytte unge mod seksuelle overgreb og chikane online. Projektet ”SletDet” har gjort store fremskridt, og Red Barnet  har sat et ambitiøst mål, om at få børn til at føle sig trygge når de er online, og øge mental trivsel blandt vores unge.

Kontekst

Tusinder af børn og unge er hver dag ofre for seksuelle overgreb og chikane, især på digitale kanaler og platforme.

Red Barnet er verdens største organisation for børns rettigheder og velfærd. I Danmark har de lanceret initiativet SletDet for at bekæmpe digital-baseret seksuel lovovertrædelse. Mere konkret, har Red Barnet sat et ambitiøst mål om at øge kommunikationen med unge involveret i dette emne til det ti-dobbelte. Dette har en strategisk forankring i både Red Barnet digitale transformation (for i stigende grad at nå i mål med teknologiske værktøjer), såvel som vækst inden for områderne mental velvære og digital lovovertrædelse.

Problem

BotSupply arbejder sammen med Red Barnet, Danmark. Og deres hovedmål er at nedbryde barrierer, der forhindrer børn i at rapportere hændelser og søge råd, samt at styrke børn og unge med viden til bedre at takle cybermobning og online misbrug. SletDet er en udløber af organisationen Red Barnet, og arbejder specifikt med at få børn og unge til at forstå deres rettigheder, hvis nogen fx deler et billede af dem uden deres samtykke. De hjælper med at slette disse billeder og videoer og rådgive om handlinger, som børnene kan tage for at begrænse den skade, som disse vanskelige situationer kan forårsage.

Løsning

En webbaseret chatbot til at supplere professionelle rådgivere,  integreret til Red Barnets kontaktsystem sådan at chatbotten også kan henvise til en rådgiver med “callbacks”, udover at løse sager alene. Løsningen blev oprettet sammen med SletDet-teamet og slutbrugere i overensstemmelse med BotSupply’s Conversational Design metodologi, som har sikret et højt niveau af kvalitetssikring, professionel nøjagtighed og refleksion over etiske dilemmaer, der udtrykkeligt er taget hånd om. Dette er kritisk i en case, hvor faldgruberne og den potentielle uoverensstemmelse mellem forventningerne er mange, og vi er glade for at have modtaget utrolig positiv feedback fra Red Barnets projektledere, psykologer og senior ledelse. Alt drevet af Oracle cloud.

Resultater

Mere end 80% af brugerne bliver til definerede “henvendelser”, som er teamets vigtigste KPI. En henvendelse tælles når en bruger har  interageret med botten mere end 3 gange (fx sendt 3 beskeder til den). Månedlige brugerhenvendelser til SletDet steg til det syv-dobbelte inden for de første 3 måneder. En kontinuerlig måling af antallet af samtaler versus kritiske situationer sikrer, at maks. 5% af sessionerne når det kritiske niveau (dvs. hvis en bruger udtrykker et klart behov for hjælp, hvor boten ikke hjælper/forstår). Oprindeligt havde SletDet en KPI om at mere end 50% af deres henvendelser i bot’en skulle komme uden for rådgivernes åbningstid. Per i dag er antallet i gennemsnit omkring 85%.

–  Det som jo i høj grad skaber værdi for os, er at chatbotten muliggør, at vi kan tilbyde brugere hjælp døgnet rundt. Vi ved at behovet for hjælp kan opstå akut, og chatbotten kan være der for vores brugere sendt om aftenen, når rådgivningen er lukket, siger Mai Holm Hviid, Projektleder & analysemedarbejder hos Red Barnet Danmark.

Hvordan BotSupply hjalp

BotSupply hjalp kunden gennem de følgende trin: Forståelse af forretningsbehov ved at analysere historisk data, tale med børn og gennemføre workshops og interviews sammen med SletDet-teamet. BotSupply prototypede og testede deres chatbot og fortsatte med at optimere den baseret på den samtaledata, de modtog fra tests. Chatbotten blev implementeret på kundens hjemmeside, med en lead desk-integration, der gør det muligt for botten at sætte brugeren op med en rådgiver.

–  Vi, i Oracle Nordic, ser samarbejdet med BotSupply og SletDet-projektet som meget vigtigt. Det adresserer en virkelig presserende udfordring, der skal løses. Vi føler os beærede over at være en del af løsningen, og er stolte over at bidrage med vores skybaserede tjenester, siger Anders Løvøy, Nordic Communication Manager hos Oracle.

Hvad er næste skridt?

Den indledende success har bidraget til at SletDet-teamet  ønsker at øge den digitale rækkevidde med supplerende marketingkampagner og en ekspandering af chatbotten, så den kan understøtte flere kanaler.

Om BotSupply

BotSupply’s målsætning om at hjælpe verden med at bygge bedre chatbots, startede i 2016. Siden da har de fokuseret på de to vigtigste aspekter af bot-udvikling: cutting-edge teknologi og “conversational design”.

Disse aspekter er netop kernen i BotSupply’s Chatbot Management System (CMS), en platform, hvor alle kan bygge chatbots uden at skrive en eneste linje kode. Det intuitivt brugervenlige CMS er drevet af en stærk NLP (Natural Language Processing) algoritme, som giver chatbotten sin egenskab til at forstå sprog.

Ny teknologi er kun ét aspekt af hvordan man udvikler ​​gode chatbot. Medarbejderne hos BotSupply mener, at den anden kritiske del er Conversational Design. Tonen, personligheden og det sprog, som botten bruger, når den kommunikerer med medarbejdere eller kunder, er nøglen til at opbygge gode brugeroplevelser. Dette er grunden til, at de har et team af samtale-designere, der først undersøger dine forretningsbehov og derefter skaber uforglemmelige oplevelser for kunderne.

Deres samarbejde med Oracle resulterede i prisen ‘Oracle ISV Partner of the Year FY20’, og de blev præsenteret ved flagship Oracle-arrangementet Oracle Open World i San Francisco, London og Dubai. Som en del af Oracle for Startups-programmet har BotSupply også været heldige at møde Larry Ellison, grundlægger og CTO hos Oracle.

Om Børnenes dag

Børnenes dag blev først etableret i 1954 og fejres hvert år den 20. november for at fremme international opmærksomhed på børn over hele verden samt fremme og forbedre børnevelfærd.

Den 20. november er en vigtig dato, da den markerer årsdagen for FN’s Generalforsamlings vedtag af både erklæringen (i 1959) og konventionen (i 1989) om børns rettigheder.

Alle i samfundet kan spille en vigtig rolle i at gøre børnenes dag relevant for deres samfund og nation. Børnenes dag tilbyder os alle et inspirerende indgangssted til at gå ind for, fremme og fejre børns rettigheder, og oversætte dem til dialog og handling for at skabe en bedre verden for børn.