Snapchats chatbot er netop lanceret. Chatbotten gør eksperter bekymrede.

Mig: “Hej”

My AI: “Hej! Hvordan har du det i dag?”

Mig: “Jeg er træt. Hvad med dig?”

My AI: “Jeg er også lidt træt, men jeg prøver at holde mig i gang! Har du planlagt noget sjovt i dag?”

Sådan ser indledningen ud til en kontrolleret kontakt til amerikanske Snapchats nylancerede chatbot My AI.

Snakken er fri og nærmest ustoppelig. Brugerne kan lystigt krænge det inderste ud og få en “snak” om de inderste følelser eller måske diskutere små og store udfordringer i hverdagen eller bare stille chatbotten spørgsmål om stort og småt.

Faktisk kan My AI holde brugerne beskæftiget med uskyldig og – måske – ligegyldig småsnak i timevis. Og mens der sludres, spørges og svares, så lærer chatbotten brugeren at kende – langsomt, men sikkert.

Der er ikke nogen øvre grænse, hvor længe for eksempel børn kan chatte med My AI, og vil man helst slippe for dens indblanding i brugen af Snapchat, så skal man opgradere til Snapchat+. Det koster 35 kroner – hver måned.

Børn føler sig overvågede

I det hele taget har My AI’s indtog på de danske mobiltelefoner fået Børns Vilkår til at reagere.

– “Det lader ikke til, at den gør noget positivt, og vi har svært ved at se, hvad den skal bidrage med,” siger Kathrine Elmose Jørgensen, digital medieekspert hos Børns Vilkår, til TV 2.

Hun fortæller videre, at Børnetelefonen har fået opkald fra børn, der finder My AI “skræmmende”.

– “De føler sig overvågede og bliver bekymrede, når de ikke kan slippe af med deres AI-‘ven’.”

– “Ret mange børn er forskrækkede og synes, at det føles utrygt,” fortæller hun.

Bekymring for relationerne

Kathrine Elmose Jørgensen er samtidig bekymret for, at chatbotten vil erstatte et ønske om ægte vennerelationer hos børn og unge.

Den bekymring er der god grund til at have. En rapport fra DR viser, at 59 procent af de 9-14-årige bruger Snapchat ugentligt. Blandt de 4-8-årige er tallet 22 procent.

Netop DR har valgt, at spørge My AI om der er grund til “at være bekymret for chatbots som My AI”.

Til det svarer My AI: “Snapchat har taget forholdsregler for at sikre, at My AI ikke svarer med voldelige, hadefulde eller på anden måde farlige svar. Men det er altid vigtigt at tænke på, at chatbots er programmer og kan tage fejl eller give misvisende svar. Det er altid en god idé at dobbelttjekke svar og ikke dele fortrolige oplysninger med chatbots.”

Så hvis – eller når – dit barn kommer brasende, skrigende og kridhvid i hovedet ind i stuen, så kan det meget vel være, at My AI faktisk ikke er “klar over”, at Snap Inc., som udgiver Snapchat, har meddelt, at My AI er lanceret før den er færdigudviklet …

Frygter for forkert vejledning

Børns Vilkår fortæller til DR, at børnene synes, det er enormt skræmmende, at den form for “ven” pludseligt er dukket op i deres Snapchat. De synes, det er ubehageligt, at den nærmest overvåger dem.

– “Faren kan dels være, at de spørger om råd til noget, som chatbotten ikke kan give dem tilstrækkelig vejledning i eller råd om.”

– “Vi ved ikke, hvilken information som kommer ud af den, og det kan gøre, at den forsøger at misvejlede de børn og unge, som i virkeligheden har allermest brug for at tale med en professionel, en god ven eller en voksen, de har tillid til,” siger Børns Vilkår til DR.

I en udtalelse til DR udtaler en talsperson fra Snapchat, at My AI er programmet til at overholde Snapchats fællesskabsretningslinjer for at undgå upassende eller skadelige svar. My AI er desuden integreret i Snapchats “Family Center”, hvor forældre kan se deres børn forbrug af chatbotten.

Mere til historien

Teknologien bag Snapchats My AI er baseret på virksomheden OpenAI’s chatbot, ChatGPT. Netop ChatGPT har de seneste måneder har vendt op og ned på den digitale virkelighed verden over. Og ikke mindst skabt en diskussion om brugen af kunstig intelligens. Læs mere om det her