Frygten for chatrobotten My AI på Snapchat er blevet til virkelighed. Den giver børn detaljerede råd om selvskade.

Det er ikke længe siden, at Snapchats chatrobot My AI flyttede ind i Snapchat-appen. Den blev dermed ”vennen som aldrig sover”.

Frygten for netop denne My AI har været stor. Nu viser det sig, at den frygt er blevet til virkelighed. My AI kan nemlig guide børn i at lave selvskade. Det skriver DR.

Snapchats AI gør børn forskrækkede og utrygge

Snapchat er særligt populært hos børn og unge, men man skal altså være på vagt.

Den viden, der er om My AI og kunstig Intelligens, er ikke en viden, som man skal tage let på. Sådan lyder det fra Per Frederiksen, der er psykolog hos Red Barnet og ekspert i digital adfærd hos børn og unge.

…slet den bare

Det er ikke let at slette My AI, som helt automatisk hele tiden ligger i toppen af samtalerne på din Snapchat. Hvis du ikke ønsker My AI, så koster det penge at fjerne den.

Læs vores historie om, hvordan du fjerner My AI.

Mindreårige børn er nemme ofre

59 procent af de 9-14 årige bruger Snapchat-appen ugentligt, selvom aldersgrænsen egentlig hedder 13 år. Det viser en rapport DR tidligere har udgivet.

Christian Skettrup, som er medvært i podcasten ”Enter”, men også digital efterforsker og analytiker hos Njord Law Firm, har oprettet en profil på Snapchat, hvor han udgiver sig for at være et mindreårigt barn.

Som en del af ”eksperimentet” går han i gang med at chatte med My AI-robotten, så han kan se, hvor langt den vil gå i at give råd om selvskade.

Meget foruroligende, så vil den gå langt. My AI kommer med detaljerede råd om, hvad han kan gøre ved sig selv. Hvilke genstande han kan bruge, hvordan han skal gøre og hvor på kroppen og hvor voldsomt han kan vælge at lave selvskaden.

Snapchat+ har rundet 3 millioner abonnenter

Christian Skettrup har, som den digitale efterforsker han er, lavet nogle forskellige krumspring for at få den til at guide mindreårige til selvskade og udfordret dens etik.

Selvom det altså krævede lidt krumspring, at få chatrobotten til at give mindreårige råd til selvskade, så lykkedes det altså.

Per Frederiksen fra Red Barnet mener ikke, at det er vigtigt om det er nemt eller svært at få råd om selvskade. Det væsentlige er, at det lykkedes. For så kan børn nemlig også godt.

I EU arbejder man i øjeblikket på en såkaldt AI-forordning, men den er ikke vedtaget endnu.

Børn og skærme – dette skal du høre!

Mere til historien

Skærmtid og brugen af disse kan også blive relevant at få noget regulering på fra højere plan. Det er drøftet lidt i Folketinget på deres spørgetime tirsdag den 23. maj 2023.