Apple kræver 18-års aldersgrænse for romantiske AI-chatbots
App Store strammer reglerne for datingapps og virtuelle partnere. Fremover skal udviklere deklarere romantisk indhold og lokationsdeling.
Børn og unge skal beskyttes mod at knytte for tætte følelsesmæssige bånd til kunstig intelligens. Derfor indfører Apple nu strengere krav i App Store, skriver CNET.
Ændringen betyder, at datingapps og AI-tjenester, der tilbyder romantiske eller seksuelle interaktioner, fremover skal have en aldersvurdering på mindst 18 år. Det gælder, uanset om brugeren søger kærlighed hos et andet menneske eller flirter med en virtuel partner.
Nye mærkater i App Store
Fra den 16. november introducerer Apple to nye indholdskategorier til udviklere: “Dating og relationer” samt “Delt lokation”.
Det tvinger app-udviklere til at oplyse, om deres tjenester indeholder datingfunktioner, herunder virtuelle partnere, eller om brugerne kan dele deres fysiske placering med andre. Et eksempel er appen Replika, hvor brugerne kan vælge, om deres AI-chatbot skal være en ven, mentor eller romantisk partner. Appen har i forvejen en 18-års grænse, men nu bliver dette et ufravigeligt krav for alle lignende tjenester.
Kravene til lokationsdeling kan desuden påvirke aldersvurderingen afhængigt af landet. I Brasilien kræver lokationsdeling eksempelvis en minimumsalder på 16 år, mens datingapps fortsat kræver, at brugeren er 18. Udviklerne har frem til den 12. januar 2027 til at få opdateret deres deklarationer.
Bekymring for unges trivsel
Stramningen kommer i kølvandet på en stigende bekymring for, hvordan særligt teenagere påvirkes af at danne relationer med chatbots.
En undersøgelse fra Common Sense Media har tidligere vist, at mange unge bruger kunstig intelligens som en fortrolig ven, og at en tredjedel foretrækker at tale med en chatbot frem for et menneske om alvorlige emner. Organisationen har advaret om, at sådanne relationer kan skabe følelsesmæssig afhængighed hos mindreårige.
Selvom en 18-års grænse ikke i sig selv tvinger alle brugere til at bekræfte deres alder med ID, vil de nye mærkater spille tæt sammen med Apples indbyggede forældrekontrol. I iOS 27 udvidede Apple netop mulighederne for, at forældre kan godkende hjemmesider, sætte tidsgrænser og blokere potentielt skadeligt indhold.
Mere til historien
Tjenesten Character.AI valgte allerede sidste år at fjerne muligheden for åbne chats for brugere under 18 år, netop på grund af risikoen for følelsesmæssig afhængighed.
