Et EU-forslag, der skal forsøge at komme delingen af børneporno til livs, deler vandene hos flere organisationer.

TEMA: Beskyttelse eller overvågning?

Chat-kontrol er et nyt ord, som meget vel kan blive aktuelt om få måneder. Det er nemlig omdrejningspunktet i denne artikel og omhandler et nyt (gammelt) forslag fra EU.

Forslaget er nemlig ikke nyt, men er i forbindelse med Danmarks overtagelse af EU-formandskabet kommet på tale igen.

Denne gang som Chat Control 2.0, hvor nogle dele er blevet revideret. Denne artikel tager udgangspunkt i den nye del, som også er den aktuelle.

Hele humlen omhandler nemlig, at EU vil pålægge beskedtjenester som WhatsApp, Signal og Messenger at kunne scanne beskeder for ulovligt indhold.

Det ulovlige indhold refererer her til misbrug af børn – børneporno.

Skanninger på din enhed

Den nye Chat Control 2.0 vil bekæmpe delingen af børneporno via beskedtjenester med nogle ret omfattende metoder, der vil påvirke alle EU-borgere.

Hvis du sender en besked via en beskedtjeneste, så vil indholdet blive scannet inden afsendelse. Det betyder, at krypteringen under “transport” ikke brydes, men at indholdet undersøges, før det krypteres.

Det vil foregå via en CSAM-scanning (Child Sexual Abuse Material) på enheden, hvor dine billeder eller videoer sammenlignes med en database af allerede kendte billeder og videoer.

Hvis CSAM opdager et match, så vil det blive rapporteret. Det samme gælder, hvis der ikke er et match, men indholdet ligner noget, der kan være ulovligt. Her vil AI eller mønstergenkendelse kunne opfange dette.

Det er dog ikke uden omkostninger for privatlivet og møder også kritik fra forskellige parter.

LÆS MERE: Må EU scanne dine beskeder?

Et flertal er på vej

Som det ser ud nu, så går det allerede stærkt med forslaget, efter Danmark fik formandskabet.

Siden starten af juli har 19 ud af 27 medlemslande bakket op, og noget tyder på, at vi kan få en afstemning i midten af oktober.

I øjeblikket har Tyskland ikke besluttet sig, men netop Tyskland kan ende med at være dem, der får vægtskålen til at tippe.

Et flertal i EU-Rådet kræver nemlig, at mindst 15 ud af 27 medlemslande stemmer for, og at disse lande repræsenterer mindst 65 procent af EU’s befolkning.

Derfor er emnet også ret så aktuelt. I den nærmeste fremtid kan forslaget måske få et flertal, der kan få det vedtaget.

Møder skarp modstand

Så hvorfor møder et forslag modstand, der skal bekæmpe delingen af børneporno og fange de kriminelle?

Årsagen til modstanden er især hensynet til privatliv. Blandt kritikerne er Signal-formand Meredith Whittaker, som har advaret om, at forslaget kan skabe alvorlige sikkerhedshuller.

Også EU’s egne uafhængige databeskyttelsesmyndigheder, EDPS og EDPB, har advaret om, at tiltaget i praksis gør alle til mistænkte og åbner for masseovervågning.

Kritikerne peger desuden på, at implementeringen af skanningsteknologier kan svække den tekniske sikkerhed og give hackere nye muligheder for at skaffe sig adgang til private beskeder.

End-to-end-kryptering mister sin beskyttende effekt, hvis alt indhold først skal igennem en skanningsproces, der kan føre til rapportering.

LÆS MERE: Nye EU-regler får stor betydning for din telefon

Stor risiko for fejl

I Irland er lignende forsøgt med CSAM, og en rapport har tidligere påvist, at langt størstedelen af de udslag, der blev givet, var falsk alarm. Det skriver European Digital Rights.

Tilbage i 2020 viste en opgørelse faktisk, at det kun var 20 procent af rapporteringerne, der faktisk var CSAM-indhold.

Samtidig var det også færre end 10 procent, der rent faktisk kunne bruges til handling, og det vides ikke, hvor mange af disse der endte i domfældelse eller retsforfølgelse.

Mindst 1 ud af 10 anmeldelser var i øvrigt falsk alarm, hvilket kunne være uskyldige personer, der havde delt et billede af deres børn på en strand eller legitimt indhold fra voksne, der var topløse eller nøgne, men som gav udslag. Samlet set var der 4.192 udslag i Irland det år.

Netop det er også et vigtigt punkt i lovforslaget, for CSAM kan ikke skelne mellem billeder, der er delt i en ond hensigt, eller mormor, der får et billede af barnebarnet, som leger på stranden.

Ud fra tilfældet i Irland kan CSAM heller ikke altid skelne forskel mellem et barn og en voksen, i tilfælde hvor voksne måske har delt et nøgenbillede med hinanden.

Apple forsøgte, og droppede

Tilbage i 2021 ville Apple faktisk implementere et lignende initiativ. Her drejede det sig om billeder, der lå i Fotos.

Apple ville i sin tid bruge en on-device-scanning, som også er det, EU-forslaget gerne vil.

I tilfælde af et match ville billederne i første omgang blive gennemgået af Apple, og hvis der var tale om børneporno, blev kontoen lukket og rapporteret til myndighederne.

Også dengang fik det skarp kritik fra organisationer, og det endte med, at Apple til sidst droppede det, da de ikke kunne garantere for falske positiver og samtidig også svækkede sikkerheden ved funktionen.

LÆS MERE: Apple sagsøgt for over 1 milliard dollars efter droppet funktion

Mere til historien

Om Chat Control 2.0 bliver vedtaget, afgøres i løbet af efteråret – måske allerede i oktober. Spørgsmålet er, om det bliver husket som et værktøj til beskyttelse af børn eller begyndelsen på masseovervågning i EU.