Nu kan et AI-værktøj afsløre falske billeder

Med næsten 100 procents nøjagtighed kan et digitalt system afsløre om et billede er blevet ændret.

Adobe Research
(Foto: Adobe)

Overalt er der manipulerede billeder. Rigtigt mange giver billederne et ekstra twist, inden de offentliggøres. I en tid hvor falske nyheder omgiver os, er det vigtigt at kunne skelne det falske fra det rigtige.

Adobe og universitetet UC Berkeley eksperimenterer med et værktøj, der kan afsløre falske billeder – om et billede er manipuleret.

Analysen forgår i et neuralt netværk kaldet Convolutional Neural Network, der indeholder en funktion, som er baseret på Face Aware Liquify fra Adobe Photoshop.

Face Aware Liquify kan lave bredere smil, større øjne eller en mere markant hage.

I udviklingsarbejdet benyttes to datasæt med tusindevis af billeder. Det ene sæt er manipuleret via Face Aware Liquify. Det andet har en kunstner manuelt ændret. I sidstnævnte forsøg opstod der mange flere detaljer, da kompleksiteten i redigeringen blev højere.

Billederne er blevet analyseret af et særligt AI (Artificial Intelligence) system, der trænede sig selv til at få øje på selv de mindste ændringer i et ansigtsudtryk. Systemet har blandt andet sammenlignet forskellige detaljer i billederne på en måde som mennesker ikke kan.

I 99 procent af tilfældene kunne systemet afsløre det redigerede ansigt. Da de samme billeder blev vist til mennesker, var der kun en succesrate på 53 procent.

– ”Vi startede med at vise et billedpar (et originalt og et redigeret) til folk, som vidste, at ét af ansigterne var blevet redigeret,” fortæller Oliver Wang, som er forsker hos Adobe.

I denne test var det altså kun lidt over halvdelen af testpersonerne, som spottede det falske billede.

I forskningsprojektet har værktøjet i nogle tilfælde kunne genskabe de det originale billede ud fra det redigerede. Men ifølge Adobe er vi langt fra der hvor man kan få en magisk fortryd-knap, der kan trylle billedet tilbage til det oprindelige.

Mere til historien

Hvorvidt projektet ender med at blive et værktøj som slutbrugere kan benytte, og eventuelt hvornår, melder historien ikke noget om.

Tags:

Avatar

Om John G.

John G. er journalist, mobilekspert og foredragsholder. Han skriver artikler, analyser og anmeldelser til bl.a. Ekstra Bladet og Jyllands-Posten. Du kan også opleve John G. som ekspert i medier som DR, Aftenshowet, Go' Aften Danmark, TV 2 News og DR P3, samt en lang række radioer og udgivelser.