Deepfakes kan afsløres ved at analysere refleksioner af lys i øjne
Deepfakes bliver brugt til alle mulige skumme ting, alt fra kampagner med misinformation til at klippe personer ind i pornofilm. Men det værste er næsten, at det bliver sværere og sværere at opdage manipulationerne.
Refleksioner af lys i folks øjne kan afsløre deepfake
Et nyt AI-værktøj giver en overraskende enkel metode til at afsløre snyderierne og det hele handler om at se på lysrefleksioner i øjnene.
Systemet er udvikle af computereksperter ved universitetet i Buffalo, USA. I test med portrætlignende billede fungerede systemet med 94 procents nøjagtighed. Det afslører de manipulerede billeder ved at analysere hornhinderne, der har en spejllignende overflade.
Når de rammes af lys, reflekterer de et mønster. På et billede af et rigtigt ansigt taget med et kamera vil refleksionerne i begge øjne være ensartede, fordi de kigger på den samme ting. Men Deepfake-billeder syntetiseret af GAN’er kan typiske ikke gengive det korrekt. I stedet viser de ofte uoverensstemmelser så som forskellige geometriske former eller uoverensstemmende placering af refleksionerne.
Se også: Køb smart home produkter
Effektiv måde til at afsløre bedrageri på
AI-systemet leder efter disse fejl ved at aflæse et ansigt og analysere det lys, der reflekteres af hvert øje. Det resulterer i en score, der viser graden af lighed. Jo lavere scoren er, desto større er sandsynligheden for, at det er et Deepfake-billede.
Systemet har vist sig at være meget effektivt, når det gælder at afsløre Deepfakes taget fra This Person Does Not Exist, der er en billedbank med billeder skabt med StyleGAN-arkitekturen. Folkene bag forsøget er dog beviste om systemets begrænsninger.
Se også: Priser på deepfake billeder og videoer på det mørke internet
Ikke en total sikker metode
Den mest indlysende begrænsning handler om, at systemet er afhængigt af en reflekteret lyskilde i begge øjne. Uoverensstemmelserne i disse mønstre kan ordnes med manuel billedbehandling og ser man bare et øje på billedet, fungerer metoden ikke.
Det har også kun vist sin effektivitet, når det handler om portrætbilleder. Kigger ansigtet på billedet ikke ind i kameraet, vil systemet formentlig give falske positiver.
Eksperterne har nu planer om at arbejde med disse problemer for at forbedre effektiviteten i metoden. I den nuværende form kommer det ikke til at afsløre de mest sofistikerede Deepfakes, men det kan stadig afsløre mange af de dårligere forsøg.
Se også: Nyheder om deepfake og AI