I deepfake non sono ancora perfetti! Ecco come scoprirli con i riflessi degli occhi

Un manipolo di ricercatori dell'Università di Buffalo ha sviluppato un algoritmo capace di individuare i deepfake analizzando i riflessi presenti nelle pupille dei soggetti. I ricercatori sostengono che l'algoritmo è stato in grado di mostrare un'efficacia del 94% nell'identificare le immagini contraffatte.

Il motivo per il quale l'algoritmo riesce con particolare efficacia a individuare le immagini false è semplice: l'intelligenza artificiale - almeno fino ad ora - è incapace di creare riflessi oculari accurati e realistici.

Siwei Lyu, professore di SUNY Empire Innovation e principale autore dello studio, ha spiegato: "La cornea è quasi come una semisfera perfetta ed è molto riflettente. Qutto ciò che arriva agli occhi SSS avrà un'immagine riflessa dalla cornea. I due occhi dovrebbero mostrare elementi riflessi molto simili poiché vedono la stessa scena. E' un dettaglio che di solito non notiamo quando osserviamo un volto".

L'AI, però, si mostra sorprendentemente incapace di riuscire a creare riflessi che siano coerenti in entrambi gli occhi. Nella documentazione i ricercatori hanno pubblicato alcune immagini di occhi umani e di occhi generati dall'intelligenza artificiale, evidenziandone per ciascuno i pattern dei riflessi. Ora che sappiamo cosa osservare, i volti deepfake possono essere facilmente individuati anche da un osservatore umano.

Lo sviluppo dell'algoritmo è parte integrante dell'impegno di sensibilizzazione che Lyu sta portando avanti, richiamando l'attenzione sulla necessità sempre più pressante di strumenti che consentano facilmente di individuare i deepfake. Nel corso del 2019 Lyu ha testimoniato dinnazni al Congresso USA per evidenziare i pericoli dei deepfake e quali strade si possano percorrere per combatterli.

"Sfortunatamente una gran parte di questo tipo di video falsi è stata creata a scopi pornografici e questo ha causato molti danni psicologici alle vittime. C'è anche il potenziale impatto politico, con un video falso che può mostrare politici che dicono o fanno qualcosa che non è mai accaduto. Tutto ciò è male" commenta Lyu.