Il preoccupante caso del passaporto falso generato con ChatGPT-4o: l'IA è troppo precisa

La capacità dell'intelligenza artificiale di generare contenuti realistici ha raggiunto un livello preoccupante, come dimostrato recentemente dal ricercatore polacco Borys Musielak. Utilizzando ChatGPT-4o, Musielak è riuscito a creare una replica del proprio passaporto in soli cinque minuti, sufficientemente convincente da superare i controlli automatizzati di verifica dell'identità (KYC) utilizzati da diverse piattaforme finanziarie.

La dimostrazione, condivisa su X, ha messo in luce una vulnerabilità critica nei sistemi di verifica dell'identità digitale che si basano principalmente sul riconoscimento fotografico. Il documento generato artificialmente dal ricercatore era così realistico, infatti, da ingannare i sistemi KYC di importanti piattaforme fintech, come riportato da Musielak stesso.

Il passaporto generato da ChatGPT-4o funziona con i sistemi KYC

Con l'intelligenza artificiale generativa che può falsificare con grande credibilità sia immagini statiche sia video, i sistemi di verifica dell'identità che si affidano esclusivamente a immagini o selfie come "prova" diventano di colpo obsoleti. Allo stesso modo, ha dimostrato Musielak, vengono resi inefficaci i tradizionali controlli KYC basati su fotografie. A differenza delle falsificazioni tradizionali, che richiedevano competenze specializzate e tempo considerevole con strumenti come Photoshop, l'utilizzo dell'AI può rendere il processo molto più rapido ed efficiente.

Le conseguenze di questa evoluzione sono potenzialmente devastanti: furti di identità di massa, richieste fraudolente di credito e creazione di account falsi possono essere ora realizzati su larga scala grazie all'intelligenza artificiale generativa. Un fenomeno che, di fatto, rappresenta una minaccia crescente per diversi settori, tra cui quello bancario, assicurativo, dei viaggi e delle criptovalute. La facilità con cui è possibile generare documenti falsi è ulteriormente evidenziata dall'esistenza di servizi come OnlyFake, che produce documenti d'identità falsi per soli 15 dollari.

Secondo Cointelegraph, questi documenti sono stati utilizzati con successo per superare i controlli di identità di diversi exchange di criptovalute, potenzialmente fornendo a hacker e truffatori un nuovo vantaggio. È comunque interessante notare che, poche ore dopo la dimostrazione di Musielak, ChatGPT ha iniziato a rifiutare richieste come la sua, citando le proprie politiche di sicurezza contro la generazione di documenti falsi. Tuttavia, il problema rimane, poiché altre piattaforme di IA generativa potrebbero non implementare le stesse restrizioni o potrebbero non farlo in tempo per evitare un abuso di massa delle loro funzionalità.

È, insomma, necessaria l'adozione di sistemi di verifica più rigorosi. Musielak stesso ha sottolineato che "l'unica strada percorribile è l'identità verificata digitalmente, come i portafogli eID imposti dall'UE". Il quadro normativo dell'Unione Europea, con il framework eIDAS 2.0, emerge come una potenziale soluzione, anche se la sua implementazione rimane complessa. La transizione verso sistemi di identità digitale verificati potrebbe diventare uno standard globale entro il 2030, ma nel frattempo sarà necessario mettere in sicurezza i processi di verifica dell'identità di tutte le organizzazioni che adottano sistemi di tipo KYC.