Facebook, l'IA rileva account falsi con meno di 20 richieste di amicizia

Il fenomeno degli account falsi (fake) sui social network è un problema diffuso, nonostante le tecniche attuate dalle piattaforme per impedire che malintenzionati registrino profili con i quali perpetrare abusi (spam, ecc.). Superando il controllo iniziale, un account fake non deve far altro che crearsi una rete sociale mandando richieste di amicizia, fino ad avere un numero sufficiente di contatti da esporre ai diversi illeciti.

Facebook è ovviamente in prima linea per combattere questo fenomeno e nelle scorse ore ha pubblicato una ricerca in cui spiega come riesce a identificare gli account falsi che riescono a superare i controlli esistenti e ma che ancora non hanno sufficienti connessioni con utenti reali per commettere abusi. Tutto ruota attorno a un algoritmo chiamato SybilEdge che processa il modo in cui gli utenti aggiungono gli amici alla loro rete. Osservando le richieste di amicizia avanzate dagli account fake e quante di queste sono state accettate o rifiutate, SybilEdge è ora in grado di rilevare in modo accurato gli account falsi con solo 20 richieste di amicizia.

Com'è possibile? Facebook ha osservato per qualche tempo le azioni di account veri e falsi, scoprendo che i due gruppi di utenti "differivano in modo rilevante sia per la selezione dei potenziali amici che la risposta di quegli obiettivi alle richieste di amicizia". Le richiede degli account falsi venivano rifiutate più spesso rispetto a quelle degli utenti reali. Inoltre gli account falsi erano spesso più attenti nello scegliere i loro obiettivi, probabilmente per massimizzare la possibilità che la loro richiesta venisse accettata.

Facebook ha così creato un campione comportamentale con il quale ha allenato SybilEdge, segmentando gli utenti in due gruppi: quelli con maggiori probabilità di accettare richieste di amicizia da account reali e quelli più disposti ad accettare richieste da account fake. Se il primo rifiuta una richiesta, questo comportamento segnala che il richiedente è un utente legittimo. D'altra parte, se gli utenti che accettano più richieste false ne accettano una, significa che il richiedente è probabilmente un falso.

SybilEdge opera in due fasi. Nella prima l'algoritmo viene allenato osservando i campioni citati nel corso del tempo, mentre nella seconda sfrutta dei classificatori che si rifanno a segnalazioni in base ad abusi reali. Questa fase di allenamento fornisce il modello con tutti i parametri necessari per svolgere in tempo reale - per ogni richiesta di amicizia e risposta - un aggiornamento sulla probabilità che il richiedente sia un fake.

Facebook afferma che SybilEdge ha dimostrato di rilevare account falsi con una precisione sopra il 90% con 15 o meno richieste di amicizia di media e una precisione dell'80% nel rilevare falsi con 5 richieste di amicizia. Le prestazioni inoltre non si degradano con l'aumentare delle richieste - oltre 45.

"SybilEdge ci aiuta a identificare chi perpetra abusi in modo rapido e in un modo che può essere spiegato e analizzato. Nel prossimo futuro, abbiamo in programma di esaminare altri modi per accelerare ulteriormente il rilevamento di account falsi e prendere decisioni migliori ancora più velocemente di SybilEdge. Abbiamo in programma di raggiungere questo obiettivo mescolando modelli basati sulle caratteristiche e sul comportamento", ha concluso Facebook.