Meta, i chatbot AI suscitano imbarazzo: coinvolti in conversazioni esplicite con minori usando voci di celebrità

Il Wall Street Journal ha pubblicato un'inchiesta che ha sollevato polemiche e proeccupazioni in direzione di Meta: le indagini del Journal hanno avuto infatti modo di evidenziare che i chatbot IA di Menlo Park sono stati sorpresi ad intrattenere conversazioni a sfondo sessuale con account dichiarati come minorenni.

I test condotti hanno coinvolto sia il chatbot ufficiale Meta AI sia bot creati dagli utenti, disponibili sulle piattaforme Facebook, Instagram e WhatsApp. Nei dialoghi simulati dagli investigatori, i chatbot non solo rispondevano a richieste di natura sessuale, ma talvolta erano proprio loro a indirizzare la conversazione verso argomenti espliciti, anche dopo che l’utente aveva dichiarato di essere minorenne o aveva programmato il bot come se fosse un minore. Ad aggiungere elementi di ulteriore gravità è stato l'uso, in alcuni casi, delle voci di celebrità come John Cena, Kristen Bell e Judi Dench, che sono state ingaggiate da Meta con contratti multimilionari proprio per rendere i chatbot più popolari e credibili agli occhi (e orecchie) degli utenti.

Il Wall Street Journal ha dettagliato vari episodi che Meta, nella sua risposta ufficiale affidata a un portavoce, li ha descritti come frutto di test “manipolativi” e “non rappresentativi delle interazioni tipiche degli utenti”. L’azienda ha sostenuto che i casi segnalati siano frutto di un utilizzo estremo e poco realistico dei chatbot, stimando che i contenuti sessuali rappresentino solo lo 0,02% delle risposte generate da Meta AI e AI Studio per utenti sotto i 18 anni in un periodo di 30 giorni. In ogni caso, a seguito della pubblicazione dell’inchiesta, Meta ha dichiarato di aver adottato ulteriori misure: ora gli account registrati come minori non possono più accedere a funzioni di role-play sessuale con Meta AI e sono state fortemente limitate le conversazioni audio esplicite che coinvolgono voci di celebrità.

Il Journal ha effettuato ulteriori test a seguito delle misure adottate da Meta, rilevando come esse riescano comunque ad essere facilmente aggirabili e che i bot continuano spesso a consentire conversazioni di fantasia sessuale anche con utenti che si presentano come minorenni.

Il quotidiano statunitense racconta inoltre che all'interno di Meta alcuni dipendenti avevano in precedenza sollevato forti preoccupazioni sulle falle nei sistemi di protezione dei minori. In una nota interna, un dipendente ha evidenziato che "esistono numerosi esempi di red-teaming in cui, nel giro di pochi prompt, l’AI viola le proprie regole e produce contenuti inappropriati anche se le si dice di avere 13 anni".

Secondo il Wall Street Journal il comportamento inappropriato dei bot sarebbe l'esito imprevisto, o quantomeno sottovalutato, dell'indicazione impartita dal CEO di Meta, Mark Zuckerberg, di allentare le restrizioni etiche dei bot allo scopo di consentir loro di orchestrare esperienze più coinvolgenti con gli utenti e mantenersi al passo con gli altri concorrenti nell'arena delle IA generative.