Contenuti creati con deepfake che promuovono il gioco su Facebook, Meta richiede la rimozione

L’Oversight board di Meta ha annullato la decisione della società di lasciare un post su Facebook che mostrava un video manipolato dall’intelligenza artificiale di una persona che sembrava essere l’ex calciatore brasiliano Nazário che sponsorizzava un gioco online. La rimozione del post è in linea con gli Standard della Community di Meta in materia di frode e spam. Meta avrebbe anche dovuto rifiutare il contenuto per fini pubblicitari, poiché le sue regole vietano l’utilizzo dell’immagine di una persona famosa per indurre gli utenti a interagire con un annuncio.

Nel settembre 2024, un utente ha condiviso un post contenente un video manipolato dall’IA di una persona che sembra essere Ronaldo Nazário. Nel video, incoraggia gli utenti a scaricare un’app per giocare al popolare gioco online Plinko (o Plinco).

Nel video, l’audio che imita Nazário non è sincronizzato con i movimenti delle sue labbra. Il video mostra anche immagini irrealistiche generate dall’IA di un insegnante, un autista di autobus e un commesso di un supermercato, e lo stipendio medio per i loro lavori in Brasile. L’audio afferma che i giocatori di Plinko possono guadagnare di più dal gioco rispetto ai lavori menzionati. Il video incoraggia gli utenti a cliccare su un link per il download dell’app, sebbene questo porti a un gioco diverso chiamato Bubble Shooter. Il post è stato visualizzato oltre 600.000 volte.

Un utente ha segnalato il contenuto a Meta come frode o truffa, ma la segnalazione non è stata considerata prioritaria. L’azienda non ha rimosso il contenuto. L’utente ha presentato ricorso contro questa decisione a Meta, ma anche questo ricorso non è stato considerato prioritario per la revisione umana, quindi il contenuto è rimasto sulla piattaforma. Infine, l’utente ha presentato ricorso contro la decisione di Meta al Consiglio di Amministrazione, sostenendo che il post sembrava sponsorizzato. Se un post viene pubblicizzato, viene creato un annuncio pubblicitario al suo interno.

L’annuncio è stato disattivato per violazione degli Standard Pubblicitari sulle Pratiche Commerciali Inaccettabili dell’azienda, sebbene il post organico originale sia rimasto sulla piattaforma. Dopo che il Consiglio di Amministrazione ha identificato questo caso per la revisione, Meta ha rimosso il post originale per violazione delle norme su frodi, truffe e pratiche ingannevoli. Meta ha successivamente confermato che il post violava anche le sue norme sullo spam.

La rimozione del contenuto è coerente con le responsabilità di Meta in materia di diritti umani. L’approvazione fuorviante e manipolata rappresenta un rischio significativo per i diritti alla privacy e alla reputazione della persona raffigurata. Ha inoltre un impatto sul pubblico, potenzialmente facilitando le frodi.

Il Consiglio di Amministrazione teme che i revisori di contenuti su larga scala non siano in grado di rimuovere post che creano un falso personaggio o fingono di essere una persona famosa “nel tentativo di truffare”, anche se il contenuto contiene chiari indicatori di violazione delle politiche di Meta. Tali contenuti possono essere rimossi solo dai team specializzati di Meta, rendendo più probabile una scarsa applicazione della sua politica su frodi, truffe e pratiche ingannevoli.

Meta probabilmente consente la presenza di una quantità significativa di contenuti truffaldini sulle sue piattaforme per evitare di applicare eccessivamente un piccolo sottoinsieme di approvazioni di celebrità autentiche. Ciò è particolarmente preoccupante poiché le approvazioni di celebrità autentiche probabilmente godranno di altre tutele contro l’applicazione eccessiva, attraverso sistemi formali come i controlli incrociati o i punti di contatto di Meta. Il Consiglio di Amministrazione raccomanda pertanto a Meta di modificare il suo approccio e di applicare questa politica su larga scala.

La natura manipolata o falsa del video è evidente. Il Consiglio di Amministrazione ritiene che il post violi il divieto di Meta di utilizzare falsi profili o fingere di essere una persona famosa per frodare o truffare, ai sensi dello Standard della Comunità su Frodi, Truffe e Pratiche Ingannevoli. Viola inoltre il divieto di Meta di condividere link ingannevoli o fuorvianti ai sensi dello Standard della Comunità sullo Spam, in quanto promuove Plinko ma rimanda a un gioco diverso. Pertanto, il Consiglio di Amministrazione ritiene che il post avrebbe dovuto essere rimosso al momento della segnalazione. Ancor prima della rimozione del post, Meta avrebbe dovuto applicare l’etichetta “Informazioni AI”, ai sensi della sua politica sui Media Manipolati. Meta avrebbe inoltre dovuto rifiutare il contenuto per fini pubblicitari, poiché il suo Standard Pubblicitario sulle Pratiche Commerciali Inaccettabili vieta l’utilizzo dell’immagine di una persona famosa e l’uso di tattiche fuorvianti per indurre le persone a interagire con un annuncio.

L’Oversight board ribalta la decisione di Meta di lasciare il post su Facebook. Il Consiglio raccomanda inoltre a Meta di applicare su larga scala la propria politica in materia di frodi, truffe e pratiche ingannevoli, che vieta i contenuti che “tentano di creare una falsa identità o di fingere di essere una persona famosa nel tentativo di truffare o frodare”, fornendo ai revisori indicatori per identificare tali contenuti. Ciò potrebbe includere, ad esempio, la presenza di filigrane e metadati di manipolazione multimediale, o fattori evidenti come la mancata corrispondenza tra video e audio.

PressGiochi