Poche ore dopo il giuramento di Donald Trump come presidente, alcuni utenti hanno diffuso su Facebook una falsa notizia secondo cui l'agenzia per l'immigrazione e le dogane (ICE) avrebbe offerto una ricompensa per le segnalazioni di persone senza documenti.

"ULTIM'ORA - L'ICE starebbe offrendo 750 dollari per ogni immigrato clandestino che viene segnalato tramite il loro modulo di segnalazione", si legge in un post su una pagina chiamata NO Filter Seeking Truth, che aggiunge: "Incassate, gente."

Check Your Fact , Reuters e altri verificatori di fatti hanno smentito l'affermazione, e Facebook ha aggiunto etichette ai post avvertendo che contenevano informazioni false o prive di contesto. L'ICE ha una linea telefonica per le segnalazioni, ma ha dichiarato di non offrire ricompense in denaro .

Meta ha annunciato il 7 gennaio che questa primavera smetterà di collaborare con i verificatori di fatti negli Stati Uniti per etichettare i contenuti falsi o fuorvianti. Inoltre, se un post come quello sull'ICE dovesse diventare virale, le pagine che lo hanno diffuso potrebbero ricevere un bonus in denaro.

A gennaio, Mark Zuckerberg, CEO di Meta, ha anche affermato che l'azienda stava rimuovendo o ridimensionando i sistemi automatizzati che limitavano la diffusione di informazioni false. Allo stesso tempo, Meta sta rinnovando un programma che prevedeva bonus per i creatori di contenuti in base alle visualizzazioni e all'engagement, potenzialmente accelerando la diffusione di quel tipo di post falsi che un tempo contrastava. Il nuovo programma di monetizzazione dei contenuti di Facebook è attualmente accessibile solo su invito, ma Meta prevede di renderlo disponibile a tutti entro quest'anno .

Il risultato: una probabile recrudescenza di notizie false e incendiarie su Facebook, alcune delle quali finanziate da Meta, secondo ex professionisti della creazione di bufale su Facebook e un ex data scientist di Meta che si occupava di fiducia e sicurezza.

ProPublica ha individuato 95 pagine Facebook che pubblicano regolarmente titoli inventati, creati per generare interazione e, spesso, alimentare le divisioni politiche. Le pagine, la maggior parte delle quali gestite da persone all'estero, contano complessivamente oltre 7,7 milioni di follower.

Dopo un'analisi, Meta ha dichiarato di aver rimosso 81 pagine perché gestite da account falsi o perché si spacciavano per americane pur pubblicando contenuti su politica e questioni sociali. Tracy Clayton, portavoce di Meta, si è rifiutata di rispondere a domande specifiche, tra cui se qualcuna delle pagine fosse idonea o iscritta al programma di remunerazione per i contenuti virali dell'azienda.

Le pagine raccolte da ProPublica offrono un campione di quelle che potrebbero essere pronte a trarne profitto.

Da quasi un decennio , Meta si è impegnata a smascherare le bufale virali create a scopo di lucro, tanto che un dirigente ha definito questi contenuti "il peggio del peggio". Meta ha una politica che vieta di pagare per contenuti che i suoi verificatori di fatti etichettano come falsi , ma questa regola diventerà irrilevante quando l'azienda interromperà la collaborazione con loro. 404 Media ha già scoperto che gli spammer stranieri stanno guadagnando denaro utilizzando contenuti ingannevoli generati dall'intelligenza artificiale, tra cui immagini di persone emaciate pensate per suscitare emozioni e coinvolgimento. Tali contenuti vengono raramente verificati perché non contengono affermazioni verificabili.

Con l'eliminazione dei controlli dei fatti negli Stati Uniti, "quale protezione rimane ora contro le bufale virali a scopo di lucro?", ha affermato Jeff Allen, responsabile della ricerca presso l'organizzazione no-profit Integrity Institute ed ex data scientist di Meta.

"I sistemi sono progettati per amplificare i contenuti più scandalosi e provocatori", ha aggiunto.

In uno scambio di messaggi su Facebook Messenger, la responsabile di NO Filter Seeking Truth, la pagina che ha condiviso il falso post sull'ICE, ha dichiarato a ProPublica che la pagina è stata penalizzata così tante volte per aver condiviso informazioni false che Meta non le permette di guadagnare denaro secondo le regole attuali. La pagina è gestita da una donna residente nel sud degli Stati Uniti, che ha parlato a condizione di anonimato perché ha affermato di aver ricevuto minacce a causa dei suoi post. Ha definito la notizia della fine del sistema di verifica dei fatti "un'ottima notizia".

Clayton ha affermato che i team di Meta responsabili degli standard della community e della moderazione dei contenuti sono ancora attivi e ha ribadito la dichiarazione rilasciata dall'azienda il 7 gennaio, secondo cui si sta lavorando per garantire di non "applicare in modo eccessivo" le proprie regole, evitando di bannare o sopprimere contenuti per errore.

Le modifiche apportate da Meta segnano un'inversione di rotta significativa nell'approccio dell'azienda alla moderazione delle informazioni false e fuorvianti, ridefinendo l'etichettatura o il declassamento dei contenuti come una forma di censura. "È tempo di tornare alle nostre origini, alla libertà di espressione su Facebook e Instagram", ha dichiarato Zuckerberg nel suo annuncio . La sua posizione riflette l'approccio di Elon Musk dopo l'acquisizione di Twitter, ora X, nel 2022. Musk ha effettuato tagli drastici al team di sicurezza e fiducia dell'azienda, ha riattivato migliaia di account sospesi, tra cui quello di un noto neonazista , e ha posizionato le Note della community, che consentono agli utenti partecipanti di aggiungere contesto tramite note allegate ai tweet, come il sistema chiave della piattaforma per segnalare contenuti falsi e fuorvianti.

Zuckerberg ha dichiarato che Meta sostituirà i verificatori di fatti e alcuni sistemi automatizzati negli Stati Uniti con una versione del sistema Note della community. Un aggiornamento del 7 gennaio alla pagina delle politiche di Meta affermava che negli Stati Uniti l'azienda "potrebbe comunque ridurre la distribuzione di alcuni contenuti bufala la cui diffusione crea un'esperienza utente o del prodotto particolarmente negativa (ad esempio, alcune bufale commerciali)".

Clayton non ha chiarito se i post con note allegate sarebbero stati monetizzati. Ha fornito link a documenti accademici che illustrano in dettaglio come i programmi di verifica dei fatti basati sul crowdsourcing, come Community Notes, possano essere efficaci nell'individuare la disinformazione, costruire fiducia tra gli utenti e affrontare la percezione di parzialità.

Un'inchiesta di ProPublica del 2023 , così come alcuni reportage di Bloomberg , hanno rilevato che le Note della community di X non sono riuscite a contrastare efficacemente la disinformazione sul conflitto tra Israele e Hamas. Inchieste della BBC e dell'Agence France-Presse hanno dimostrato che gli utenti di X che condividono informazioni false hanno guadagnato migliaia di dollari grazie al programma di monetizzazione dei contenuti di X, che premia anche l'elevato livello di coinvolgimento.

Keith Coleman, vicepresidente del settore prodotti di X, aveva precedentemente dichiarato a ProPublica che l'analisi delle Note della community sul conflitto tra Israele e Hamas non includeva tutte le note rilevanti, e aveva aggiunto che il programma "è considerato utile da persone in tutto il mondo, a prescindere dall'orientamento politico".

Allen ha affermato che per ampliare i sistemi di verifica dei fatti basati sul crowdsourcing sono necessari tempo, risorse e supervisione. La decisione di Meta di abbandonare la verifica dei fatti prima di dare al nuovo approccio il tempo di dimostrare la sua efficacia è rischiosa, ha aggiunto.

"In teoria potremmo avere un programma di Note della Comunità altrettanto efficace, se non di più, del programma di verifica dei fatti", ha affermato. "Ma disattivare tutte queste funzionalità prima di avere il programma di Note della Comunità a disposizione dà proprio l'impressione che ci stiamo intenzionalmente aprendo a delle limitazioni."

Prima che Facebook iniziasse a reprimere i contenuti alla fine del 2016, i diffusori di fake news e gli spammer americani con base nella Macedonia del Nord e altrove traevano profitto da bufale virali che acuivano le divisioni politiche e sfruttavano le paure della gente.

Un americano, Jestin Coler, ha gestito per quasi un decennio una rete di siti web che guadagnavano denaro diffondendo notizie false, tra cui il famigerato e falso titolo virale del 2016 "Agente dell'FBI sospettato di aver divulgato le email di Hillary Clinton trovato morto in un apparente omicidio-suicidio". In precedenza, aveva dichiarato alla NPR di aver avviato i siti per "infiltrarsi nelle camere di risonanza dell'estrema destra". Coler ha affermato di guadagnare una cifra a cinque zeri al mese grazie a questi siti, che gestiva nel suo tempo libero.

Quando gli utenti cliccavano sui link agli articoli nel loro feed di notizie, venivano reindirizzati a siti web pieni di pubblicità, generando così entrate per Coler. Questo modello di business è diventato più difficile da quando Meta ha reso i link agli articoli meno visibili su Facebook negli ultimi anni .

Il nuovo programma di Facebook per pagare direttamente gli editori di contenuti virali potrebbe sbloccare una nuova fonte di guadagno per i creatori di bufale. "È sempre la stessa formula per aizzare la gente. Sembra che si possa tornare a quei tempi, da un giorno all'altro", ha dichiarato Coler a ProPublica in un'intervista telefonica. Ha aggiunto di aver abbandonato il business delle bufale su Facebook anni fa e di non avere intenzione di tornarci.

A gennaio, ProPublica ha compilato un elenco di pagine già segnalate per la pubblicazione di bufale e contenuti falsi, scoprendone a decine di altre tramite ricerche di dominio e contenuto. Le pagine pubblicavano titoli falsi, studiati per suscitare polemiche, come "Lia Thomas ammette: 'Ho finto di essere trans per smascherare l'ingenuità della sinistra'" e "Elon Musk ha annunciato di aver acquisito MSNBC per 900 milioni di dollari per porre fine alla programmazione tossica". Il titolo su Musk era accompagnato da un'immagine generata dall'intelligenza artificiale che lo ritraeva con in mano un contratto con il logo di MSNBC. L'immagine ha generato oltre 11.000 reazioni, condivisioni e commenti.

Secondo i dati di Facebook, la maggior parte delle pagine è gestita da account al di fuori degli Stati Uniti, tra cui in Macedonia del Nord, Vietnam, Filippine e Indonesia. Molte di queste pagine utilizzano immagini generate dall'intelligenza artificiale per illustrare i loro titoli inventati.

Una rete di pagine gestite all'estero è collegata al sito SpaceXMania.com, un sito finanziato dalla pubblicità e pieno di articoli bufala come "Elon Musk affronta pubblicamente Beyoncé: 'Smettila di fingere di essere country, non sei proprio adatta'". SpaceX Fanclub, la pagina Facebook più grande della rete, ha quasi 220.000 follower e definisce i suoi contenuti come satira. Uno dei suoi post recenti era un'immagine generata dall'intelligenza artificiale e piena di errori di battitura di un cartello con la scritta: "Esistono solo 2 generi e vieterò alle atlete di partecipare agli sport femminili - Presidente".

La pagina dei termini e condizioni di SpaceXMania.com afferma che il sito è di proprietà di Funky Creations LTD, una società del Regno Unito registrata a nome di Muhammad Shabayer Shaukat, cittadino pakistano. ProPublica ha inviato delle domande al sito e ha ricevuto una risposta via e-mail firmata da Tim Lawson, il quale ha dichiarato di essere un americano residente in Florida e di lavorare con Shaukat. (ProPublica non è stata in grado di trovare una persona con questo nome nelle ricerche nei registri pubblici, sulla base delle informazioni fornite).

"Il nostro lavoro consiste nell'analizzare le ultime tendenze e le notizie di rilievo relative alle celebrità e nel plasmarle in modo da risultare attraenti per un pubblico specifico, in particolare i conservatori e i gruppi di estrema destra che sono predisposti a credere a determinate narrazioni", si legge nell'e-mail.

Lawson ha affermato che guadagnano tra i 500 e i 1.500 dollari al mese grazie alla pubblicità online e che oltre la metà del traffico proviene da persone che cliccano sui link su Facebook. Secondo Lawson, le pagine al momento non sono iscritte al programma di monetizzazione dei contenuti di Facebook, a cui si accede solo su invito.

Le pagine SpaceXMania identificate da ProPublica sono state recentemente disattivate. Lawson ha negato che siano state rimosse da Meta, affermando di averle disattivate "per motivi di sicurezza". Meta ha rifiutato di commentare.

Resta da vedere come se la caveranno i gestori delle pagine di bufale con l'entrata in vigore delle modifiche algoritmiche di Meta e il blocco del programma statunitense di verifica dei fatti. Ma alcuni utenti di Facebook stanno già approfittando dell'allentamento delle restrizioni.

Poco dopo l'annuncio delle modifiche da parte di Zuckerberg, si è diffusa una falsa schermata di un articolo di Bloomberg intitolato: "La scintilla della pompa elettrica per il pene di Zuckerberg potrebbe essere responsabile degli incendi di Los Angeles".

"Nota della community: informazione verificata e veritiera", ha scritto un utente nei commenti.