La fabbrica dei fake: come Meta guadagna sulla disinformazione russa nonostante le sanzioni internazionali

È stata ribattezzata “la fabbrica dei fake”, la fuga di informazioni che ha portato alla diffusione di migliaia di file provenienti da Social Design Agency (SDA), un’azienda IT russa finanziata dal Cremlino. Lo scorso anno, una fonte anonima ha rivelato una serie di documenti interni sulle attività di SDA tra il 2022 ed il 2024, condivisi con Süddeutsche Zeitung e Delfi Estonia. Recentemente, un’indagine condotta dalle organizzazioni Reset Tech, Check First e AI Forensics ha rivelato come SDA abbia sfruttato l’infrastruttura pubblicitaria di Meta per diffondere propaganda russa.

Facciamo un passo indietro: SDA è coinvolta nell’operazione di interferenza russa nota come Doppelgänger, denunciata per la prima volta nel 2022 e così chiamata per la pratica di creare siti falsi di notizie che imitano testate europee e statunitensi – tra cui l’ANSA in Italia – per diffondere contenuti in funzione anti-ucraina. SDA è stata sanzionata dall’Unione Europea nel luglio 2023, dagli Stati Uniti nel marzo 2024 e dal Regno Unito nell’ottobre 2024. Nonostante ciò, Meta ha continuato ad approvare e distribuire le inserzioni pubblicitarie legate all’organizzazione.

Questa rivelazione è significativa per almeno due motivi interconnessi. Come mai prima, possiamo osservare da dentro il funzionamento di una massiccia campagna di disinformazione ed interferenza straniera, attiva da anni e operante in vari paesi, tra cui l’Italia, con l’obiettivo di minare la fiducia nei processi e nelle istituzioni democratiche. Il secondo punto riguarda l’ampiezza di queste operazioni, che dimostra come l’intellighenzia russa sfrutti le vulnerabilità strutturali delle piattaforme digitali.

La continuazione pressoché indisturbata delle attività maligne rivela da una parte l’inefficacia delle sanzioni internazionali nel contrastare il fenomeno, e dall’altra solleva interrogativi sulle capacità di attori come Meta di far fronte ad una minaccia ben documentata. Infatti, gli standard pubblicitari della piattaforma, che dovrebbe verificare l’identità di inserzionisti e finanziatori si è dimostrato inefficace. L’eccessivo affidamento ai sistemi automatizzati di rilevamento e all’autodichiarazione degli inserzionisti non impedisce la distribuzione di annunci false e dannosi, che a costi contenuti e ritorni esorbitanti hanno raggiunto milioni di utenti in Francia, Germania, Polonia e Italia.

Paul Bouchaud (AI Forensics), Amaury Lesplingart (Check First) e Aleksandra Atanasova (Reset Tech) hanno incrociato gli oltre 480 annunci trapelati, i report sulla trasparenza di Meta e più di 8.000 inserzioni direttamente collegate all’operazione Doppelgänger (per lo più archiviate nell’Ad Library). La stima al ribasso è di 455.164$ di guadagni tra giugno 2022 e luglio 2024. Tuttavia, il numero reale di annunci coinvolti è probabilmente molto più elevato e riguarda molti più Paesi. Oltre agli annunci, i documenti trapelati raccontano le strategie operative di SDA: vi sono briefing su come costruire narrazioni dall’apparenza legittima, verbali di riunioni con dettagli sui flussi di lavoro, nonché set di dati completi con fonti, target di pubblico ed elementi multimediali.

Le vignette satiriche sono il formato prediletti da SDA, distribuite da una rete di account e pagine tramite numerosi annunci pubblicitari pochi giorni dopo la loro creazione. Per esempio, le caricature raffigurano gli aiuti all’Ucraina come uno spreco di denaro dei contribuenti tedeschi (rappresentando una tomba in cui vengono gettate banconote), un torto ai senzatetto francesi (enfatizzando una crisi interna più pressante), o un pericolo pari alla transizione verde in Italia (rappresentata come una minacciosa pianta carnivora). È sorprendente la rapidità di risposta agli eventi internazionali; a 48 ore dai fatti, una serie di annunci accusava falsamente l’Ucraina di avere venduto armi ad Hamas per condurre la strage del 7 ottobre 2023 e all’ISIS-K per realizzare l’attentato al Crocus City Hall di Mosca il 22 marzo 2024.

Dal settembre 2023, il team di monitoraggio di SDA ha iniziato a mappare le menzioni più significative della campagna Doppelgänger nei media stranieri per valutare il proprio successo e perfezionare le proprie tattiche. I documenti discutono la necessità di ampliare le tematiche e diversificare le piattaforme, l’uso di ChatGPT per accelerare la creazione di meme e i sotterfugi per eludere la moderazione. Tra le varie considerazioni, si raccomanda di espandere le attività in Italia e Spagna, considerate ancora troppo limitate. Si capisce quindi che denunciare queste operazioni è un’arma a doppio taglio: da un lato, aumenta la consapevolezza del problema e permette di combatterlo; dall’altra, non si può escludere che queste informazioni vengano sfruttate dagli attori maligni per affinare le proprie strategie.

Meta è a conoscenza dell’operazione dal 2022, citata più volte nei suoi report di sicurezza, contro cui però ha preso provvedimenti solo in modo discontinuo. Nel 2024, l’azienda ha ammesso di continuare a ricevere guadagni dagli annunci legati alla rete Doppelgänger nonostante le sanzioni internazionali. Questo evidenzia una vulnerabilità strutturale della piattaforma, i cui sforzi per frenare la disinformazione si scontrano con gli interessi economici.

Potenzialmente, si profila una violazione delle leggi antiriciclaggio data l’inclusione di SDA nella lista delle sanzioni internazionali. Inoltre, Meta infrange le proprie condizioni d’uso e alcuni principi del Digital Services Act (regolamento europeo sui servizi digitali): la trasparenza sugli annunci pubblicitari (articolo 14.4), la chiara identificazione dell’inserzionista (articolo 26.1), la valutazione dei rischi sistemici derivanti dalle proprie pratiche pubblicitarie (articolo 34.1).

A quasi tre anni dalla prima denuncia pubblica, la campagna di disinformazione russa Doppelganger continua per lo più indisturbata nonostante le sanzioni contro uno dei principali attori responsabili. Con il progressivo indebolimento delle misure di moderazione delle piattaforme, il problema è destinato a peggiorare. Se però queste ultime non rafforzano i controlli, spetta all’UE multarle (fino al 6% del fatturato annuo globale in caso di violazione del Digital Services Act) affinché rispettino le normative, garantendo l’integrità dell’ecosistema informativo.