La Stampa, 4 dicembre 2025
Video fake anti-migranti. Così l’Ai rende virale la propaganda razzista
Nel 2016 la truffa aveva la forma di un tipico bus rosso britannico a due piani, ricoperto dalla gigantesca scritta: «Mandiamo ogni settimana 350 milioni all’Ue. Diamoli invece al Servizio Sanitario Nazionale. Vota Leave». Il giorno successivo alla vittoria del Referendum sulla Brexit, Nigel Farage, capo delle falangi brexitare, andò in televisione e disse candidamente che era una balla e nessuno avrebbe dato 350 milioni agli ospedali. «Non era un mio slogan» disse ridendo. Ma la gente ci aveva creduto. La gente si era accapigliata. Aveva fotografato il bus. Lo aveva postato sui social. Grazie ai famosi algoritmi che premiano l’odio e il combattimento in rete, non c’era britannico che non avesse visto la foto e molti hanno pensato davvero di dare 350 milioni alla settimana a Bruxelles. Su quanto la fake news del Brexit Bus abbia contribuito a spostare l’ago della bilancia in quell’occasione si discute ancora. Ci hanno fatto ricerche, sondaggi, tesi di laurea. Se vi interessa la risposta è “sì”, la fake news era stata creduta.
Questo caso di scuola è stato in qualche modo uno spartiacque, l’inizio di una deriva dove il reale si confonde con il falso, dove la realtà si scioglie nel virtuale, dove anche i meno tecnologici hanno capito la potenza degli algoritmi, dei bot, degli hacker al servizio della politica, della manipolazione. Grosso modo in quegli anni – ed è passato già un decennio – la rappresentazione del mondo si è avviata su due binari, uno virtuale e uno reale, che sono destinati a confondersi sempre di più.
Oggi non c’è più bisogno del bus rosso. Ci pensa l’intelligenza artificiale, con la sua velocità e potenza micidiale a creare contenuti falsi che ottengono miliardi di visualizzazioni su TikTok. Ieri il Guardian ha pubblicato un inquietante rapporto di AI Forensic, organizzazione no profit con sede a Parigi. Sono segugi della rete, studiano l’uso improprio dell’Intelligenza artificiale e vanno a caccia di notizie false e contenuti manipolatori. Questi benemeriti ricercatoti hanno scoperto 354 account che hanno pubblicato in un anno 43mila post con contenuti generati dall’intelligenza artificiale, per lo più materiale anti immigrati e sessista, totalizzando in un mese 4,5 miliardi di visualizzazioni. La tecnica è sempre la stessa: fregare l’algoritmo, far diventare virale un tema postando all’impazzata. Uno di questi account postava anche 70 volte al giorno (neppure il sonnambulo Trump o il vorace Salvini sono mai arrivati a tanto), sempre negli stessi orari, segno che è un account automatizzato.
Là fuori, dentro la rete, è sempre più labile il confine tra contenuti autentici generati da esseri umani e contenuti sintetici generati dall’intelligenza artificiale, in un ecosistema virale che ha dimensioni gigantesche. E l’Ai dilaga indisturbata, perché è pieno di gonzi virtuali, ai quali corrispondono dei gonzi reali, disposti a credere a tutto. E le piattaforme, seppure dichiarano di essersi attivate per dividere il reale dal virtuale, non lo fanno. I contenuti generati da Ai non hanno un bollino blu o una scritta di avviso. TikTok si difende dicendo di dare agli utenti la possibilità di ridurre la quantità di contenuti Ai che vedono, ma non è vero o almeno non lo fanno abbastanza.
Come ormai sappiamo si fanno soldi facili con storie che creano rabbia, divisione, risentimento verso gruppi etnici o di genere e via dicendo. Non per niente la parola dell’anno scelta dall’Oxford Dictionary è “rage bait”, dove rage è la rabbia e il bait è l’esca. Con “rage bait” si indica «il contenuto online creato appositamente per provocare rabbia o indignazione sui social per aumentare il traffico è l’interazione online». L’anno scorso i custodi della lingua inglese scelsero un’altra parola significativa dello stato dell’arte: “brain rot”, che potremmo tradurre come “putrefazione del cervello”. Indica «il decadimento mentale dell’essere umano che consuma quantità eccessive di contenuti online di scarsa qualità».
I linguisti dell’Oxford Dictionary sono sempre piuttosto attenti ai cambiamenti della lingua che a sua volta fotografa il rotolare veloce della vita sociale, che sia reale o virtuale.
Quindi, più i post dono divisivi più generano traffico, più i burattinai che ci stanno dietro ci guadagnano.
Il tema immigrazione va fortissimo. Ma anche la sessualizzazione del corpo femminile tiene il passo. Falso, finto e menzognero si confondono in un flusso di fake (alcune addirittura con marchi di Sky News o della ABC) e di video e foto demenziali, i cosiddetti “slop”. Imparate anche questo termine: sono quei post senza senso, strani, divertenti o così carini, tipo i gattini che ruzzolano, i cavalli che si tuffano da un trampolino, gli influencer virtuali o i bambini parlanti. Ventriloqui di silicio a cui gli umani appaltano divertimento e noia, pregiudizi e paure. Se la direzione è questa, la putrefazione del cervello sarà irreversibile e “slop” potrebbe diventare il termine dell’anno per l’Oxford Dictionary 2026.