Dagotraduzione dal Sun
Utenti creati con Intelligenza Artificiale
La Cina ha una rete tentacolare e inquietante di persone generate dall'intelligenza artificiale che utilizza per diffondere bugie anti-vaxx e notizie false su Covid.
Si ritiene che Pechino utilizzi un'enorme rete di "spamuflage" per confondere le acque e promuovere i propri interessi agli utenti inconsapevoli dei social media - e le "persone" generate al computer sono forse la tattica più inquietante.
I profili Twitter e Facebook sono accompagnati da immagini di persone che semplicemente non esistono, ma sono state create da software di intelligenza artificiale. Queste "persone" non sono mai nate: sono semplicemente fasci di codice con l'illusione della personalità, con età, sesso, forma del viso ed etnie diverse.
Utenti creati con Intelligenza Artificiale 2
Le foto sono quasi indistinguibili dalle persone reali e sono fotorealistiche con le imperfezioni che danno vita ai volti, ben oltre ciò che si vedrebbe in videogiochi come The Sims.
Vedendone uno incrociare il tuo feed su Facebook, Twitter e Instagram non penseresti mai due volte che potrebbero essere "falsi". E mentre la tecnologia all'avanguardia dei volti generati dall'intelligenza artificiale ha molte applicazioni innocue, numerosi esperti hanno affermato che la Cina utilizza una vasta rete di queste persone in un'ala della sua campagna di propaganda online.
Imperfezioni di utenti falsi creati con AI 2
Le "persone" dell'intelligenza artificiale possono aiutare i troll cinesi a superare i controlli standard sugli account falsi, ad esempio essere in grado di rintracciare le immagini del profilo rubate utilizzando la ricerca inversa delle immagini.
Si ritiene inoltre che account falsi vengano utilizzati per rafforzare i media statali cinesi su Facebook, con lo stato che schiera anche i cosiddetti "troll guerrieri" per combattere una battaglia di pubbliche relazioni pro-Cina negli spazi online in Occidente.
Imperfezioni di utenti falsi creati con AI
I giornali e i canali televisivi finanziati dallo stato hanno avuto un'enorme crescita dei social media negli ultimi anni perché pubblicano storie in cui sostengono che il Covid proviene da un laboratorio statunitense e che i vaccini occidentali sono pericolosi.
La Cina sembra aver intensificato i suoi sforzi negli ultimi anni per diffondere le sue narrazioni e influenzare le persone, specialmente sulla scia della pandemia di Covid. Rimangono ancora domande chiave sull'onestà della Cina nei primi giorni dell'epidemia visto che è stata accusata di nascondere dettagli chiave e di non aver avvertito il mondo del rischio.
Utenti creati con Intelligenza Artificiale 3
E il dibattito ancora infuria sul fatto che il Covid possa effettivamente essere uscito da un laboratorio biologico cinese a Wuhan, cosa che Pechino nega furiosamente, deviando invece le accuse verso gli Stati Uniti.
Le persone generate dall'intelligenza artificiale dell'esercito cinese svolgono un ruolo chiave nel tentativo di scrollarsi di dosso queste narrazioni e combattere contro l'Occidente, cercando di raggiungere le persone con le loro prospettive e bugie direttamente attraverso i social media.
Imperfezioni di utenti falsi creati con AI 3
Le immagini vengono create utilizzando un sistema noto come StyleGAN, che viene "addestrato" studiando una serie di immagini, come una selezione di volti, che poi utilizza per creare approssimazioni generate dall'intelligenza artificiale. E una seconda parte del sistema è addestrata a riconoscere le immagini false. Questi due poli lavorano in tandem per creare immagini che possono ingannare anche gli occhi umani più diligenti.
Il Center for Information Resilience ha pubblicato un nuovo rapporto sulle reti di propaganda pro-Cina che si basano su questi volti dell'intelligenza artificiale, nonché su altri metodi più tradizionali di trolling e disinformazione.
xi jinping propaganda su internet
Gli esperti hanno scoperto che non solo i robot e i troll cinesi spingono le narrazioni pro-Cina, ma cercano anche di infiammare questioni scottanti in Occidente, come le leggi sulla razza e le armi statunitensi.
«Un'operazione di influenza coordinata su Twitter, Facebook e YouTube sta utilizzando un mix di account falsi e riproposti per spingere le narrazioni pro-Cina e distorcere le percezioni su questioni importanti», si legge nel rapporto.
xi jinping
Gli account dei social media con un seguito esistente a volte vengono dirottati dalla Cina e poi trasformati in account shell che sputano la propaganda di Pechino. Ha aggiunto: «Questa ricerca è la prova di uno sforzo deliberato per distorcere le percezioni internazionali su questioni significative». Alcuni di loro negano le violazioni dei diritti umani sui musulmani uiguri in Cina e nel frattempo altri attaccano gli Stati Uniti per eventi come l'uccisione di George Floyd.
vaccini cinesi sinovac
Gli esperti di CIR hanno trovato una serie di account che utilizzano le immagini generate dall'intelligenza artificiale per mettere mi piace, commentare e condividere post su Facebook. E hanno notato alcuni dei difetti che puoi individuare nelle immagini, come le montature degli occhiali leggermente deformate, e il fatto che hanno la stessa identica composizione, con gli occhi sempre allineati su ogni foto.
La società di analisi dei social media Graphika ha anche prodotto un rapporto su quella che ha soprannominato la rete cinese " Spamouflage " mentre distribuisce eserciti di account falsi. Ha avvertito che l'operazione sta finalmente iniziando a uscire dalla "camera dell'eco" degli account falsi e raggiungere i veri utenti dei social media, inclusi alcuni influencer.
vaccini cinesi sinovac 4
Hanno scoperto che la rete è stata utilizzata per dare credito il vaccino cinese e hanno avvertito dei potenziali pericoli del vaccino Pfizer-BioNTech prodotto negli Stati Uniti. «Spamouflage è una cheerleader per le narrazioni dello stato cinese sull'ascesa della Cina e sulla caduta dell'America», ha detto Graphika.
I video, che spesso presentano voci generate dall'intelligenza artificiale, vengono pompati in più lingue dall'operazione di propaganda per cercare di raggiungere le persone in tutto il mondo. Facebook ha annunciato l'anno scorso di aver rimosso una rete cinese di account falsi che utilizzava volti generati dall'intelligenza artificiale, ma la battaglia continua nello spazio delle informazioni.
Pfizer
Theresa Payton, la prima donna capo dell'intelligence alla Casa Bianca, CEO di Fortalice Solutions, ha dichiarato a The Sun Online: «La Cina nega di condurre queste campagne, ma la ricerca continua a rivelare che sfruttano il playbook della manipolazione utilizzando diverse verità nelle loro organizzazioni di notizie, riproponendo notizie che aggiungono colpi di scena e disinformazione, creando organizzazioni fittizie, personaggi falsi, chatbot e intelligenza artificiale».
Le relazioni tra l'Occidente e la Cina rimangono tese mentre la pandemia di Covid continua a devastare il mondo, uccidendo finora 4,2 milioni di persone dopo essere emersa a Wuhan nel dicembre 2019. La Cina ha goduto di una rapida ripresa dopo essersi vantata di aver affrontato il virus, ma ora sta soffrendo il peggior focolaio dalla prima ondata.
Il laboratorio di Wuhan
Continuano a restare senza risposta le domande sul fatto che il Covid possa essere fuggito dall'Istituto di virologia di Wuhan, un laboratorio di coronavirus a poche miglia dal punto zero della pandemia. Pechino ha negato ogni accusa e, secondo quanto è stato avvertito, le tensioni tra Occidente e Cina potrebbero trasformarsi in una nuova "Guerra Fredda".
