scarlett johansson

COSI' FAKE DA ESSERE VERO - IL MIT DI BOSTON HA SCOPERTO UN SITO WEB DOVE, GRAZIE ALLA TECNOLOGIA DEEPFAKE, E' POSSIBILE CARICARE L'IMMAGINE DI UN VOLTO PER VEDERLO PROTAGONISTA DI UN VIDEO PORNO - I FILMATI A LUCI ROSSE RITRAGGONO QUASI SEMPRE DONNE, E POSSONO ESSERE DIFFUSI VIA WEB O VIA SOCIAL CON IMPATTI DEVASTANTI SULLA VITA PRIVATA E LAVORATIVA DI CHI VIENE INCONSAPEVOLMENTE COINVOLTO - E FARLI SPARIRE DALLA RETE E' PIU' DIFFICILE DI QUELLO CHE SI PENSI...

Dagotraduzione da Technology Review

 

deepfake 12

Il sito è accattivante per la sua semplicità. Su uno sfondo bianco, un gigantesco pulsante blu invita i visitatori a caricare l'immagine di un volto. Sotto il pulsante, quattro facce generate dall'intelligenza artificiale consentono di testare il servizio. Sopra, lo slogan proclama audacemente lo scopo: trasformare chiunque in una pornostar utilizzando la tecnologia deepfake inserendo il volto della persona in un video per adulti. Tutto ciò che serve è la foto e un click.

 

deepfake 2

MIT Technology Review ha scelto di non nominare il servizio, che chiameremo Y, né di utilizzare citazioni dirette e screenshot dei suoi contenuti, per evitare di indirizzare traffico verso il sito. È stato scoperto e portato alla nostra attenzione dal ricercatore di deepfake Henry Ajder, che ha seguito l'evoluzione e l'ascesa dei media sintetici online.

 

Per ora, Y esiste in relativa oscurità, con una piccola base di utenti che fornisce attivamente feedback sullo sviluppo nei forum online. Ma i ricercatori temono che possa emergere un'app come questa, in violazione di una linea etica che nessun altro servizio ha mai attraversato prima.

 

deepfake 3

Fin dall'inizio, i deepfake, cioè quei media (foto, video) generati dall'intelligenza artificiale, sono stati utilizzati principalmente per creare rappresentazioni pornografiche di donne, che spesso trovano la pratica psicologicamente devastante. Il creatore di Reddit che ha reso popolare la tecnologia ha inserito volti di celebrità femminili in video porno. Ad oggi, secondo le stime della società di ricerca Sensity AI, tra il 90% e il 95% di tutti i video deepfake online sono porno non consensuali e circa il 90% di questi presenta donne.

 

deepfake 1

Con l'avanzare della tecnologia, sono emersi anche numerosi strumenti senza codice di facile utilizzo, che consentono agli utenti di "spogliare" i vestiti dai corpi femminili nelle immagini. Da allora molti di questi servizi sono stati messi offline, ma il codice esiste ancora in piattaforme open source e ha continuato a riemergere in nuove forme. secondo la ricercatrice Genevieve Oh, che l'ha scoperto, ad agosto l'ultimo sito di questo tipo ha ricevuto oltre 6,7 milioni di visite. Deve ancora essere messo offline.

 

deepfake 4

Ci sono state altre app per lo scambio di volti a foto singola, come ZAO o ReFace, che collocano gli utenti in scene selezionate di film tradizionali o video pop. Ma, come è successo con la prima app pornografica dedicata allo scambio di volti, Y porta questo processo a un nuovo livello. È "fatto apposta" per creare immagini pornografiche di persone senza il loro consenso, afferma Adam Dodge, il fondatore di EndTAB, un'organizzazione no-profit che educa le persone sugli abusi della tecnologia. Questo attrae persone che altrimenti non avrebbero pensato di creare porno deepfake. «Ogni volta che ti specializzi in questo modo, crei un nuovo angolo di Internet che attirerà nuovi utenti», afferma Dodge.

 

deepfake 5

Y è incredibilmente facile da usare. Una volta che un utente carica una foto di un volto, il sito apre una libreria di video porno. La stragrande maggioranza dei video presenta donne, anche se una piccola manciata è dedicata anche agli uomini, per lo più nel porno gay. Un utente può quindi selezionare qualsiasi video per generare un'anteprima dello scambio di volti in pochi secondi e pagare per scaricare la versione completa.

 

deepfake 7

I risultati sono tutt'altro che perfetti. Molti degli scambi di volti sono ovviamente falsi, con i volti che luccicano e si distorcono mentre cambiano le angolazioni. Ma per un osservatore casuale, potrebbe essere accettabili e lo sviluppo dei deepfake ha già mostrato quanto velocemente possano diventare indistinguibili dalla realtà. Alcuni esperti sostengono che la qualità del deepfake non ha molta importanza perché il danno psicologico alle vittime può essere lo stesso in entrambi i casi. E molti utenti non sono consapevoli dell'esistenza di questa tecnologia, quindi anche lo scambio di volti di bassa qualità può essere in grado di ingannare le persone.

 

deepfake 6

Y si autodefinisce uno strumento sicuro e responsabile per esplorare le fantasie sessuali. Il messaggio sul sito incoraggia gli utenti a caricare la propria faccia. Ma nulla impedisce loro di caricare i volti di altre persone e i commenti sui forum online suggeriscono che gli utenti lo abbiano già fatto.

 

Le conseguenze per le donne e le ragazze colpite da queste attività possono essere devastanti. A livello psicologico, questi video possono essere violenti quanto il revenge porn: veri video intimi girati o pubblicati senza consenso. «Questo tipo di abuso - in cui le persone travisano la tua identità, il tuo nome, e la tua reputazione e la alterano in modi così violenti - ti frantumano nel profondo», dice Noelle Martin, un'attivista australiana che è stata presa di mira da una campagna di deepfake porno.

 

deepfake 8

E le ripercussioni possono durare tutta la vita. Le immagini e i video sono difficili da rimuovere da Internet e nuovo materiale può essere creato in qualsiasi momento. «Influisce sulle tue relazioni interpersonali; ti colpisce quando cerchi lavoro. In ogni singolo colloquio di lavoro che fai, potrebbe essere tirato fuori. E pesa sulle potenziali relazioni romantiche», dice Martin. «Fino ad oggi, non sono mai riuscito completamente a rimuovere nessuna delle immagini. Sarà sul web per sempre. Non importa cosa faccio».

 

A volte è persino più complicato del revenge porn. Siccome il contenuto non è reale, non sempre le donne si sentono traumatizzate o credono che il fatto meriti una segnalazione. «Se qualcuno sta lottando con il fatto si essere stato veramente una vittima, compromette la sua capacità di riprendersi», dice.

 

deepfake 9

Il porno deepfake non consensuale può anche avere impatti economici e di carriera. Rana Ayyub, una giornalista indiana che è diventata vittima di una campagna di deepfake porno, ha subito molestie online così intense che ha dovuto ridurre al minimo la sua presenza sul web e sul suo profilo pubblico, di cui ha bisogno per svolgere il suo lavoro. Helen Mort, una poetessa e giornalista con sede nel Regno Unito che in precedenza ha condiviso la sua storia con MIT Technology Review, ha detto di aver sentito la pressione di sparire dopo aver scoperto che le sue foto erano state rubate da account social privati per creare falsi nudi.

 

deepfake 11

La Revenge Porn Helpline finanziata dal governo del Regno Unito ha recentemente preso in carico il caso di un'insegnante che ha perso il lavoro dopo che le sue immagini pornografiche deepfake sono state diffuse sui social media e portate all'attenzione della sua scuola «Sta peggiorando, non migliorando», dice Dodge. «Aumentano le donne che vengono prese di mira in questo modo».

 

L'opzione di Y di creare porno gay deepfake, sebbene limitata, rappresenta un'ulteriore minaccia per gli uomini nei paesi in cui l'omosessualità è criminalizzata, dice Ajder. È il caso di 71 giurisdizioni a livello globale, 11 delle quali puniscono il reato con la morte.

 

NANCY PELOSI DEEPFAKE

Ajder, che ha scoperto numerose app porno deepfake negli ultimi anni, afferma di aver tentato di contattare il servizio di hosting di Y e di metterlo offline. Ma è pessimista sul fatto che si possa impedire la creazione di strumenti simili. È già apparso un altro sito che sembra tentare la stessa cosa. Ajder pensa che vietare questi contenuti sulle piattaforme di social media, e forse anche rendere illegale la loro creazione o il loro consumo, si rivelerebbe una soluzione più sostenibile. «Significherebbe trattare questi siti web come se fosse materiale del dark web», dice. «Anche se continua a esistere sottoterra, se non altro resta lontano dagli occhi della gente comune».

 

renzi deepfake

Y non ha risposto alle richieste di commento. Le informazioni di registrazione associate al dominio vengono inoltre bloccate dal servizio privacy Withheld for Privacy. Il 17 agosto, dopo che MIT Technology Review ha fatto un terzo tentativo di contattare il creatore, il sito ha pubblicato un avviso sulla sua homepage dicendo che non è più disponibile per i nuovi utenti. Al 12 settembre, l'avviso era ancora lì.

Ultimi Dagoreport

woody allen ian bremmer la terrazza

FLASH! – A CHE PUNTO E' LA NOTTE DELL’INTELLIGHENZIA VICINA AL PARTITO DEMOCRATICO USA - A CASA DELL'EX MOGLIE DI UN BANCHIERE, SI È TENUTA UNA CENA CON 50 OSPITI, TRA CUI WOODY ALLEN, IMPEGNATI A DIBATTERE SUL TEMA: QUAL È IL MOMENTO GIUSTO E IL PAESE PIÙ ADATTO PER SCAPPARE DALL’AMERICA TRUMPIANA? MEGLIO IL CHIANTISHIRE DELLA TOSCANA O L’ALGARVE PORTOGHESE? FINCHE' IL POLITOLOGO IAN BREMMER HA TUONATO: “TUTTI VOI AVETE CASE ALL’ESTERO, E POTETE FUGGIRE QUANDO VOLETE. MA SE QUI, OGGI, CI FOSSE UN OPERAIO DEMOCRATICO, VI FAREBBE A PEZZI…”

meloni musk trump

DAGOREPORT – TEMPI DURI PER GIORGIA - RIDOTTA ALL'IRRILEVANZA IN EUROPA  DALL'ENTRATA IN SCENA DI MACRON E STARMER (SUBITO RICEVUTI ALLA CASA BIANCA), PER FAR VEDERE AL MONDO CHE CONTA ANCORA QUALCOSA LA STATISTA DELLA GARBATELLA STA FACENDO IL DIAVOLO A QUATTRO PER OTTENERE UN INCONTRO CON TRUMP ENTRO MARZO (IL 2 APRILE ENTRERANNO IN VIGORE I FOLLI DAZI AMERICANI SUI PRODOTTI EUROPEI) - MA IL CALIGOLA A STELLE E STRISCE LA STA IGNORANDO (SE NE FOTTE ANCHE DEL VOTO FAVOREVOLE DI FDI AL PIANO “REARM EUROPE” DI URSULA). E I RAPPORTI DI MELONI CON MUSK NON SONO PIÙ BUONI COME QUELLI DI UNA VOLTA (VEDI IL CASO STARLINK), CHE LE SPALANCARONO LE PORTE TRUMPIANE DI MAR-A-LAGO. PER RACCATTARE UN FACCIA A FACCIA CON "KING DONALD", L'ORFANELLA DI MUSK (E STROPPA) E' STATA COSTRETTA AD ATTIVARE LE VIE DIPLOMATICHE DELL'AMBASCIATORE ITALIANO A WASHINGTON, MARIANGELA ZAPPIA (AD OGGI TUTTO TACE) - NELLA TREPIDANTE ATTESA DI TRASVOLARE L'ATLANTICO, OGGI MELONI SI E' ACCONTENTATA DI UN VIAGGETTO A TORINO (I SATELLITI ARGOTEC), DANDO BUCA ALL’INCONTRO CON L'INDUSTRIA DELLA MODA MILANESE (PRIMA GLI ARMAMENTI, POI LE GONNE)... 

elly schlein luigi zanda romano prodi - stefano bonaccini goffredo bettini dario franceschini

DAGOREPORT: ELLY IN BILICO DOPO LA VERGOGNOSA SPACCATURA DEL PD ALL’EUROPARLAMENTO (UNICA VOCE DISSONANTE NEL PSE) SUL PIANO "REARM" DELLA VON DER LEYEN – SENZA LE TELEFONATE STRAPPACUORE DI ELLY AI 21 EUROPARLAMENTARI, E LA SUCCESSIVA MEDIAZIONE DI ZINGARETTI, CI SAREBBERO STATI 16 SÌ, 2 NO E TRE ASTENUTI. E LA SEGRETARIA CON 3 PASSAPORTI E UNA FIDANZATA SI SAREBBE DOVUTA DIMETTERE – NEL PD, CON FRANCESCHINI CHE CAMBIA CASACCA COME GIRA IL VENTO E COL PRESIDENTE BONACCINI CHE VOTA CONTRO LA SEGRETARIA, E’ INIZIATA LA RESA DEI CONTI: PER SALVARE LA POLTRONA DEL NAZARENO, SCHLEIN SPINGE PER UN CONGRESSO “TEMATICO” SULLA QUESTIONE ARMI - ZANDA E PRODI CONTRARI: LA VOGLIONO MANDARE A CASA CON UN VERO CONGRESSO DOVE VOTANO GLI ISCRITTI (NON QUELLI DEI GAZEBO) – A PROPOSITO DI "REARM": IL PD DI ELLY NON PUÒ NON SAPERE CHE, VENENDO A MANCARE L'OMBRELLO PROTETTIVO DEGLI STATI UNITI TRUMPIANI, CON QUEL CRIMINALE DI PUTIN ALLE PORTE, IL RIARMO DEI PAESI MEMBRI E' UN "MALE NECESSARIO", PRIMO PASSO PER DAR VITA A UNA FUTURA DIFESA COMUNE EUROPEA (PER METTERE D'ACCORDO I 27 PAESI DELLA UE LA BACCHETTA MAGICA NON FUNZIONA, CI VUOLE TEMPO E TANTO DENARO...)

davide lacerenza giuseppe cruciani selvaggia lucarelli

TE LO DÒ IO IL “MOSTRO”! – SELVAGGIA LUCARELLI, CHE SBATTE AL MURO GIUSEPPE CRUCIANI, REO DI ESSERE NIENT’ALTRO CHE IL “MEGAFONO” DI LACERENZA, DIMENTICA CHE L’AUTORE DEL PRIMO ARTICOLO CHE HA PORTATO ALLA RIBALTA LE NEFANDEZZE DELLO SCIROCCATO DELLA GINTONERIA E’ PROPRIO LEI, CON UNA BOMBASTICA INTERVISTA NEL 2020 SULLE PAGINE DI T.P.I. (“LA ZANZARA” ARRIVA SOLO NEL 2023) – POI TUTTI I MEDIA HANNO INZUPPATO IL BISCOTTO SULLA MILANO DA PIPPARE DI LACERENZA. IVI COMPRESO IL PALUDATO “CORRIERE DELLA SERA" CHE HA DEDICATO UNA PAGINATA DI INTERVISTA AL "MOSTRO", CON VIRGOLETTATI STRACULT (“LA SCOMMESSA DELLE SCOMMESSE ERA ROMPERE LE NOCI CON L’UCCELLO, VINCEVO SEMPRE!”) - ORA, A SCANDALO SCOPPIATO, I TRASH-PROTAGONISTI DELLE BALORDE SERATE MILANESI SPUNTANO COME FUNGHI TRA TV E GIORNALI. SE FILIPPO CHAMPAGNE È OSPITE DI VESPA A “PORTA A PORTA”, GILETTI RADDOPPIA: FILIPPO CHAMPAGNE E (DIETRO ESBORSO DI UN COMPENSO) LA ESCORT DAYANA Q DETTA “LA FABULOSA”… - VIDEO

andrea scanzi

DAGOREPORT - ANDREA SCANZI, OSPITE DI CATTELAN, FA INCAZZARE L’INTERA REDAZIONE DEL “FATTO QUOTIDIANO” QUANDO SPIEGA PERCHÉ LE SUE “BELLE INTERVISTE” VENGONO ROVINATE DAI TITOLISTI A LAVORO AL DESK: “QUELLO CHE VIENE CHIAMATO IN GERGO ‘CULO DI PIETRA’ È COLUI CHE NON HA SPESSO UNA GRANDE VITA SOCIALE, PERCHÉ STA DENTRO LA REDAZIONE, NON SCRIVE, NON FIRMA E DEVE TITOLARE GLI ALTRI CHE MAGARI NON STANNO IN REDAZIONE E FANNO I FIGHI E MANDANO L'ARTICOLO, QUINDI SECONDO ME C'È ANCHE UNA CERTA FRUSTRAZIONE” - “LO FANNO UN PO’ PER PUNIRMI” - I COLLEGHI DEL “FATTO”, SIA A ROMA CHE A MILANO, HANNO CHIESTO AL CDR DI PRENDERE INIZIATIVE CONTRO SCANZI - CHE FARA’ TRAVAGLIO? - LE SCUSE E LA PRECISAZIONE DI SCANZI - VIDEO!