SI E' ASSOTTIGLIATO IL CONFINE TRA VERITA' E FINZIONE - LA DIFFUSIONE DEI SOFTWARE PER CREARE DEEPFAKE E' UNA DELLE PRINCIPALI MINACCE ALLA DEMOCRAZIA E ALLA REPUTAZIONE PERSONALE DI VIP E PERSONE COMUNI - SARA' SEMPRE PIÙ DIFFICILE DISTINGUERE CIO' CHE E' VERO DALLE MANIPOLAZIONI - L'ULTIMA TROVATA È "BIKINI OFF", CHE PERMETTE DI RIMUOVERE I VESTITI DA QUALSIASI IMMAGINE - ANCHE I CREATORI DELL'APP "MIDJOURNEY" SI STANNO RENDENDO CONTO DEI RISCHI DEL PROGRAMMA E CORRONO AI RIPARI…
Estratto dell'articolo di Raffaele D'Ettorre per “il Messaggero”
Papa Francesco che indossa un elegante piumino bianco, Trump che scappa braccato dalla polizia newyorchese, Putin in ginocchio davanti a Xi Jinping. […] si tratta di falsi clamorosi, ma sui social sono stati in tantissimi ad esserci cascati.
Difficile biasimarli però, perché con il rilascio della versione 5 di Midjourney […] il confine tra realtà e finzione su internet si è assottigliato fin quasi a scomparire. Ormai di software generativi non c'è che l'imbarazzo della scelta […] ma è indubbio che all'ondata di nuovi fake abbia contribuito proprio la facilità d'uso di Midjourney.
CONTROMISURE
Fino a poco tempo fa chiunque poteva generare gratuitamente immagini semplicemente accedendo alla piattaforma e inserendo alcune parole chiave. Ma adesso l'azienda proprietaria ha interrotto la prova gratuita (per usare il software bisognerà pagare almeno 7 euro al mese), nel tentativo di arginare il recente afflusso di nuovi curiosi (3 milioni di visitatori solo a marzo) e contenere i rischi dovuti alla massificazione incontrollata di questa nuova tecnologia.
«Stiamo assistendo a quella che in gergo viene chiamata la "customerization" spiega Matteo Flora, imprenditore, divulgatore e docente a contratto presso l'università di Pavia cioè il processo per cui strumenti che prima erano appannaggio esclusivo di chi aveva budget e competenze estremamente elevati, oggi sono alla portata di tutti».
DEEP LEARNING
E dove non arriva l'IA generativa intervengono i cosiddetti "deepfake", […] Oggi possiamo «facilmente montare la faccia di qualcuno sul filmato di una rapina e farlo sembrare vero spiega Flora - bastano una app e una scheda grafica da gaming. Più una manciata di nostre foto, di cui i social ormai sono stracolmi». Un esempio di deepfake è la app BikiniOff, che permette di rimuovere facilmente i vestiti da qualsiasi immagine.
E che due studenti di una scuola media romana hanno recentemente usato per "spogliare" alcune compagne di classe, finendo al vaglio della procura. […] Su TikTok sono diventati un problema talmente serio che ByteDance è dovuta intervenire stabilendo che tutti i deepfake devono essere «chiaramente indicati» nella descrizione del video, pena il blocco dell'account.
FILIGRANA
Linee guida simili sui contenuti "sintetici" (cioè manipolati) sono state introdotte anche su Facebook, Twitter e YouTube. Ma basteranno queste contromisure ad arginare il dilagare di falsi in un periodo storico in cui il 49,1% degli Italiani tra i 16 e i 64 anni si affida ai social […] come fonte numero uno di informazione? Per contrastare il fenomeno, c'è già chi ragiona sull'uso di una filigrana che contraddistingua le immagini originali da quelle artificiali. O sull'implementazione di restrizioni che blocchino l'uso di determinate parole chiave sui software generativi. «Tutto inutile chiosa Flora ormai questa tecnologia è open source. Non si possono bloccare algoritmi e conoscenze che milioni di persone al mondo hanno già scaricato e che possono facilmente modificare».
DIAVOLERIE
In realtà qualche trucco per individuare i fake ancora c'è. Mani con 4 dita, tonalità della pelle innaturali o volti sfocati sono tutti chiari indicatori di un'immagine sintetica. Ma la verità è che stiamo pian piano insegnando alle macchine a mentire sempre meglio, e anche questi ultimi indizi presto scompariranno[…]
