L’INTELLIGENZA ARTIFICIALE PRODUCE FAKE NEWS? – ELON MUSK HA DECISO DI TENERE SEGRETI I CODICI DELL’ALGORITMO DI “OPEN AI”: È TALMENTE INTELLIGENTE CHE È IN GRADO DI GENERARE TESTI PLAUSIBILI PARTENDO DA UN PARAGRAFO DI UN ARTICOLO DI GIORNALE – IN PRATICA L’ALGORITMO È IN GRADO DI SCRIVERE FAKE NEWS INDISTINGUIBILI DALLE NOTIZIE VERE – LA SOCIETÀ HA BLOCCATO TUTTO PRIMA CHE FOSSE TROPPO TARDI, MA… – VIDEO
Da www.ansa.it
Oltre a promuovere le fake news l'intelligenza artificiale può anche produrle, generando testi completamente indistinguibili da quelli che scriverebbe un umano. A realizzarla è stata Open Ai, la compagnia di ricerca no profit fondata da Elon Musk, che ha scelto di non rivelarne i dettagli per paura dei possibili usi fraudolenti, ad esempio per generare infinite recensioni positive o negative su un prodotto.
L'algoritmo, chiamato Gpt2, è un generatore di testi che è stato 'addestrato' con circa 10 milioni di articoli, scelti tra quelli i cui link avevano più di tre voti sulla piattaforma Reddit, una quantità 15 volte maggiore rispetto a quella usata normalmente per le Ai di questo tipo. Il risultato è che, dato un qualunque incipit, l'algoritmo riesce a proseguire scrivendo testi plausibili e senza gli errori che fanno normalmente le macchine. Una volta 'letti' i primi paragrafi di un articolo del Guardian sulla Brexit ad esempio, scrive il quotidiano che ha avuto accesso all'algoritmo, l'intelligenza artificiale è riuscita a completare l'articolo con dati e frasi plausibili, compresa una dichiarazione della premier Theresa May sull'"urgenza di uscire dall'Europa il prima possibile".
open ai algoritmo produce fake news
Questa qualità ha spinto OpenAi a tenere segreti i codici sorgente dell'algoritmo, spiega Jack Clark, il direttore della compagnia. "Dobbiamo prima fare altri esperimenti per capire cosa può o non può fare - afferma -. Ci sono molte persone molto più brave di noi a capire come può essere usata con intenti negativi".