MOGLI E "BOT" DEI PAESI TUOI - LA CINA VUOLE LANCIARE UN MODELLO DI INTELLIGENZA ARTIFICIALE FATTO IN CASA, CHE "DEVE ADERIRE AI VALORI DEL SOCIALISMO E NON INCITARE ALLA SOVVERSIONE DEL POTERE STATALE", MA L'IMPRESA NON È PER NIENTE SEMPLICE - RICCARDO LUNA: "NEMMENO GLI AUTORI DEGLI ALGORITMI SONO IN GRADO DI SPIEGARE PERCHÉ ARRIVANO CERTE RISPOSTE E NON ALTRE..."

-

Condividi questo articolo


cina intelligenza artificiale. 5 cina intelligenza artificiale. 5

Estratto dell'articolo di Riccardo Luna per “la Stampa”

 

Nel grande circo di Chat Gpt e i suoi fratelli, ci mancava solo l'intelligenza artificiale generativa cinese. […] Una bozza di regolamento era stata pubblicata tre mesi fa: lì per la prima volta si parlava dell'esigenza di sviluppare dei modelli che rispettassero «i valori chiave del socialismo». […]

 

Rispetto al testo iniziale, «le misure provvisorie per la gestione dei servizi di intelligenza artificiale generativa», approvate il 13 luglio scorso dall'Ufficio cinese del cyberspazio, sembrano leggermente ammorbidite: non si fa cenno alla sanzioni (prima era prevista una multa di 100 mila yuan per ogni violazione); e la scelta delle parole è un po' più generica, meno stringente (per esempio riguarda solo chi fornisce questi servizi al pubblico).

XI JINPING XI JINPING

 

Inoltre si ripete più volte che la Cina ci tiene un sacco all'innovazione, che non intende strangolare le startup e i ricercatori di un mercato che sta esplodendo e del quale non possono fare a meno. […] Il passaggio chiave del nuovo regolamento è il primo comma dell'articolo quattro che recita: «La fornitura e l'utilizzo di servizi di intelligenza artificiale generativa devono… aderire ai valori fondamentali del socialismo e non incitare alla sovversione del potere statale, rovesciare il sistema socialista…» […]

cina intelligenza artificiale. 4 cina intelligenza artificiale. 4

 

La cosa può far sorridere o inorridire eppure è ovvia per un Paese che da moltissimi anni ha creato una muraglia digitale (cyberwall) attorno ai propri confini in modo che i propri cittadini possano usare una versione socialista di Internet: […] i contenuti sono rigidamente controllati, o meglio censurati. […]

 

Insomma era scontato immaginare che ci sarebbe stato un Chat GPT cinese visto che l'uso di quello originale è vietato (in Cina lo scorso anno si è registrato l'unico caso di un cittadino arrestato per aver usato Chat GPT). Quello che si vuole evitare in pratica è che accada quello che è accaduto qualche giorno fa con il chatbot di una startup cinese che alla domanda di rito su Xi Jinping, ha risposto «che ha ridotto la libertà e i diritti civili dei cinesi». […]

cina intelligenza artificiale. 2 cina intelligenza artificiale. 2

 

Va detto che è normale che ciascun Paese tenti di "allineare" questi modelli linguistici ai propri valori e alla propria cultura: accadrà anche con i Paesi islamici e accade da noi, in Italia. […] Il vero punto è che questa sfida è tecnicamente molto complessa.

 

cina intelligenza artificiale. 3 cina intelligenza artificiale. 3

Nemmeno gli autori degli algoritmi che stanno dietro i modelli linguistici sono in grado di spiegare perché arrivano certe risposte e non altre; e perché a volte, con una frequenza tutt'altro che trascurabile, ci siano allucinazioni, ovvero risposte verosimili ma totalmente inventate. Per evitare questa deriva ci sono alcuni accorgimenti: il primo è bloccare certe richieste (i prompt). Nel caso cinese è quindi possibile predisporre la macchina in modo che a tutte le domanda su Xi Jinping dia una risposta di un certo tipo (e che magari di Tienanmen dica che è soltanto una bella piazza dove passeggiare).

 

cina intelligenza artificiale. 3 cina intelligenza artificiale. 3

È possibile, lo faranno, ma non è sufficiente. L'altra misura da prendere è il controllo dei dati su cui la macchina di addestra e da cui deriva la sua risposta: il comma 1 dell'articolo 7 delle nuove Misure dice che chi sviluppa questi modelli deve «utilizzare dati e modelli di base provenienti da fonti legali». Insomma, […], basta addestrare gli algoritmi su articoli della propaganda cinese, e il gioco è fatto.Epperò potrebbe ancora non bastare: […] è stato dimostrato più volte che è possibile ingannare gli algoritmi e ottenere risposte vietate.

cina intelligenza artificiale. 2 cina intelligenza artificiale. 2 cina intelligenza artificiale. 1 cina intelligenza artificiale. 1

 

 

Condividi questo articolo

ultimi Dagoreport

DAGOREPORT – PERCHÉ ENRICO PAZZALI, NONOSTANTE UN RAPPORTO DI “AMICIZIA DI VECCHIA DATA” CON IGNAZIO LA RUSSA, HA CERCATO NOTIZIE "SULLA SITUAZIONE IMMOBILIARE E LE PARTECIPAZIONI SOCIETARIE" DEL PRESIDENTE DEL SENATO E I SUOI FIGLI? A FAR RIZZARE PELI E CAPELLI, È LA DATA DELL'ILLECITA OPERAZIONE: 19 MAGGIO 2023. VALE A DIRE: IL GIORNO DOPO LA NOTTE IN CUI IL FIGLIO DI ‘GNAZIO, LEONARDO APACHE, AVREBBE STUPRATO (SECONDO L’ACCUSA DELLA PRESUNTA VITTIMA) UNA RAGAZZA. MA IL 19 MAGGIO 2023 NESSUNO SAPEVA QUELLO CHE ERA AVVENUTO: SOLO 40 GIORNI DOPO LA RAGAZZA PRESENTA UNA QUERELA. IL 3 LUGLIO LA PROCURA DI MILANO APRE UN FASCICOLO. IL 7 LUGLIO IL "CORRIERE" PUBBLICA LA NOTIZIA - QUALCUNO VOCIFERA CHE DI MEZZO POTREBBE ESSERCI L’ASPRA BATTAGLIA TRA LEGA E FDI, TRA SALVINI-FONTANA E LA RUSSA-SANTACHE' PER LA CONQUISTA DELLA SANITA' LOMBARDA. ALTRI SONO PER LA TESI DELL'ESTORSIONE: MA PER 'GNAZIO ''NON SI TRATTA DI COINCIDENZE" - CHE C’ENTRA UN PREFETTO A CAPO DELLA CYBERSECURITY NAZIONALE? CHIEDETELO A MANTOVANO...

DAGOREPORT - VIVA IL POPOLO, A MORTE I CONTI! IL GOVERNO DUCIONI, NEL SUO CONTINUO TENTATIVO DI STRAVOLGERE L’ASSETTO COSTITUZIONALE, HA PUNTATO ORA LA CORTE DEI CONTI, OVVERO I MAGISTRATI CHE HANNO COME COMPITO PRIMARIO IL CONTROLLO DEI CONTI DEL PAESE – C’È GRANDISSIMA PREOCCUPAZIONE TRA I MAGISTRATI DELLA CORTE PER LA RIFORMA CHE PASSA CON IL NOME DI DDL FOTI, CHE SVUOTA LE FUNZIONI DELLA CORTE - LA DUCETTA NON SI FERMA. E INIZIA UN ALTRO ATTACCO ALLA MAGISTRATURA. CHE COSA FARÀ IL PRESIDENTE MATTARELLA?

DAGOREPORT - LA SCONFITTA IN LIGURIA CONTE PUÒ TATUARSELA SULLA COSCIENZA. UN GIOCO AL MASSACRO, QUELLO DEL M5S, CHE SI TRASFORMA IN FARSA, VISTO CHE ITALIA VIVA, ESCLUSA CON IGNOMINIA DALL’ALLEANZA ELETTORALE IN LIGURIA, SARÀ PRESENTE A SUPPORTO DEL CAMPOLARGO SIA IN UMBRIA CHE IN EMILIA ROMAGNA – LA FORZA CHE MANCHERA’ SEMPRE ALLA SINISTRA SI CHIAMA “FATTORE BERLUSCONI”. OVVERO: PUR NELLA TOTALE DIVERSITÀ DI IDEE, NEL MOMENTO DECISIVO FORZA ITALIA, LEGA E FRATELLI D’ITALIA SI UNISCONO PER INCASSARE LA CUCCAGNA DEL POTERE - LA SOLITA PARACULAGGINE CON CUI GIORGIA MELONI HA PROVATO A GIUSTIFICARE LA PERDITA DI QUASI 100MILA VOTI RISPETTO ALLE EUROPEE - LA LEZIONE PIÙ EVIDENTE DEL VOTO LIGURE È CHE IL PD, CHE ELLY VUOLE FAR TORNARE UN PARTITO DI SINISTRA, SENZA UN SOLIDO ALLEATO DI CENTRO VA A SBATTERE - SE IL GOVERNO DUCIONI PORTA A CASA IL 3 A 0...