HACKER CONTRO INTELLIGENZA ARTIFICIALE: CHI LA SPUNTERÀ? – LA CASA BIANCA HA ARRUOLATO 4MILA PIRATI INFORMATICI PER UN “CRASH TEST” SULLE PIATTAFORME DI AI: AL DEF-CON DI LAS VEGAS, GLI SMANETTONI CERCHERANNO DI SCOPRIRE LE VULNERABILITÀ DI CHATGPT E DEGLI ALTRI SOFTWARE, CON L’OK DEI LORO SVILUPPATORI - I CREATORI DELL’INTELLIGENZA ARTIFICIALE HANNO CAPITO CHE IL SOFTWARE È FACILMENTE MANIPOLABILE, E POTREBBE AVERE UN EFFETTO DIROMPENTE ALLE ELEZIONI DEL 2024…

-

Condividi questo articolo


Estratto dell’articolo di Massimo Gaggi per il “Corriere della Sera”

 

google bard chatgpt 2 google bard chatgpt 2

L’intelligenza artificiale di ChatGpt sviluppata da OpenAI, e quelle di Google, Microsoft, Nvidia e di altre start up come Anthropic e Stability AI, verranno date in pasto a 4.000 hackers che cercheranno di scoprire le loro vulnerabilità e di scavalcare le barriere di sicurezza dei soft-ware. Un crash test che servirà ai giganti dell’AI per individuare i punti deboli dei loro modelli large language e tentare di correre ai ripari.

 

sam altman 9 sam altman 9

L’idea di trasformare Def-Con 2023, la grande fiera della sicurezza informatica che si tiene ogni anno in agosto a Las Vegas, nel più vasto test di cybersecurity mai tentato al mondo è partita da tre attivisti del web: Rummar Chowdhury, direttrice di Humane Intelligence, una non profit impegnata nello sviluppo di piattaforme AI affidabili, controllate dall’uomo; il fondatore dell’AI Village di DefCon, Sven Cottell, e Austin Carson, capo della non profit SeedAI.

 

Tutto è cominciato con un progetto pilota: un seminario nel quale un gruppo di studenti […] è stato invitato a tentare di hackerare alcuni modelli di intelligenza artificiale. I risultati positivi dell’esperimento hanno spinto a ripeterlo a marzo in Texas, al tech festival South by Southwest di Austin.

 

hacker in azione hacker in azione

Ad Austin c’erano anche gli esperti della direzione Scienza e Tecnologia della Casa Bianca. Spaventati dall’emergere di vulnerabilità dei sistemi come il cosiddetto «exploit della nonna»: le istruzioni per costruire una bomba ottenute non chiedendole direttamente all’AI, operazione bloccata dai filtri, ma indirettamente, mascherandole da favola raccontata dalla nonna ai nipotini.

 

I tecnici del governo hanno preso atto dei vantaggi un ricorso a tappeto ai read team: squadre di hacker «certificati» che lavorano in simbiosi con le industrie. Così quello che solo poche settimane prima era parso agli attivisti della rete un sogno irrealizzabile — coinvolgere la Casa Bianca in un progetto gestito da hacker, cioè da scassinatori del web, anche se ravveduti — è diventato una possibilità concreta.

 

hacker 5 hacker 5

[…] già a DefCon 2022, infatti, i militari del Pentagono avevano affidato agli hacker una verifica della tenuta dei sistemi di difesa di reti elettriche da possibili attacchi cibernetici. Sembrava assai più difficile convincere i giganti del web a mostrare agli hacker i loro codici segreti. La tendenza più recente, infatti, è quella opposta.

 

OpenAI, nata da un progetto filantropico con l’obiettivo di creare un sistema senza segreti, open source, ora ha cambiato rotta: dice di essersi resa conto di aver realizzato un software potente, pericoloso, facilmente manipolabile (oltre che di grande valore economico). Decisivo è stato il vertice riunito la settimana scorsa alla Casa Bianca. I capi delle aziende più avanzate nel campo dell’AI — a partire da Sam Altman di OpenAI — per una volta non si sono opposti all’introduzione di vincoli, ma, anzi, si sono mostrati assai preoccupati soprattutto per i rischi di un uso malevolo di ChatGpt e dei suoi fratelli nelle elezioni presidenziali Usa del 2024.

google bard chatgpt 1 google bard chatgpt 1

 

Così anche Microsoft, Google e gli altri hanno accettato di aprire i loro sistemi. In questo modo le aziende si espongono a rischi non irrilevanti, ma hanno capito che […] anche la ricerca dei modi nei quali i loro bot possono essere manipolati […] richiede l’impegno di un numero molto elevato di «sfidanti»: gli hacker, appunto. Appuntamento, dunque, ai primi di agosto nella torrida Las Vegas.

chatbot 4 chatbot 4 il ritorno di ChatGpt in Italia il ritorno di ChatGpt in Italia chatgpt openal chatgpt openal chatgpt chatgpt

 

Condividi questo articolo

ultimi Dagoreport

A MILANO DA MESI GIRA UNA VOCE INSISTENTE: NON È CHE FABRIZIO CORONA STA LAVORANDO PER RIPULIRE L’IMMAGINE DI FEDEZ? – “FURBIZIO” È STATO IL PRIMO A DARE NOTIZIA DELL’ACCORDO ECONOMICO TRA IL RAPPER E CRISTIANO IOVINO, IL PERSONAL TRAINER MENATO DA FEDEZ E I SUOI AMICHETTI. POI SI È LANCIATO IN UNA DIFESA A SPADA TRATTA DELL’EX SIGNOR FERRAGNEZ DOPO CHE I SUOI AMICI ULTRAS SONO FINITI IN CARCERE: “I GIORNALI VI VENDONO MERDA. VOI NON LO CONOSCETE” – ORA L’ULTIMO ATTO CON L’EX RE DEI PAPARAZZI CHE RIVELA: “DIETRO IL VIAGGIO DI FEDEZ A NEW YORK C’È UN PROGETTO DAVVERO GROSSO”. VOGLIAMO SCOMMETTERE CHE TRA NON MOLTO “FURBIZIO” CE NE DARÀ CONTO?

DAGOREPORT - NEI CORRIDOI DI VIALE MAZZINI VIENE DATA PER CERTA SIMONA AGNES ALLA PRESIDENZA RAI IN VIRTÙ DEL PRONTO SOCCORSO M5S, IN CAMBIO DEL TG3 - MA IL DO UT DES, DEFINITIVA LAPIDE PER EVENTUALI ALLEANZE COL PD, NON SARÀ IMMINENTE: PRIMA DELL’ASSEMBLEA COSTITUENTE DI FINE NOVEMBRE, C'E' IL VOTO DEL 17 PROSSIMO PER LA REGIONE UMBRIA - SE I GRILLINI PURI E DURI NOSTALGICI DI BEPPE-MAO, DISERTASSERO LE URNE, COME È SUCCESSO IN LIGURIA, RIUSCIREBBE CONTE A SOPRAVVIVERE ALL'ENNESINO BRUCIANTE TRACOLLO ELETTORALE A POCHI GIORNI DALLA COSTITUENTE? AH, SAPERLO...

DAGOREPORT – FIATO AI TROMBONI! IL 6 E IL 7 NOVEMBRE ANDRÀ IN SCENA A ROMA UN GROTTESCO SPETTACOLO DI ITALICA IPOCRISIA: GLI STATI GENERALI DELLA RAI, DUE GIORNI PER DISCUTERE ‘’COME TENERE LA POLITICA FUORI DALLA RAI’’ (SEMBRA CROZZA MA È COSÌ…) - A CHE SERVE TALE GIGANTESCA PRESA PER IL CULO CHE VEDRÀ OSPITI LA RUSSA, GIULI, VESPA, FLORIS, GRASSO, TRAVAGLIO, SECHI, SCHLEIN, SALVINI, URSO, TAJANI, ETC., VOLUTA DALLA CURVACEA PRESIDENTE DELLA VIGILANZA RAI, LA 5STELLE BARBARA FLORIDIA? - NON È UN MISTERO L’OBIETTIVO DI CONTE DI ACCAPARRARSI IL TG3 IN CAMBIO DEL VOTO A FAVORE DEL CARTONATO DI GIANNA LETTA, SIMONA AGNES, IN TREPIDA ATTESA DELLA PRESIDENZA RAI - MA CONTE SI RITROVA I NEURONI DIVISI TRA GOFFREDO BETTINI E MARCO TRAVAGLIO, MENTRE BEPPE GRILLO LO ASPETTA AL VARCO DELLA COSTITUENTE (MUOIA M5S CON TUTTI I FILISTEI) - LA PRECISAZIONE DELLA FLORIDIA...

DAGOREPORT – PERCHÉ ENRICO PAZZALI, NONOSTANTE UN RAPPORTO DI “AMICIZIA DI VECCHIA DATA” CON IGNAZIO LA RUSSA, HA CERCATO NOTIZIE "SULLA SITUAZIONE IMMOBILIARE E LE PARTECIPAZIONI SOCIETARIE" DEL PRESIDENTE DEL SENATO E I SUOI FIGLI? A FAR RIZZARE PELI E CAPELLI, È LA DATA DELL'ILLECITA OPERAZIONE: 19 MAGGIO 2023. VALE A DIRE: IL GIORNO DOPO LA NOTTE IN CUI IL FIGLIO DI ‘GNAZIO, LEONARDO APACHE, AVREBBE STUPRATO (SECONDO L’ACCUSA DELLA PRESUNTA VITTIMA) UNA RAGAZZA. MA IL 19 MAGGIO 2023 NESSUNO SAPEVA QUELLO CHE ERA AVVENUTO: SOLO 40 GIORNI DOPO LA RAGAZZA PRESENTA UNA QUERELA. IL 3 LUGLIO LA PROCURA DI MILANO APRE UN FASCICOLO. IL 7 LUGLIO IL "CORRIERE" PUBBLICA LA NOTIZIA - QUALCUNO VOCIFERA CHE DI MEZZO POTREBBE ESSERCI L’ASPRA BATTAGLIA TRA LEGA E FDI, TRA SALVINI-FONTANA E LA RUSSA-SANTACHE' PER LA CONQUISTA DELLA SANITA' LOMBARDA. ALTRI SONO PER LA TESI DELL'ESTORSIONE: MA PER 'GNAZIO ''NON SI TRATTA DI COINCIDENZE" - CHE C’ENTRA UN PREFETTO A CAPO DELLA CYBERSECURITY NAZIONALE? CHIEDETELO A MANTOVANO...