HACKER CONTRO INTELLIGENZA ARTIFICIALE: CHI LA SPUNTERÀ? – LA CASA BIANCA HA ARRUOLATO 4MILA PIRATI INFORMATICI PER UN “CRASH TEST” SULLE PIATTAFORME DI AI: AL DEF-CON DI LAS VEGAS, GLI SMANETTONI CERCHERANNO DI SCOPRIRE LE VULNERABILITÀ DI CHATGPT E DEGLI ALTRI SOFTWARE, CON L’OK DEI LORO SVILUPPATORI - I CREATORI DELL’INTELLIGENZA ARTIFICIALE HANNO CAPITO CHE IL SOFTWARE È FACILMENTE MANIPOLABILE, E POTREBBE AVERE UN EFFETTO DIROMPENTE ALLE ELEZIONI DEL 2024…

-

Condividi questo articolo


Estratto dell’articolo di Massimo Gaggi per il “Corriere della Sera”

 

google bard chatgpt 2 google bard chatgpt 2

L’intelligenza artificiale di ChatGpt sviluppata da OpenAI, e quelle di Google, Microsoft, Nvidia e di altre start up come Anthropic e Stability AI, verranno date in pasto a 4.000 hackers che cercheranno di scoprire le loro vulnerabilità e di scavalcare le barriere di sicurezza dei soft-ware. Un crash test che servirà ai giganti dell’AI per individuare i punti deboli dei loro modelli large language e tentare di correre ai ripari.

 

sam altman 9 sam altman 9

L’idea di trasformare Def-Con 2023, la grande fiera della sicurezza informatica che si tiene ogni anno in agosto a Las Vegas, nel più vasto test di cybersecurity mai tentato al mondo è partita da tre attivisti del web: Rummar Chowdhury, direttrice di Humane Intelligence, una non profit impegnata nello sviluppo di piattaforme AI affidabili, controllate dall’uomo; il fondatore dell’AI Village di DefCon, Sven Cottell, e Austin Carson, capo della non profit SeedAI.

 

Tutto è cominciato con un progetto pilota: un seminario nel quale un gruppo di studenti […] è stato invitato a tentare di hackerare alcuni modelli di intelligenza artificiale. I risultati positivi dell’esperimento hanno spinto a ripeterlo a marzo in Texas, al tech festival South by Southwest di Austin.

 

hacker in azione hacker in azione

Ad Austin c’erano anche gli esperti della direzione Scienza e Tecnologia della Casa Bianca. Spaventati dall’emergere di vulnerabilità dei sistemi come il cosiddetto «exploit della nonna»: le istruzioni per costruire una bomba ottenute non chiedendole direttamente all’AI, operazione bloccata dai filtri, ma indirettamente, mascherandole da favola raccontata dalla nonna ai nipotini.

 

I tecnici del governo hanno preso atto dei vantaggi un ricorso a tappeto ai read team: squadre di hacker «certificati» che lavorano in simbiosi con le industrie. Così quello che solo poche settimane prima era parso agli attivisti della rete un sogno irrealizzabile — coinvolgere la Casa Bianca in un progetto gestito da hacker, cioè da scassinatori del web, anche se ravveduti — è diventato una possibilità concreta.

 

hacker 5 hacker 5

[…] già a DefCon 2022, infatti, i militari del Pentagono avevano affidato agli hacker una verifica della tenuta dei sistemi di difesa di reti elettriche da possibili attacchi cibernetici. Sembrava assai più difficile convincere i giganti del web a mostrare agli hacker i loro codici segreti. La tendenza più recente, infatti, è quella opposta.

 

OpenAI, nata da un progetto filantropico con l’obiettivo di creare un sistema senza segreti, open source, ora ha cambiato rotta: dice di essersi resa conto di aver realizzato un software potente, pericoloso, facilmente manipolabile (oltre che di grande valore economico). Decisivo è stato il vertice riunito la settimana scorsa alla Casa Bianca. I capi delle aziende più avanzate nel campo dell’AI — a partire da Sam Altman di OpenAI — per una volta non si sono opposti all’introduzione di vincoli, ma, anzi, si sono mostrati assai preoccupati soprattutto per i rischi di un uso malevolo di ChatGpt e dei suoi fratelli nelle elezioni presidenziali Usa del 2024.

google bard chatgpt 1 google bard chatgpt 1

 

Così anche Microsoft, Google e gli altri hanno accettato di aprire i loro sistemi. In questo modo le aziende si espongono a rischi non irrilevanti, ma hanno capito che […] anche la ricerca dei modi nei quali i loro bot possono essere manipolati […] richiede l’impegno di un numero molto elevato di «sfidanti»: gli hacker, appunto. Appuntamento, dunque, ai primi di agosto nella torrida Las Vegas.

chatbot 4 chatbot 4 il ritorno di ChatGpt in Italia il ritorno di ChatGpt in Italia chatgpt openal chatgpt openal chatgpt chatgpt

 

Condividi questo articolo

ultimi Dagoreport

VENETO DI PASSIONE PER SALVINI – IL “CAPITONE” PROVA AD ALZARE LA CRESTA E USCIRE DALL’ANGOLO: “CHIEDEREMO IL VENETO E IL TERZO MANDATO PER ZAIA”. MA SA BENE CHE IL DESTINO DELLA REGIONE, VERO FORTINO E CASSAFORTE DEL CARROCCIO, È SEGNATO: GIORGIA MELONI VUOLE METTERE LE MANI SUL NORD-EST. E COME DARLE TORTO? FORZA ITALIA CON L'8% GOVERNA PIEMONTE, SICILIA, BASILICATA E CALABRIA. LA LEGA, CON UNA PERCENTUALE SIMILE, HA IN MANO VENETO, LOMBARDIA E FRIULI. PERCHE' LEI, CHE GUIDA IL PARTITO DI MAGGIORANZA RELATIVA, DOVREBBE ACCONTENTARSI DI LAZIO, ABRUZZO E MARCHE? - LO PSICODRAMMA NEL CARROCCIO È INIZIATO DOPO CHE IL MITE LUCA ZAIA È USCITO ALLO SCOPERTO (“SE PERDIAMO QUI VA TUTTO A ROTOLI”). A VENEZIA SI PREPARA LA SCISSIONE, CON UNA “LISTA ZAIA”...

DAGOREPORT! MONTANELLI E FALLACI SCANSATEVE! AI GIORNALISTI DEL “CORRIERE DELLA SERA” SI INSEGNA A SCRIVERE IN MODO “INCLUSIVO” CON UN CORSO ON-LINE - L’ULTIMA FOLLIA DEL POLITICAMENTE CORRETTO APPLICATA ALL’EDITORIA SERVIRA’ PER APPRENDERE UN “USO NON SESSISTA DELLA LINGUA ITALIANA” E PER “EVITARE L’USO DEL MASCHILE SOVRAESTESO”: IN PRATICA, IL MATTINALE DEI CARABINIERI RISULTERÀ IN FUTURO MOLTO PIÙ ACCATTIVANTE DEI TITOLI INCLUSIVI - SUL LAVORO BISOGNA EVITARE LE MICRO-AGGRESSIONI, TIPO L’UOMO CHE SIEDE A GAMBE SPALANCATE (LA DONNA MAI?) - PER NON FARSI MANCARE NULLA ARRIVANO LE INDICAZIONI SU COME CHIAMARE I NERI E I TRANS -INSOMMA, CONTINUANDO CON QUESTA FINTA E IPOCRITA “ECOLOGIA DEL LINGUAGGIO” POI NON LAMENTATEVI SE TRIONFA TRUMP!