robot killer

ALTRO CHE TERMINATOR – I ROBOT KILLER SONO REALTÀ. LE PREOCCUPAZIONI DELL'ESPERTO PAUL SCHARRE: “SENZA REGOLE COMINCERANNO A UCCIDERE SENZA ORDINI” – “SI POTREBBE SCATENARE UNA FLASH WAR, DOVE GLI ALGORITMI ORDINANO AI ROBOT DI APRIRE IL FUOCO PIÙ RAPIDAMENTE DI QUALSIASI POSSIBILITÀ UMANA DI FERMARLI” – ALMENO SEDICI PAESI SONO PRONTI PER…

robot killer

Michele Neri per "il Messaggero"

 

Siamo pronti per i robot killer? A campi di battaglia sulla terra, in acqua o in cielo dominati da strumenti di distruzione autonomi dal controllo umano? Per salvare la vita dei soldati, è lecito sviluppare tecnologie in grado di scegliere tra vita e morte senza sensi di colpa o rimorsi, e guidate da un' intelligenza artificiale e non umana?

 

robot killer 4

Queste domande non riguardano un futuro lontano, ma il presente e la più grande trasformazione nella natura dei conflitti nella storia. Più di trenta nazioni hanno sviluppato armamenti autonomi, per ora operanti sotto la supervisione umana; ma la spinta a renderli autosufficienti è alimentata da un' industria miliardaria.

 

paul scharre

Uno dei maggiori fornitori del governo russo ha annunciato lo studio di un' arma capace di usare reti neurali per scegliere se sparare o meno. Sull' altro fronte, il Dipartimento della Difesa statunitense ha mostrato il video di uno stormo di cento droni autonomi sciamanti nel cielo californiano. Non c' era nessuno a controllarli. Si parla di centauri da guerra, capaci di combinare conoscenze umane e artificiali.

 

paul scharre army of none

È un tema complesso e in cui le informazioni ufficiali sono spesso tenute nascoste. Nessuno ne è a conoscenza più di Paul Scharre. A 38 anni, prima ranger dell' esercito in Afghanistan e Iraq, poi analista per il Pentagono, ora è direttore del Technology and National Security Program al Center for a New American Security di Washington. Ha raccolto dati aggiornati e preoccupazioni etiche in un saggio appena pubblicato, Army of None (Armi di nessuno).

 

Qual è la domanda più urgente da farsi?

«Alle macchine dovrebbe essere permesso di decidere della vita e della morte, senza un controllo umano?».

 

Quanto è urgente?

maars robot killer

«Ci sono almeno sedici Paesi che hanno sviluppato droni dotati di armamenti. E le industrie di una novantina di paesi stanno producendo una varietà infinita di armi potenzialmente indipendenti. Carri armati, sommergibili, droni, Stealth... La tecnologia perché la morte sia decisa in piena autonomia artificiale, esiste. Poche nazioni si sono dette contrarie, quasi tutte attendono di vedere gli sviluppi possibili. C' è così il rischio che la velocità della tecnologia superi quella della politica e di una necessaria regolamentazione etica. E non è l' unico».

terminator

 

Quali sono gli altri?

«Già adesso non sappiamo che cosa succederebbe se un sistema in grado di fare fuoco in autonomia finisse in una zona geografica in cui la comunicazione con la base, quindi con l' uomo, non funzionasse. Come reagirebbe? Si pensi poi ad altre due eventualità. Si sono evidenziati problemi rispetto all' individuazione del bersaglio. Un conto è capire la differenza tra target civili e umani se si tratta di veicoli, navi, eccetera. Ma a livello umano, il rischio di sbagliare è alto. Lo stesso per il fuoco amico: gli armamenti dell' avversario e i propri sono spesso costruiti dalle stesse industrie e indistinguibili. E c' è un fronte ancora più preoccupante. Come facciamo a essere sicuri che questi sistemi siano protetti dagli hackers e da un attacco cibernetico?».

 

robot killer 3

Come influisce l' instabilità politica di questi anni?

«Aumenta il rischio di un incidente. Per ora ogni Paese sostiene di non aver adottato sistemi completamente indipendenti. Il mio timore è che questa posizione potrebbe cambiare in un attimo se la percezione della sicurezza nazionale cambiasse radicalmente per effetto di una modificazione nell' ambiente politico circostante. Allora addio limiti morali».

 

Quali sono i Paesi più avanzati?

«Cina. Poi Usa, Russia, Corea del Sud, Regno Unito e Francia. Il singolo sistema autonomo più avanzato è di Israele, il drone Harop, già venduto a molti Paesi».

 

robot killer 2

Nel 2016 l' Azerbaigian l' ha usato nella regione del Nagorno-Karabah, colpendo un convoglio di soldati armeni. Potrebbe essere la prima volta che esseri umani sono stati uccisi da una macchina autonoma. Ce ne sono state altre?

«È difficile stabilirlo, perché si tende a dar subito la colpa all' uomo. Già nel 2003 un Patriot, dotato di un sistema d' ingaggio automatico, senza quindi la necessità dell' intervento umano, abbatté due aerei amici, uno americano a uno inglese».

robot killer 1

Nel libro parla della convergenza pericolosa tra sviluppo di armi autonome e progressi dell' intelligenza artificiale.

 

Quale potrebbe essere il pericolo?

«Com' è successo in Borsa, dove un baco nell' algoritmo ha creato un flash crash (un crollo lampo), si potrebbe scatenare una flash war, dove gli algoritmi interagiscono in modo non previsto, ordinando ai robot di aprire il fuoco e più rapidamente di qualsiasi umana possibilità di fermarli.

Quando le armi sono così veloci che diventa impossibile tener loro dietro, si parla di singolarità nei campi di battaglia».

 

Nel saggio descrive i rischi del fai da te. È facile costruirsi un drone killer in garage?

robot killer russia 4

«Sì. Online si trova tutto. Per il software basta uno con la laurea breve in informatica».

 

Quanto ci vuole?

«Mille dollari».

 

Cinque anni fa un gruppo di Ong, scienziati e attivisti, tra cui il Nobel per la pace Jody Williams, ha avviato una campagna internazionale per fermare i robot killer. A cosa ha portato?

«È stata fondamentale per provocare la discussione; ma per ora dalle riunioni sono uscite soltanto altre riunioni».

 

Ultimi Dagoreport

andrea orcel gaetano caltagirone carlo messina francesco milleri philippe 
donnet nagel generali

DAGOREPORT - BUM! ECCO LA RISPOSTA DI CALTAGIRONE ALLA MOSSA DI NAGEL CHE GLI HA DISINNESCATO LA CONQUISTA DI GENERALI - L’EX PALAZZINARO STA STUDIANDO UNA CONTROMOSSA LEGALE APPELLANDOSI AL CONFLITTO DI INTERESSI: È LEGITTIMO CHE SIA IL CDA DI GENERALI, APPENA RINNOVATO CON DIECI CONSIGLIERI (SU TREDICI) IN QUOTA MEDIOBANCA, A DECIDERE SULLA CESSIONE, PROPRIO A PIAZZETTA CUCCIA, DI BANCA GENERALI? - LA PROVA CHE IL SANGUE DI CALTARICCONE SI SIA TRASFORMATO IN BILE È NELL’EDITORIALE SUL “GIORNALE” DEL SUO EX DIPENDENTE AL “MESSAGGERO”, OSVALDO DE PAOLINI – ECCO PERCHÉ ORCEL HA VOTATO A FAVORE DI CALTARICCONE: DONNET L’HA INFINOCCHIATO SU BANCA GENERALI. QUANDO I FONDI AZIONISTI DI GENERALI SI SONO SCHIERATI A FAVORE DEL FRANCESE (DETESTANDO IL DECRETO CAPITALI DI CUI CALTA È STATO GRANDE ISPIRATORE CON FAZZOLARI), NON HA AVUTO PIU' BISOGNO DEL CEO DI UNICREDIT – LA BRUCIANTE SCONFITTA DI ASSOGESTIONI: E' SCESO IL GELO TRA I GRANDI FONDI DI INVESTIMENTO E INTESA SANPAOLO? (MAGARI NON SI SENTONO PIÙ TUTELATI DALLA “BANCA DI SISTEMA” CHE NON SI SCHIERERÀ MAI CONTRO IL GOVERNO MELONI)

giorgia meloni intervista corriere della sera

DAGOREPORT - GRAN PARTE DEL GIORNALISMO ITALICO SI PUÒ RIASSUMERE BENE CON L’IMMORTALE FRASE DELL’IMMAGINIFICO GIGI MARZULLO: “SI FACCIA UNA DOMANDA E SI DIA UNA RISPOSTA” -L’INTERVISTA SUL “CORRIERE DELLA SERA” DI OGGI A GIORGIA MELONI, FIRMATA DA PAOLA DI CARO, ENTRA IMPERIOSAMENTE NELLA TOP PARADE DELLE PIU' IMMAGINIFICHE MARZULLATE - PICCATISSIMA DI ESSERE STATA IGNORATA DAI MEDIA ALL’INDOMANI DELLE ESEQUIE PAPALINE, L’EGO ESPANSO DELL’UNDERDOG DELLA GARBATELLA, DIPLOMATA ALL’ISTITUTO PROFESSIONALE ARRIGO VESPUCCI, È ESPLOSO E HA RICHIESTO AL PRIMO QUOTIDIANO ITALIANO DUE PAGINE DI ‘’RIPARAZIONE’’ DOVE SE LA SUONA E SE LA CANTA - IL SUO EGO ESPANSO NON HA PIÙ PARETI QUANDO SI AUTOINCORONA “MEDIATRICE” TRA TRUMP E L'EUROPA: “QUESTO SÌ ME LO CONCEDO: QUALCHE MERITO PENSO DI POTER DIRE CHE LO AVRÒ AVUTO COMUNQUE...” (CIAO CORE!)

alessandro giuli bruno vespa andrea carandini

DAGOREPORT – CHI MEGLIO DI ANDREA CARANDINI E BRUNO VESPA, GLI INOSSIDABILI DELL’ARCHEOLOGIA E DEL GIORNALISMO, UNA ARCHEOLOGIA LORO STESSI, POTEVANO PRESENTARE UN LIBRO SULL’ANTICO SCRITTO DAL MINISTRO GIULI? – “BRU-NEO” PORTA CON SÉ L’IDEA DI AMOVIBILITÀ DELL’ANTICO MENTRE CARANDINI L’ANTICO L’HA DAVVERO STUDIATO E CERCA ANCORA DI METTERLO A FRUTTO – CON LA SUA PROSTRAZIONE “BACIAPANTOFOLA”, VESPA NELLA PUNTATA DI IERI DI “5 MINUTI” HA INANELLATO DOMANDE FICCANTI COME: “E’ DIFFICILE PER UN UOMO DI DESTRA FARE IL MINISTRO DELLA CULTURA? GIOCA FUORI CASA?”. SIC TRANSIT GLORIA MUNDI – VIDEO

banca generali lovaglio francesco gaetano caltagirone philippe donnet alberto nagel milleri

DAGOREPORT - DA QUESTA MATTINA CALTAGIRONE HA I SUDORI FREDDI: SE L’OPERAZIONE DI ALBERTO NAGEL ANDRÀ IN PORTO (SBARAZZARSI DEL CONCUPITO “TESORETTO” DI MEDIOBANCA ACQUISENDO BANCA GENERALI DAL LEONE DI TRIESTE), L’82ENNE IMPRENDITORE ROMANO AVRÀ BUTTATO UN PACCO DI MILIARDI PER RESTARE SEMPRE FUORI DAL “FORZIERE D’ITALIA’’ - UN FALLIMENTO CHE SAREBBE PIÙ CLAMOROSO DEI PRECEDENTI PERCHÉ ESPLICITAMENTE SOSTENUTO DAL GOVERNO MELONI – A DONNET NON RESTAVA ALTRA VIA DI SALVEZZA: DARE UNA MANO A NAGEL (IL CEO DI GENERALI SBARRÒ I TENTATIVI DI MEDIOBANCA DI ACQUISIRE LA BANCA CONTROLLATA DALLA COMPAGNIA ASSICURATIVA) - PER SVUOTARE MEDIOBANCA SOTTO OPS DI MPS DEL "TESORETTO" DI GENERALI, VA BYPASSATA LA ‘’PASSIVITY RULE’’ CONVOCANDO  UN’ASSEMBLEA STRAORDINARIA CHE RICHIEDE UNA MAGGIORANZA DEL 51% DEI PRESENTI....

volodymyr zelensky donald trump vladimir putin moskva mar nero

DAGOREPORT - UCRAINA, CHE FARE? LA VIA PER ARRIVARE A UNA TREGUA È STRETTISSIMA: TRUMP DEVE TROVARE UN ACCORDO CHE PERMETTA SIA A PUTIN CHE A ZELENSKY DI NON PERDERE LA FACCIA – SI PARTE DALLA CESSIONE DELLA CRIMEA ALLA RUSSIA: SAREBBE UNO SMACCO TROPPO GRANDE PER ZELENSKY, CHE HA SEMPRE DIFESO L’INTEGRITÀ TERRITORIALE UCRAINA. TRA LE IPOTESI IN CAMPO C'E' QUELLA DI ORGANIZZARE UN NUOVO REFERENDUM POPOLARE NELLE ZONE OCCUPATE PER "LEGITTIMARE" LO SCIPPO DI SOVRANITA' - MA SAREBBE UNA VITTORIA TOTALE DI PUTIN, CHE OTTERREBBE TUTTO QUEL CHE CHIEDE SENZA CONCEDERE NIENTE…