Angelo Allegri per ''il Giornale''
CHI FAR MORIRE PRIMA
Preferireste uccidere una donna anziana o un grassone? Messa così, la domanda suona assurda e anche un po' perversa. In realtà la questione è serissima e a occuparsene sia pure indirettamente, sono stati fior di filosofi, come Tommaso d' Aquino o Immanuel Kant. Nel corso del Novecento il problema è stato sintetizzato nella sua forma più semplice come «dilemma del carrello ferroviario» (in inglese «trolley problem»): un treno marcia a tutta velocità in direzione di uno scambio da cui si dipartono due linee.
Sulla prima sono legati quattro uomini, su una diramazione laterale l' uomo legato è uno solo. Fermare i vagoni è impossibile, ma voi avete in mano la leva dello scambio. Se non fate niente quattro persone moriranno, se azionate l' ingranaggio il treno scarterà lateralmente e ucciderete un uomo solo. Che cosa decidete? Trovare una soluzione consapevole presuppone lo studio di complessi giudizi etici sul concetto di male minore.
Il tema è interessante, si potrebbe pensare, ma è anche destinato a rimanere puramente teorico e di nessuna rilevanza pratica. E invece no.
Perché da quando si sono iniziate a progettare le prime auto senza conducente la questione è diventata concretissima.
I «cervelloni» delle driverless car devono essere programmati per ogni evenienza, persino quella in cui si ripropone il dilemma del trolley. Su strada la questione può presentarsi in modi diversi: la macchina è lanciata in velocità e si rompono i freni. Sulle sempre più vicine strisce pedonali stanno attraversando due tipi di persone: da una parte un gruppo di anziani, dall' altra dei bambini. L' impatto è inevitabile, ma toccando il volante uno dei due gruppi si può salvare. Quale?
AUTO SENZA PILOTA
40 MILIONI DI RISPOSTE
Per rispondere a domande i questo tipo i programmatori della Silicon Valley hanno incominciato a occuparsi di dilemmi morali. E a interpellare università ed esperti. Tra questi ultimi c' è chi ha cercato di richiamarsi ai classici della filosofia e chi ha scelto strade alternative. Il Media Lab del Mit di Boston ha messo insieme una squadra di psicologi e di informatici e ha creato un sito, «Moral machine», ai cui visitatori vengono posti alcuni dilemmi del tipo illustrato sopra. L' obiettivo era avere un campione sulle preferenze della popolazione a livello internazionale.
Ma l' esperimento è diventato quasi un gioco di società, fino a raggiungere un successo inatteso: in poco tempo gli studiosi si sono trovati con 40 milioni di risposte provenienti da tutto il mondo. Un mega-sondaggio globale che si è trasformato anche in una dichiarazione dei valori. E allora, di fronte all' impatto di una macchina senza conducente e alla necessità di scegliere un sopavvissuto, chi verrebbe salvato per primo?
SALVATI E CONDANNATI
Le medie delle valutazioni raccolte nel mondo sono presentate nel grafico di queste pagine e al primo posto tra i «salvati» vengono scelti i pedoni che spingono un passeggino. Sulla stessa falsariga si situano le altre categorie che figurano ai primi posti: ragazzi, ragazze e donne incinte. Omaggi, in qualche modo prevedibili, alla sacralità della vita che sta per nascere o che è appena sbocciata. Più curiose invece le classi dei condannati, quelli che verrebbero più facilmente sacrificati all' ineluttabilità dell' impatto con un' auto senza conducente. Ai posti di retroguardia due animali, pure molto presenti nelle nostre case: i gatti (in assoluto ultimi in classifica), poi i cani.
AUTO SENZA PILOTA
Tra gli uomini due categorie che appaiono quasi al di fuori del contratto sociale, i criminali e i mendicanti senza fissa dimora. Infine gli anziani e la categoria più sorprendente, su cui pare pesare una sorta di inatteso stigma, i ciccioni. Con una particolarità ulteriore: all' interno della stessa classe (per esempio atleti o manager) in tutti i casi viene preferita la donna.
Tra i grassi, invece, è il contrario ed è la donna a raccogliere meno preferenze.
La violazione della legge dell' efficienza fisica viene però «sanzionata» in maniera diversa da cultura a cultura. Gli studiosi del Mit, che hanno presentato i risultati della ricerca in un articolo sulla rivista Nature hanno distinto per le loro differenze tre aree fondamentali: l' area europeo-statunitense (a prevalenza di religione cristiana), l' area orientale (prevalenza di musulmani e confuciani), l' area latino-americana (dal Messico alla Patagonia). Le diverse mentalità si riflettono anche sulle scelte delle categorie da salvare.
mayra rosales la donna piu grassa del mondo
Nell' area asiatica, per esempio, la preferenza per i giovani è molto meno pronunciata che a livello generale, segno con tutta evidenza del tradizionale rispetto per autorità ed esperienza diffuso nei Paesi asiatici. Il contrario avviene nell' area latino-americana dove i ragazzi e le donne ricevono molti più «voti» che altrove e invece i grassi vengono puniti più severamente. Le differenze socio-economiche si traducono in corrispondenti giudizi di valore: nei Paesi ad alta diseguaglianza figure ad alto status come manager o dottori vengono di gran lunga preferiti, mentre questo non accade in società ugualitarie come quelle scandinave. Paesi «orientali» come Arabia, Giappone, e Indonesia, condannano in modo implacabile i criminali.
ITALIA PIÙ UMANA CHE ANIMALISTA
Quanto ai singoli Paesi sono disponibili solo pochi dati. L' Italia si distingue per alcune specificità: è al quinto posto su 117 Paesi esaminati nelle preferenze per i giovani (prima in assoluto la Francia) e all' ottavo posto tra chi nella scelta tra umani e animali sacrifica senza problemi questi ultimi. La Penisola è invece praticamente a metà classifica per quanto riguarda le donne (quarantanovesima) e anche chi è sovrappeso viene guardato con qualche indulgenza (è quarantunesima nelle preferenze per chi è più in forma).
soldato ciccione
La presenza di sistemi di valori così diversi, dicono gli autori della ricerca, rende difficile l' adozione di identici principi per i sistemi di intelligenza artificiale. E un' ulteriore ostacolo è ingegneristico: i sistemi di rilevazione delle driverless car sono in grado di identificare la presenza di persone, ma non (o non sempre) di distinguere con precisione sesso ed età. In ogni caso, dicono gli esperti del settore, anche per le auto del futuro qualche incidente è inevitabile. «Il nostro principale obiettivo», ha detto Edmond Awad, che al Mit si è occupato della ricerca, «è stato quello di aprire un dibattito sui temi etici legate alla nuova tecnologia. E di anticipare quelli che potranno essere le reazioni dell' opinione pubblica una volta che questi incidenti accadranno».
LE LEGGI DI ASIMOV NON BASTANO PIÙ
Le istruzioni elaborate per le macchine senza conducente hanno un precedente importante, sia pure letterario. Si tratta delle tre leggi della robotica scritte da uno dei più celebri autori di fantascienza, Isaac Asimov, addirittura negli anni Quaranta del secolo scorso.
Nella formulazione originale il testo delle leggi è quello che segue: 1) un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno; 2) un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla prima legge; 3) un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la prima o con la seconda legge.
rudy giuliani vestita da donna anziana
Secondo gli studiosi di robotica e di intelligenza artificiale le norme, di carattere generale, erano del tutto adeguate al tempo in cui i robot eseguivano compiti meccanici e ripetitivi. Oggi non è più così visto il carattere sempre più autonomo e cooperativo dei compiti affidati ai robot. Proprio le driverless car sono un esempio della nuova situazione: tra i dilemmi a cui possono essere chiamate a far fronte c' è proprio la scelta tra due mali, in cui si tratta di valutare quale è il minore.
Un altro scenario, a suo tempo ancora non calcolato e fonte di ulteriori problemi etici è l' impiego, considerato ormai imminente, di robot in operazioni di guerra. In casi come questi, dicono gli esperti, le leggi fondamentali di Asimov devono essere integrate da valutazioni di carattere etico-sociale e politico che però ancora non ci sono. Anche per Asimov e le sue leggi, dunque, è arrivata l' ora della riforma.
PRIMI AL MONDO - LA GERMANIA HA GIÀ FISSATO LE REGOLE
I tedeschi, si sa, amano le regole. E alla loro passione non sono sfuggite nemmeno le auto senza conducente: la Germania è il primo Paese al mondo ad aver approvato dei principi guida per le driverless car e gli altri sistemi di intelligenza artificiale. Sin dal 2016 il governo (se ne è occupato direttamente il ministro dei Trasporti e delle infrastrutture Alexander Dobrindt) aveva insediato una «Commissione etica per la guida automatica» guidata da un ex presidente della Corte Costituzionale. E nel giugno del 2017 la Commissione ha presentato il suo rapporto confluito in una sorta di codice.
gattini 5
I principi di base della regolamentazione, già presa in esame in altri Paesi che stanno studiando il tema, sono tutto sommato semplici. Il primo punto, all' apparenza scontato, è che in ogni caso le vetture automatizzate devono privilegiare salute e vita di conducenti e pedoni rispetto a qualsiasi danno materiale.
Più interessante la seconda regola, che intende combattere proprio i rischi evidenziati dalla ricerca del Mit presentata nell' articolo in alto: «In caso di situazioni inevitabili di incidente, ogni distinzione individuale basata su caratteristiche personali come età, genere, condizioni fisiche o mentali, è da considerarsi inammissibile». Tutti sono uguali, insomma, di fronte ai pericoli della strada e le soluzioni ingegneristiche adottate dalle case automobilistiche devono tenerne conto.
La terza regola del «codice» tedesco per le driverless car è banale, dicono gli esperti, solo in apparenza: «In ogni situazione di guida deve essere chiaro e chiaramente regolato chi è responsabile dell' incarico di guida: la macchina o il pilota umano».
