Nel 1942 Isaac Asimov pubblicò un racconto dal titolo “Circolo Vizioso”. Fu la prima volta che apparvero le tre leggi della robotica.
- Prima Legge: “Un robot non può recar danno a un essere umano né può permettere che a causa del proprio mancato intervento un essere umano riceva danno”.
- Seconda legge: “Un robot deve obbedire agli ordini impartiti dagli esseri umani purché tali ordini non contravvengano alla prima legge”.
- Terza legge: “Un robot deve proteggere la propria esistenza purché questo non contrasti con la prima e la seconda legge”.
Nel film Io Robot, al protagonista, il detective Spooner, accadde una cosa che lo segnerà fisicamente e moralmente per tutta la vita.
“Spooner venne coinvolto in un incidente d'auto nel quale, oltre a lui, rimase coinvolta una bambina. Venne prontamente raggiunto da un robot che, nonostante l'ordine di Spooner di andare a salvare la bambina, salvò lui poiché, a una sua analisi, aveva più probabilità di sopravvivenza rispetto alla bambina; non potendo il robot decidere in altro modo se non quello analitico. Fu da quel giorno che Spooner cominciò a odiare i robot.”
“Spooner venne coinvolto in un incidente d'auto nel quale, oltre a lui, rimase coinvolta una bambina. Venne prontamente raggiunto da un robot che, nonostante l'ordine di Spooner di andare a salvare la bambina, salvò lui poiché, a una sua analisi, aveva più probabilità di sopravvivenza rispetto alla bambina; non potendo il robot decidere in altro modo se non quello analitico. Fu da quel giorno che Spooner cominciò a odiare i robot.”
Sarah voleva fare la dentista. “Che razza di dodicenne è una che vuole fare la dentista.” Spooner aveva il 45% di probabilità di sopravvivenza, Sarah l’undici percento, ma un essere umano avrebbe scelto di salvare la bambina.
Fino a poco tempo fa l’etica dei robot era fantascienza, ora, anche se vi suonerà strano e fantascientifico, è diventata realtà.
Ci sono sempre più auto che guidano da sole; veri e propri automa che prendono decisioni ad alte velocità e in frazioni di secondo.
Ci sono sempre più auto che guidano da sole; veri e propri automa che prendono decisioni ad alte velocità e in frazioni di secondo.
Il governo Giapponese ha confermato che per le olimpiadi del 2020 i taxi saranno senza autista, completamente autonomi e il 70% meno costosi.
Da qui nasce la necessità di dotare questi automa di una morale, un etica, un potere decisionale pari a quello umano.
Vi trovate al volante e la strada è sgombera, d’improvviso una cane sbuca da dietro una casa e attraversa la strada trascinandosi appresso la padroncina al guinzaglio. Frenate, ma c’è troppo poco spazio e sapete che a quella velocità riuscirete a sterzare di un solo metro a destra o a sinistra; al centro, al sicuro, lascerete la bimba, in una sorta di cono protettivo.
Sterzando a destra finirete contro il muro della casa, con l’alta probabilità di farvi male o morire. Sterzando a sinistra prendereste il cane, uccidendolo quasi sicuramente sul colpo.
Vale di più la vita della bimba o del cane?
Vale di più la vita del cane o la vostra?
Anche se questa decisione repentina non sarebbe un dilemma insormontabile per un essere umano, lo potrebbe essere per una macchina.
Se foste voi a doverla programmare, mettereste al primo posto l’incolumità dell’autista, sempre e comunque? O quella degli altri, pedoni e autisti di altri veicoli indifferentemente?
Agli animali che graduatoria dareste?
E se nella nostra ipotesi sostituissimo il cane con un passeggino, mettereste nel cono della salvezza il passeggino o la madre?
E se il passeggino fosse condotto da un anziano, salvaguardereste il pilota o l’anziano?
Ma ancora, se a fianco del pilota ci fosse un bambino, sacrifichereste l’anziano onde evitare di mettere in pericolo il piccolo passeggero, che finirebbe contro il muro?
E’ un dilemma a cui stanno pensando da tempo. Un dilemma che io preferirei non dover affrontare, soprattutto perché le mie scelte sarebbero troppo personali e risulterebbero illogiche per alcuni, perfette per altri, ma insensate per qualcun altro; perché ad esempio io salverei una donna piuttosto che un uomo, ma punterei un cane piuttosto che mettere in pericolo la mia vita o quella di chiunque altro.
Nel frattempo c’è già stato qualche morto tra i piloti di Tesla e addirittura il primo omicidio imputabile ad un robot nella storia: Una Tesla non si è accorta di una donna che gli ha tagliato improvvisamente la strada in bicicletta e l’ha travolta senza neppure frenare.
Vi lascio ad un articolo appena uscito su Nature, che ho trovato davvero molto interessante.
Prima di congedarmi però ho un ultima domanda.
Sarah doveva morire?
Nessun commento:
Posta un commento