Un filosofo al volante

Già oggi, mentre apparecchi come gli smartphone o i veicoli a guida autonoma prendono decisioni che un tempo erano monopolio dell’uomo, altri simili apparecchi iniziano ad affrontare problemi etici analoghi a quelli che tormentano gli uomini da millenni.

Per esempio, immaginiamo che due bambini, mentre rincorrono una palla, saltino davanti ad un’auto a guida autonoma. Basandosi sui suoi calcoli fulminei, l’algoritmo che guida la macchina conclude che l’unico modo per evitare di investire i due bambini è sterzare nella corsia opposta e collidere con un camion che procede in direzione contraria. L’algoritmo calcola in questo caso una probabilità pari al 70% che il proprietario dell’auto – addormentato sul sedile posteriore – rimanga ucciso. Cosa dovrebbe fare l’algoritmo?

È noto come il “dilemma del carrello” (trolley problem), dove l’esempio classico su cui dibattono i filosofi si riferisce, invece che ad un veicolo a guida autonoma, ad un carrello ferroviario impazzito che si muove a gran velocità lungo un binario, ed un ausiliario dovrebbe azionario una delle opzioni disponibili.

Finora, questi problemi hanno avuto pochissimo impatto sul comportamento umano a livello concreto, perché in momenti di crisi, gli esseri umani, troppo spesso dimenticano le loro visioni filosofiche e seguono invece le loro emozioni e gli impulsi di pancia (l’euristica).

Un esperimento nel campo delle scienze sociali fu condotto nel dicembre 1970 al Princeton Theological Seminary su un gruppo di studenti che si stavano preparando a diventare ministri della chiesa presbiteriana. A ogni studente fu chiesto di affrettarsi a raggiungere una distante aula magna dove avrebbero dovuto commentare la parabola del buon samaritano che racconta come un ebreo, che si stava recando da Gerusalemme a Gerico, fu derubato e picchiato da alcuni banditi che lo avevano lasciato morire sul ciglio della strada.

Ad un certo punto, un prete e un levita gli passarono accanto ignorandolo completamente. Invece, un samaritano – un membro di una setta disprezzata dagli ebrei – si fermò, si prese cura dell’uomo e gli salvò la vita. La morale della parabola è che i meriti degli individui dovrebbero essere valutati in base ai loro comportamenti effettivi, invece che alla loro affiliazione religiosa o alle loro idee filosofiche.

Gli entusiasti giovani seminaristi si precipitarono vero l’aula magna, concentrati sul miglior modo per spiegare la morale della parabola del buon samaritano. Ma gli sperimentatori avevano collocato sul loro tragitto un uomo vestito di stracci, accasciato in un portone con la testa piegata e gli occhi chiusi. Nessun seminarista si fermò nemmeno a chiedergli che cosa non andasse, guardandosi bene dal porgere un aiuto. La preoccupazione di affrettarsi verso l’aula magna, aveva fatto dimenticare l’obbligo morale di aiutare uno sconosciuto in difficoltà.

La preoccupazione e lo stress fanno dimenticare, in molte situazioni, la filosofia, l’etica e la religione. Ciò fa sicuramente riflettere sul fatto che, non necessariamente avremo un comportamento responsabile sulle autostrade del ventunesimo secolo. Autisti distratti, arrabbiati e ansiosi ogni anno uccidono oltre un milione di persone in incidenti stradali. Possiamo mandare tutti i filosofi, preti e psicologi a predicare l’etica a questi autisti, ma sulla strada le emozioni prendono il sopravvento. Così come i seminaristi frettolosi ignorarono le persone in difficoltà, gli autisti in crisi investiranno gli sventurati pedoni. E questo, rappresenta uno dei più seri problemi dell’etica.

Kant, Mill e Raws possono sedersi in una comoda aula universitaria e discutere per giorni di problemi di etica ma è poco verosimile che le loro conclusioni siano davvero applicate da autisti stanchi in un momento di emergenza. Forse Michael Schumacher, il campione di Formula 1 che è spesso citato come il miglior pilota della storia, era capace di pensare alla filosofia mentre correva in macchina. Peccato che la maggior parte di noi non è Schumacher.

Gli algoritmi dei computer, invece, non possiedono né emozioni né istinto. Quindi, in momento di crisi, potrebbero rispettare le regole di comportamento morali molto meglio degli esseri umani, ammesso che si trovi un modo per codificare l’etica in numeri e statistiche. Se insegnassimo a Kant, Mill e Raws a scrivere codici, potrebbero programmare con cura un veicolo a guida autonoma nel loro comodo laboratorio ed essere certi che l’automobile seguirebbe le loro istruzioni in autostrada. In effetti, quella macchina sarebbe guidata da Michael Schumacher e Immanuel Kant.

Così, se si programma un veicolo a guida autonoma perché si fermi ad aiutare sconosciuti in difficoltà, lo farà cascasse il mondo (a meno che non si inserisca un’eccezione in caso di scenario apocalittico). In maniera analoga, se il veicolo a guida autonoma è programmato per sterzare nella corsia opposta per salvare due bambini che si trovano sul suo percorso, possiamo scommetterci la pelle che è proprio quello che farà. Quando la Toyota e la Tesla progettano i loro veicoli a guida autonoma, traducono un problema di filosofia etica in un problema pratico di ingegneria.

Certo, gli algoritmi filosofici non saranno mai perfetti. Si verificheranno sempre degli errori che provocheranno feriti, morti e procedimenti penali molto complicati. Per la prima volta nella storia, si potrà far causa ad un filosofo per gli sfortunati esiti delle sue teorie; perché per la prima si potrà provare un nesso di causalità diretto che associa idee filosofiche a eventi reali.

In ogni caso, per prendere il posto dei guidatori umani, gli algoritmi non avranno bisogno di essere perfetti. Dovranno solo essere migliori dell’uomo medio. Dato che gli autisti in carne ossa uccidono oltre un milione di persone ogni anno, non sarebbe un requisito tanto difficile. Detto questo, preferireste che l’auto che vi incrocia fosse guidata da un ragazzo ubriaco o dalla coppia Schumacher-Kant?

LINK UTILI:

Test of Samaritan Parable: Who Helps the Helpless?

Coscienti seppur senza guardare

Anass El Fares

Sono un ricercatore presso Co.Mac – CFT, un importante gruppo italiano che opera nell’ambito degli impianti industriali. Laureato in ingegneria Meccanica con specializzazione in Meccatronica al Polimi. Attualmente studio automazione con particolare focus verso gli algoritmi di intelligenza artificiale e le sue applicazioni nel mondo reale.
Comunicare significa donare parte di noi stessi, ed è questo il motivo per cui la divulgazione scientifica è una delle mie più grandi passioni.