Corriere della Sera, 28 giugno 2016
Comprereste un’auto programmata per uccidervi in circostanze estreme anche se si guida da sola?
«Ciao Car, andiamo al parco», dice la mamma sedendosi con il figlio in un veicolo automatico nuovo fiammante. La macchina si mette in moto e procede sicura, finché all’incrocio trova dei pedoni che attraversano con il rosso. Le automobili driverless, senza conducente, non commettono gli errori degli umani al volante, non si distraggono e non hanno colpi di sonno. Si stima che potrebbero prevenire il 90% degli incidenti. Ma se il sinistro fosse inevitabile e la macchina fosse programmata per prendere decisioni morali, cosa dovrebbe scegliere l’algoritmo? Meglio sterzare e urtare la barriera sacrificando mamma e bambino, o proseguire investendo i passanti?
Tre ricercatori, un francese e due americani, hanno fatto questa domanda a un campione di quasi 2 mila persone, proponendo diversi scenari con un numero variabile di vittime e poi illustrando i risultati su Science. La maggior parte dei soggetti interpellati da Jean-François Bonnefon e colleghi (76%) ha risposto che la macchina dovrebbe comportarsi in modo utilitaristico, minimizzando le vite perdute. Certo la bilancia morale può oscillare un po’ se tra le persone a rischio immaginiamo una donna incinta o magari un superchirurgo che salva i suoi pazienti ogni giorno. Sono eventi improbabili, è vero, ma quando le auto self-driving saranno numerose, secondo gli autori dello studio, delle situazioni di questo tipo si verificheranno e allora costruttori, consumatori, istituzioni dovranno mettersi d’accordo su quale sia il male minore. Sulla carta sembra semplice: se serve a salvare più vite, è giusto che i veicoli siano pronti a sacrificare anche il proprietario. Ma i nodi vengono al pettine quando alle persone si chiede: comprereste una macchina che si comporta così? La risposta è no. Le auto morali sono il massimo finché sono gli altri a comprarle, per sé la gente ne vuole una che si auto-protegga, anche a costo di sacrificare gli altri. Pensateci un attimo, comprereste un’auto programmata per uccidervi in circostanze estreme?
Secondo i ricercatori gli aspetti psicologici saranno altrettanto importanti di quelli tecnologici per il successo dei veicoli senza pilota. Se le preferenze dei consumatori spingessero il mercato verso algoritmi egoistici, gli stati dovrebbero imporre degli algoritmi morali? Forse sì, peccato che molte persone a questo punto sceglierebbero di non comprare un’auto driverless. E così ci troveremmo a rinunciare a una tecnologia che potrebbe evitare centinaia di migliaia di decessi nel mondo. Il meccanismo è lo stesso per cui tutti consumiamo e inquiniamo ma pochi vogliono centrali o discariche nelle vicinanze di casa. Lo slogan «not in my backyard» (non nel mio cortile) in questo caso diventa «not in my backseat» (non sul mio sedile). L’ecologo Garrett Hardin nel 1968 ha descritto il fenomeno che porta i singoli a sovrasfruttare le risorse naturali, sacrificando il bene collettivo per interessi personali effimeri. È «la tragedia dei common» e somiglia a ciò che potrebbe accadere con le auto senza pilota. Il bene comune che rischiamo di perdere è la sicurezza stradale di tutti.
Per risolvere il dilemma posto da Science comunque c’è tempo. Le auto a guida assistita che vengono testate oggi non prendono decisioni morali. E per Michele Crisci, presidente di Volvo Italia, non dovranno prenderle nemmeno le auto driverless del futuro: «Già ora si può monitorare la posizione di decine di soggetti intorno al veicolo. Quando i sistemi saranno perfezionati si potrà gestire tutto con tempi di reazioni infinitesimali».