Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Circolano già sulle strade della California, del Michigan, della Florida, del Nevada. Dal gennaio 2014 sono autorizzate a girare anche per le vie di Londra: sono le auto a guida autonoma, dove l’essere umano può sedersi a farsi trasportare da un veicolo in parte o del tutto automatizzato.
Nel resto d’Europa non sono ancora commercializzabili: questioni legali e assicurative impediscono ancora alla Volkswagen, alla Toyota e ad altre aziende di inondare le nostre strade di auto robotiche già pronte sulla pipeline. Eppure da qualche anno il Governo tedesco elargisce finanziamenti all’Istituto federale per la ricerca autostradale per lavorare su tre modelli di automazione: l’auto a guida parzialmente assistita, quella totalmente assistita – in cui il passeggero può dedicarsi ad altro ma in caso di problemi viene allertato dal sistema in tempo utile per riprendere il comando – e quella robotica. Nell’ultima versione l’uomo non interviene praticamente mai, nella speranza che così facendo si azzerino i morti sulle strade, provocati, nel 90 per cento dei casi, da errori umani.
I vantaggi di questi veicoli sono facilmente intuibili. Le versioni con automazione parziale, (ovvero dotate di sistemi di controllo come il bloccasterzo, il parcheggio autonomo o la frenata assistita che intervengono modificando le decisioni del conducente in caso di pericolo o di manovra azzardata) hanno già ridotto, secondo i dati disponibili, il numero degli incidenti gravi. Anche le macchine totalmente automatizzate sembrano essere più sicure di quelle a cui siamo abituati: in un anno i 48 esemplari immatricolati in California sono stati coinvolti solo in quattro lievissimi incidenti, senza danni alle persone e con lievi danni alle cose. A provocare questi piccoli scontri è stata, secondo gli esperti, l’imprevedibilità umana, dal momento che le auto robot circolano in un ambiente popolato da imperfetti guidatori in carne e ossa.
Infine, le auto robotiche ci fanno risparmiare tempo, consentendoci, almeno nelle versioni più autonome, di leggere i messaggi o di fare colazione mentre andiamo al lavoro. Lo ha dimostrato Google, mettendo a disposizione dei cittadini californiani una ventina di auto che, tra le altre cose, hanno portato a passeggio persone anziane con mobilità ridotta, non vedenti o che non avevano più la patente per ragioni di salute, migliorando la loro qualità di vita. In teoria le auto totalmente automatiche possono viaggiare anche vuote, per andare a prendere qualcuno: in un futuro non lontano, invece delle baby-sitter davanti alle scuole potrebbero esserci file di auto automatiche venute a prendere i bambini.

Le reazioni degli utenti
Fabbricanti e legislatori sono però preoccupati: come reagirà il pubblico all’entrata in commercio di queste tecnologie? Se i primi vogliono ottimizzare il comfort e la fiducia del consumatore nei confronti delle nuove auto, il mondo della legge si chiede chi sarà responsabile di un eventuale danno nei confronti di cose o persone e, soprattutto, chi sarà il responsabile nella mente della gente, indipendentemente dalle decisioni che verranno prese per mettere mano alle leggi sui trasporti che appaiono fin da ora obsolete.
David Strayer, psicologo all’Università dello Utah che studia i modelli di interazione uomo-macchina, è sicuro che «le vetture automatiche cambieranno la nostra percezione del mondo così come ha fatto Internet. La rete ha ridotto le distanze e diffuso l’accesso alle informazioni, così come le auto automatiche renderanno la mobilità accessibile a tutti, anziani e bambini compresi, e avranno un impatto sull’ambiente e sull’aspetto che le nostre città avranno in futuro, cambiando la forma delle strade e dei passaggi pedonali».
Prima di arrivare a introdurre su larga scala veicoli totalmente privi di intervento umano bisognerà però passare da un livello intermedio, quello delle auto semiautomatiche, per ovviare ai limiti di un mondo ibrido, in cui circoleranno sia le auto vecchio stile, col loro autista umano, sia auto con un cervello in silicio. «Dietro l’automazione c’è ovviamente un sistema di intelligenza artificiale», spiega Stayer. «Il problema è che al momento nessuna intelligenza artificiale è così flessibile da interpretare in modo corretto le infinite variazioni del comportamento umano». L’esempio più banale è quello di un’auto che, avendo incorporato il codice della strada nel suo sistema di comportamento, si ferma davanti alle strisce pedonali perché una vecchietta sta attraversando. Se però questa, consapevole di essere molto lenta, fa un gesto di cortesia con la mano per indicare all’auto di proseguire, il sistema automatico non è in grado di interpretarlo correttamente. Auto e vecchietta potrebbero restare lì fermi per ore se la signora stessa o il guidatore umano non prendono il controllo cambiando decisione.

Il ruolo della fiducia
Il successo di una tecnologia dipende anche dalla fiducia che la gente ripone nella stessa. Già oggi la scelta dell’automobile è determinata dalla fiducia che l’acquirente ha in una certa marca o modello, mentre vi sono molti esempi di marche e modelli rimasti invenduti dal concessionario perché afflitti da una cattiva fama. Nel caso delle auto automatizzate, bisognerà creare un livello di fiducia molto elevato, ancora maggiore di quello necessario all’auto classica.
Lo studio di questo legame tra utilizzatore e macchina è l’oggetto di ricerca dell’Istituto di scienze cognitive e tecnologie del CNR, i cui ricercatori fanno parte di un gran numero di progetti internazionali che hanno come scopo la costruzione di macchine in grado di interagire con l’uomo in modo da essere socialmente bene accette. In un paese come l’Italia in cui ci si affida pochissimo alla tecnologia – non a caso siamo il fanalino di coda europeo nell’uso della moneta elettronica e nelle applicazioni in rete che richiedono l’uso dei nostri dati personali – rischiamo di avere un gran numero di guidatori scarsamente interessati alle innovazioni.
D’altronde un sondaggio condotto nel 2014 dall’Associazione dei fabbricanti di auto statunitensi su un campione di 2000 automobilisti ha dimostrato che il problema non è solo italiano: se il 32 per cento degli intervistati si dichiara entusiasta e comprerebbe un’auto automatica, il 25 per cento dice che non si farebbe mai trasportare da un robot. Le donne sono più propense a cedere il controllo dei maschi, e anche ad accettare un’auto che non permette di trasgredire le norme del codice della strada, con le conseguenze ovvie in termini di tempi di percorrenza; quasi nessuno, infatti, rispetta i limiti di velocità cittadini che le auto automatiche sono programmate per mantenere senza eccezioni.
È però interessante notare che il 75 per cento degli interpellati dichiara di voler avere il controllo del mezzo quando porta i figli a scuola, anche se le statistiche dicono che la guida automatica è più sicura. È questo tipo di pregiudizio cognitivo che gli psicologi dovranno aiutare a comprendere e a superare se si vuole che la nuova tecnologia – che permetterebbe anche di ridurre l’inquinamento mantenendo una guida a basso consumo e di limitare ingorghi e code grazie alla comunicazione tra veicoli in tempo reale – prenda piede e sia un successo commerciale.
D’altro canto vi sono anche persone portate ad avere troppa fiducia nella tecnologia, come ha dimostrato Nicholas Ward, esperto di psicologia applicata all’ingegneria all’Università del Montana. «In uno studio condotto su 3000 automobilisti abbiamo cercato di tracciare i profili personologici degli utenti di tecnologie, scoprendo che esiste una fetta di popolazione che tende a fidarsi eccessivamente delle macchine e dei computer di bordo, affidando loro anche compiti che in realtà non sarebbero in grado di eseguire, oppure prendendo il controllo della macchina in ritardo in caso di problemi», spiega l’esperto. «È esperienza comune, per esempio, l’atteggiamento diverso che le persone hanno nei confronti dei navigatori satellitari: c’è chi si fida sempre e comunque, anche quando gli occhi mostrano una realtà diversa da quella del GPS e si finisce in qualche strada senza uscita, mentre altri si ostinano a seguire il percorso abituale anche se il navigatore ne suggerisce uno più breve e meno trafficato».

Senza rischio non c’è gusto
Un altro aspetto potenzialmente pericoloso dell’interazione tra umani e macchine è la propensione al rischio. Secondo i più accreditati modelli di percezione del rischio, ciascuno di noi tende, in tutti gli ambiti della vita, a mantenere un livello di azzardo pressoché simile. I prudenti sono prudenti in ogni cosa, mentre gli scapestrati cercano il brivido.
Come conciliare tutto ciò con macchine che hanno di default una bassa tendenza a prendere rischi e una scarsa flessibilità da questo punto di vista? La soluzione non è stata ancora trovata, anzi: assicurazioni e polizia stradale collezionano esempi della creatività umana nel farsi beffe dei sistemi di sicurezza automatici. C’è chi manomette il contachilometri che blocca la velocità di crociera al massimo consentito e chi inganna i bloccasterzo automatici installati sulle auto americane per facilitare i viaggi lunghi su autostrade rettilinee. «La macchina è programmata per procedere diritta, purché il conducente tenga le mani sul volante», spiega Ward. «Ma i guidatori, dopo qualche decina di chilometri, si annoiano, vogliono rilassarsi e fare altro, quindi hanno trovato ingegnosi sistemi, come pesi o lattine di Coca Cola incastrate tra i raggi dello sterzo, per ingannare il sistema, anche se si tratta di un gesto rischioso».
Nella costruzione del rapporto con la macchina conta anche quanto questa viene umanizzata. Adam Waytz, psicologo della Northwestern University, ha iniziato a studiare questo fenomeno quando ha scoperto che i soldati celebravano i funerali dei robot militari andati distrutti in azioni di guerra. «Quanto più avevano affidato la loro o l’altrui vita nelle mani della macchina, tanto più intenso era il sentimento di perdita in caso di incidente», spiega Waytz che, insieme a una collega dell’Università di Washington, ha condotto decine di interviste a soldati e visionato le fotografie di molte «tombe» di robot sminatori, una delle macchine a maggior «rischio» di antropomorfizzazione perché addetta a fare del bene con il rischio costante di saltare per aria. «Di recente ho applicato queste scoperte alle macchine automatiche. Il risultato è stato curioso: più la macchina è dotata di attributi umani, come una voce, un sesso, un nome, maggiore è la tendenza delle persone ad attribuirle intelligenza e persino emozioni, e a scusarla o ad attribuire ad altri la colpa in caso di incidente».
Per capirlo Waytz ha usato un simulatore di guida molto realistico, in cui il guidatore era esposto ai tre possibili livelli di automazione della guida. Al maggior livello di autonomia il guidatore non doveva far altro che assistere passivamente allo scorrere della strada sullo schermo. Dopo sei minuti di test i partecipanti venivano coinvolti in un incidente stradale virtuale apparentemente non evitabile. Al termine della prova veniva chiesto loro di stabilire se la macchina, il produttore o l’ingegnere che l’aveva progettata erano da ritenersi responsabili dell’incidente e che tipo di sanzione andava comminata. «Chi aveva guidato la macchina più autonoma tendeva ad attribuire all’auto, al progettista e al fabbricante la maggior parte della colpa, con sanzioni elevate», spiega Waytz. «Se però si ripeteva l’esperimento con un altro gruppo di soggetti attribuendo alla macchina autonoma anche il più alto livello di antropomorfizzazione – per esempio con una voce che dialoga con il passeggero, come alcuni programmi di assistenza presenti sui cellulari – questi tendevano a sminuirne la responsabilità attribuendola agli altri conducenti, o a stabilire sanzioni sensibilmente più ridotte».
Le auto antropomorfe vengono trattate, in termini di giudizio di responsabilità, alla stregua di un essere umano, con tutte le conseguenze del caso. «La semplice capacità di decidere autonomamente basta alle persone per considerare una macchina come un agente responsabile, alla faccia di decenni di discussioni legali su questo specifico aspetto», continua Waytz. «Ma basta una voce e un nome per portare questo processo mentale all’estremo. Ed è curioso pensare che, fin dagli albori della rivoluzione industriale, i detrattori della tecnologia avevano previsto che questa ci avrebbe reso un po’ meno umani mentre sembra che ci sia, semmai, il problema inverso».

L’auto egoista o l’auto altruista
Da un sistema intelligente ci aspettiamo anche che prenda per noi non solo le decisioni più giuste ma anche quelle più etiche. Nel campo della guida su strada questo può voler dire che, in caso di incidente, l’auto che ci sta trasportando decide di esporre proprio noi che viaggiamo da soli al maggior rischio di morte, se si accorge che l’altro veicolo trasporta più persone oppure dei bambini. Siamo davvero sicuri che, nell’era in cui acquistiamo le auto anche sulla base del numero di airbag e di sistemi di protezione che offre, siamo pronti a cedere a un computer la decisione su chi deve vivere e chi deve morire?
Se lo sono chiesti un ingegnere informatico della Standford University, Chris Gerdes, e il suo collega filosofo ed eticista della California Polytechnic State University Patrick Lin, che hanno organizzato un workshop multidisciplinare per cercare di risolvere il dilemma, senza riuscirci. Così hanno sviluppato una serie di software in grado di indurre la macchina a usare scenari etici diversi, da quello che evita gli esseri umani a costo di andare a sbattere sulle auto parcheggiate, a quello che agisce semplicemente per limitare il numero dei possibili morti e feriti, indipendentemente dal fatto che siano passeggeri dell’auto stessa o di un’altra auto, fino allo scenario «animalista» che evita persino di investire gli scoiattoli, frequenti sulle strade degli Stati Uniti.
«Se le auto completamente automatiche non saranno sulle strade ancora per qualche anno, le auto parzialmente automatizzate saranno in commercio entro un paio d’anni», spiega Chris Gerdes. «Intervengono soprattutto per limitare i danni in caso di incidente, quindi il software che guida le decisioni etiche è già una necessità impellente, ma non siamo riusciti a trovare un’intesa su quale debba essere il livello di altruismo accettabile dalla maggioranza degli utenti».
Ancora una volta bisogna fare i conti con la variabilità della personalità dei consumatori: c’è chi vuole solo essere sicuro all’interno della propria auto, costi quel che costi, anche se la scelta rischia di aumentare il numero delle vittime o, più banalmente, di stendere sull’asfalto eserciti di scoiattoli. Altri cambiano idea a seconda di chi viene trasportato dal veicolo: se si tratta di se stessi, sono disposti ad acquistare un software altruista pensato per ridurre il numero delle vittime, ma se sull’auto ci sono i figli vogliono un software di massima sicurezza per i piccoli passeggeri.
Durante il meeting di esperti, qualcuno ha proposto di lasciare la scelta agli acquirenti, permettendo la coabitazione di auto robotiche più o meno altruistiche. Ma a insorgere, in questo caso, sono le assicurazioni, che non sanno come stabilire i premi, e i legislatori, che non possono permettere una disparità di trattamento per le eventuali vittime.
Per evitare di incorrere nel dilemma etico, Adriano Alessandrini, ingegnere meccanico del Centro per il trasporto e la logistica della «Sapienza» Università di Roma ha sviluppato, nell’ambito del progetto CityMobil2, un software che non si fa problemi e frena qualsiasi cosa gli si pari davanti. Una soluzione che può essere scomoda ma che evita la scelta; sempre che questo non induca, a sua volta, un aumento del rischio di incidente per chi si trova dietro l’auto che inchioda.

Scenario futuribile
In materia di etica, però, c’è chi pensa che non si debba stare troppo a pensarci su. Biyant Walker-Smith, della University of South Carolina ed esperto di implicazioni legali nell’automazione, non ha dubbi: «Considerando il numero di morti sulla strada, dovuti quasi sempre a errori umani, è molto meno etico ritardare l’introduzione delle auto automatiche che fare qualche errore nella scelta di un software decisionale».
Non tutti sono d’accordo. Anzi, la maggior parte degli psicologi cognitivi continua a credere che se l’uomo è irrimediabilmente portato a commettere errori, è anche capace di flessibilità e di rispondere agli imprevisti in un modo che nessuna macchina, allo stato attuale, è in grado di eguagliare.
La soluzione – poco praticabile in termini economici – potrebbe essere nella completa e improvvisa automazione dell’intero parco macchine e nella concomitante separazione delle strade carrozzabili da quelle pedonali. In questo scenario futuribile, le auto intelligenti saranno tutte instradate su percorsi obbligati, avranno tutte le stesse caratteristiche e, soprattutto, non dovranno interagire con esseri umani a piedi o in bicicletta. In fondo è quanto già accade in molte metropolitane del mondo, compresa quella della città di Milano: un’intera linea, l’ultima nata, è dotata di treni senza guidatore, che percorrono le gallerie secondo un programma computerizzato. Nessuno degli utenti finora si è lamentato dell’assenza del macchinista, anzi: il vagone di testa, con la sua vetrata aperta sul buio delle gallerie illuminate da fugaci sprazzi di luce, è diventata ambita da bambini e turisti, che si godono il viaggio senza guidatore.

DANIELA OVADIA