Il Sole 24 Ore, 29 gennaio 2017
Robot con personalità elettronica
I robot non sono macchine come tutte le altre. Ma al tempo stesso non sono esseri umani, e questo rende necessario qualificare il loro stato giuridico. L’Europa lo ha capito anche se, per il momento, non giunge a una vera regolamentazione. D’altra parte oggi nessuno si è spinto fino a tanto. Giappone, Stati Uniti e Corea del Sud hanno una qualche forma di normativa sui robot (a differenza della Cina che non pare interessarsene), ma non risulta sia stato affrontato il nodo cruciale del loro stato giuridico. In Giappone, dove la convivenza tra robot ed esseri umani è più attuale, il problema si pone in modo più forte ma trova un limite nella generale resistenza dei giapponesi verso l’integrazione.
Il Progetto di relazione con raccomandazioni alla Commissione sulle norme di diritto civile sulla robotica del 31 Maggio 2016 (si veda Nòva del 18 dicembre 2016, ndr) rappresenta davvero una pietra miliare in un mondo che sta cambiando. Lo dimostra il fatto che la relazione è stata approvata dalla Commissione Affari Giuridici del Parlamento europeo il 12 gennaio scorso: presto dovrebbe passare alla votazione in aula per poi giungere alla Commissione per un’eventuale proposta di direttiva. L’Europa propone anche di avviare iniziative per giungere ad accordi internazionali che pongano regole comuni alla luce delle nuove frontiere della robotica.
La relazione suggerisce che venga previsto uno stato giuridico specifico per i robot, in modo che almeno quelli autonomi più sofisticati possano essere considerati come “persone elettroniche” con diritti e obblighi specifici, compreso quello di risarcire qualsiasi danno da loro causato. A questo si aggiunge il riconoscimento della “personalità elettronica” di quei robot che prendono decisioni autonome in modo intelligente o che interagiscono in modo indipendente con terzi.
Attribuire ai robot “personalità elettronica” significherà assumerli come centro di imputazione di obblighi, ma anche di diritti, come accade per le società, che pur non essendo esseri umani hanno una personalità giuridica. La differenza però è sostanziale. Le società non ci guardano negli occhi e non ci abbracciano dolcemente la sera, cosa che invece i robot potranno fare. Le società non formulano pensieri autonomi, i robot potranno invece farlo, anche se quei pensieri sono frutto di un numero indicibile di operazioni matematiche o di reazioni chimiche.
Saranno sempre più umani e sempre meno macchine e questo ci spaventa e ci preoccupa. Da un lato ci spaventano i progettisti nelle cui mani potrebbe risiedere gran parte del destino dell’umanità. Per questo la relazione ritiene necessario un “quadro etico” sotto forma di codice etico-deontologico degli ingegneri robotici e dei ricercatori basato sui principi di beneficenza, non-malvagità, autonomia e giustizia. Il quadro etico dovrebbe basarsi anche sui principi sanciti nella Carta dei diritti fondamentali della Ue, quali la dignità umana, l’uguaglianza, la giustizia, la non discriminazione, il consenso informato, il rispetto della vita privata e la responsabilità sociale. Dall’altro ci spaventano proprio loro, i robot. La relazione mostra tutta questa paura e invita a tenere comportamenti che evitino che i robot possano sfuggire di mano a chi li ha creati, ben sapendo che questo potrà accadere. Già nel preambolo si annuncia che «è possibile che nel giro di pochi decenni l’intelligenza artificiale superi la capacità intellettuale umana al punto che, se non saremo preparati, potrebbe mettere a repentaglio la capacità degli umani di controllare ciò che hanno creato e, di conseguenza, anche la loro capacità di essere responsabili del proprio destino e garantire la sopravvivenza della specie».
Si prevede che i danni causati dai robot siano a loro imputabili in via oggettiva, senza dovere indagare sull’eventuale colpa o dolo dell’agente e che sia resa obbligatoria una assicurazione per la loro responsabilità civile. Le preoccupazioni sono però ben altre. Si raccomanda che venga istituita una sorta di anagrafe e che i robot siano dotati di un sistema per localizzarli. Si impone l’obbligo che i software che li gestiscono siano trasparenti in modo da rendere possibile un intervento anche da parte di chi non li ha progettati. Altrettanto trasparente dovrebbe essere “la prevedibilità del comportamento”. I robot devono poi essere sempre rintracciabili con un sistema di localizzazione.
Tanta e tale è la paura della perdita di controllo che viene richiesto che i progettisti introducano sui robot dei pulsanti di arresto di emergenza che nel testo inglese della relazione sono sinistramente definiti “kill switches”. La personalità giuridica non può però comportare l’attribuzione soltanto di responsabilità. L’assunzione di uno stato giuridico dovrebbe determinare anche il riconoscimento di diritti. Questo è il vero argomento su cui già si inizia a riflettere. Al momento i robot assumono l’ambigua veste di persone elettroniche che possono essere uccise con un “kill switch”.
Resta solo da chiedersi cosa accadrà quando quella macchina condannata a morte sarà oggetto dell’affetto di un bambino o un anziano che non accetterà tanto facilmente di perderla, soprattutto senza un processo.