Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

[note alla fine]

La lunga rincorsa verso l’autonomia delle macchine, sorretta dalla spinta delle esigenze militari. La fusione di robotica, GPS e informatica ha portato all’era dei droni e alla rimozione dei soldati dal campo di battaglia, con effetti ancora difficili da valutare. E restano i quesiti, su come gestire e regolare le nuove tecnologie a uso militare, ormai sempre più diffuse.

Tutto nacque, si presume, verso la fine del 1400, precisamente nel 1495. Prima di dedicarsi completamente a dipingere l’Ultima Cena, il genio eclettico di Leonardo da Vinci progettò ciò che può essere considerato il primo robot della civiltà occidentale. Sebbene non ci sia dato sapere se fu effettivamente realizzato, l’automa cavaliere – anche detto cavaliere meccanico o robot di Leonardo – fu inizialmente scoperto tra i numerosi disegni vinciani da Carlo Pedretti nel 1957. Ma fu solo nel 1996 che Mark Rosheim riuscì ad arrivare a una ricostruzione del robot il quale “si alzava, agitava le mani e girava la testa grazie a un collo flessibile. Poteva inoltre aprire e chiudere la mascella. Probabilmente emetteva suoni accompagnati dal rullio di tamburi automatici. All’interno era realizzato in legno, con parti di pelle e metallo, ed era azionato da un sistema di cavi. Il robot consisteva in due sistemi indipendenti: arti inferiori, caviglie, ginocchia, con tre gradi di movimento; braccia con spalle articolate, gomiti, polsi e mani, con quattro gradi di movimento. La disposizione degli arti superiori indica che le braccia erano progettate per muoversi all’unisono. Un programmatore meccanico nel petto azionava le braccia. Le gambe erano azionate da un manovellismo esterno, mediante una corda che era opportunamente collegata alla caviglia, al ginocchio e all’anca” [1].
Quattrocento anni dopo il progetto vinciano, Nikola Tesla fece un ulteriore passo decisivo per i futuri sviluppi in campo robotico o più in generale in quello meccanico. Egli sembra essere infatti il precursore, tra le altre cose, di quelli che oggi tendiamo a chiamare unmanned vehicles – o più comunemente, droni – ossia piattaforme a pilotaggio remoto comandate a distanza da operatori, siano esse terrestri (Unmanned Ground Vehicles, UGV), navali (Unmanned Surface Vehicles, USV), sottomarine (Unmanned Undenwater Vehicles, ULV) e aeree (Unmanned Aerial Vehicles, UAV). Nel 1898, il fisico serbo naturalizzato statunitense fece una pubblica dimostrazione di una imbarcazione radiocomandata al Madison Square Garden di New York, che successivamente cercò di vendere – senza successo – ai militari americani insieme ad alcuni progetti relativi a dei siluri radiocomandati. Era convinto di un possibile impiego militare per quelle scoperte tanto geniali.

L’IMPULSO DEL SETTORE DELLA DIFESA SULLA ROBOTICA E L’INFORMATICA. La vicenda di Tesla è piuttosto paradossale, o almeno ironica, se si pensa a quanto invece la ricerca nel campo militare e dell’industria della difesa abbia poi contribuito a trainare e spingere lo sviluppo tecnologico nel campo della robotica negli anni a venire – soprattutto a partire dalla prima guerra mondiale – anche grazie ai sempre più evoluti processi di meccanizzazione e produzione di massa. Il secondo conflitto mondiale vede un primo e significativo – sebbene circoscritto – incremento nell’uso operativo di diverse piattaforme o dispositivi unmanned sia tra gli alleati che tra le forze dell’asse. Basti pensare alla bomba radioguidata planante Ruhrstahl SD 1400, meglio conosciuta dagli alleati con il nome di Fritz X: fu utilizzata dalla Germania durante la seconda parte del conflitto e in particolare nel 1943, quando (in seguito all’armistizio dell’8 settembre) venne impiegata contro la nave ammiraglia italiana Roma – fiore all’occhiello della produzione navale italiana di quel tempo – causando il suo affondamento e la morte di numerosi uomini.
Ma è durante la guerra fredda, e soprattutto negli Stati Uniti, che l’interesse militare nei sistemi unmanned trova il suo terreno più fertile, nonostante contrapposizioni politiche, battute d’arresto tecnologiche e test fallimentari in teatro. A partire dalla prima guerra nel Golfo del 1990, tali sistemi procedono verso un loro graduale inserimento all’interno della community militare americana, sfruttando a loro volta gli sviluppi tecnologici dell’Information Communication Technology e di quelli in campo spaziale. Il momento magico, il punto di svolta, arriverà di lì a poco – nel 1995 – attraverso l’integrazione con il Global Positioning System (GPS), permettendo così all’operatore di localizzare costantemente la posizione della piattaforma unmanned. I vantaggi e gli sviluppi maggiori si riscontrarono nel campo aereo, quello degli UAV, che divennero sempre più facili e intuitivi da pilotare, mentre la quantità e la qualità delle informazioni che erano in grado di disseminare sempre più dettagliate.
Sulla scia di un cambiamento politico che coincise con la fine della guerra fredda e il cosiddetto “dividendo della pace”, la tolleranza dell’opinione pubblica verso i rischi e le perdite di vite umane legate alle operazioni militari diminuì sensibilmente, generando di conseguenza un interesse sempre più crescente per tutto ciò che potesse salvaguardare o “allontanare” l’essere umano dalla cruda realtà del conflitto. I benefici potenziali che i sistemi unmanned erano in grado di generare erano sempre più chiari e sotto gli occhi di tutti, soprattutto per la loro capacità di svolgere missioni cosiddette dull, dirty, or dangerous senza conseguenze per le vite umane.
Gli ultimi 14-15 anni sono storia recente, e con l’11 settembre 2001 si apre un capitolo forse determinante e cruciale. Le guerre che seguirono all’attentato hanno determinato un incremento esponenziale nella domanda di piattaforme unmanned, sempre più sofisticate e avanzate, grazie a uno sviluppo tecnologico in campo robotico inarrestabile e finanziariamente florido. Per dare un’idea della rapidità con cui gli scenari possono cambiare, quando le forze armate americane entrarono in Afghanistan disponevano solo di una manciata di UAV – nessuno di questi armato – e nessun UGV. Dopo poco più di 11 anni, a fine 2012, gli Stati Uniti potevano fare affidamento su oltre 8.000 UAV e più di 12.000 UGV. Quest’ultimi erano utilizzati per rilevare i cosiddetti Improvised Explosive Devices, ossia ordigni esplosivi improvvisati, una delle maggiori minacce per le forze armate americane e NATO [2]. Inoltre, se come afferma un rapporto della Band Corporation [3] secondo il quale 23 paesi hanno già sviluppato o stanno sviluppando droni armati, nel giro di 10 anni ogni Stato sarà virtualmente in grado di acquisire o sviluppare UAV con tale capacità [4]. Infatti, una dei principali nodi irrisolti su cui si discute piuttosto vivacemente è l’impiego di sistemi unmanned con capacità d’attacco – quindi armati – in grado di condurre operazioni letali.

L’ERA DEI DRONI E IL FATTORE UMANO IN BATTAGLIA. La diffusione odierna dei droni, soprattutto UAV, non è una vera novità tecnologica ma rappresenta un forte cambiamento in termini dottrinali e operativi a livello militare. In realtà, non si tratta solo di droni quanto piuttosto della tecnologia nel suo complesso, la quale sta determinando una trasformazione del ruolo dell’essere umano nei futuri scenari di guerra e conflitto. La tecnologia unmanned genera indubbiamente diversi benefici e vantaggi, tra cui: se parliamo di UAV, queste piattaforme eliminano in toto il rischio che un velivolo manned venga abbattuto oppure che il pilota venga catturato; sono in grado di volare e stazionare sopra un obiettivo per diverse ore (o comunque più tempo rispetto a un velivolo manned) e trasmettere coordinate GPS in tempo reale senza slittamenti temporali; riducono il rischio di eventuali errori e danni collaterali attraverso una maggiore e più accurata precisione del bersaglio, sebbene a riguardo alcuni esperti siano ancora abbastanza scettici [5]. Infine, sistemi unmanned possono essere impiegati per azioni particolarmente pericolose, che l’essere umano altrimenti non sarebbe disposto a intraprendere se non correndo forti rischi per la propria vita. Si pensi ad esempio alle azioni di guerriglia urbana dove uno degli aspetti più difficili da affrontare è irrompere in un edificio e, in una frazione di secondo, capire chi è il nemico e chi no, fare fuoco contro l’eventuale minaccia prima che questa spari, cercando sempre di evitare il coinvolgimento dei civili. Si tratta di un’operazione che si può praticare più e più volte, ma anche con un alto grado di addestramento è altamente improbabile – se non impossibile – ridurre completamente il rischio di commettere un errore, in quella frazione di secondo, in una stanza buia, nel bel mezzo di uno scontro a fuoco. Al contrario, un sistema unmanned potrebbe essere in grado di entrare nella stanza e colpire esclusivamente solo chi spara per primo, senza mettere inutilmente in pericolo la vita di un militare o quella di un civile. Anche da un punto di vista industriale, l’unmanned consente di eliminare una serie di apparati ed equipaggiamenti grazie all’assenza del corpo umano e, di conseguenza, permettere un notevole risparmio di peso e spazio a vantaggio dei sistemi di carico e di missione.
Detto questo, sembra che l’applicazione di tali tecnologie stia però portando a quello che Peter Singer della Brookings chiama geographic shift, ossia quella tendenza – che sembra ormai andando consolidarsi – verso una mininore esposizione dell’individuo nelle zone calde del campo di battaglia. Non solo, all’allontanamento fisico si aggiunge quello psicologico rispetto al bersaglio da eliminare. Sebbene questa caratteristica faccia forse parte dell’evoluzione intrinseca degli strumenti con cui si conduce un conflitto, si pensi ad esempio alle più recenti e sempre più determinanti armi cibernetiche: secondo alcuni l’uso incondizionato dei sistemi a pilotaggio remoto armati ha trasformato la guerra in una specie di videogame, eliminando i costi psicologici per i piloti dei droni.
Si tratta della cosiddetta Playstation mentality, termine coniato da Philip Alston e Hina Shamsi in un loro articolo del febbraio 2010 [6]. Nello specifico, Alston, già relatore speciale delle Nazioni Unite sulle esecuzioni extragiudiziali, sommarie o arbitrarie dal 2004 al luglio 2010, così come tanti altri del settore, sostiene che l’impiego dei droni riduca in modo significativo la soglia psicologica all’utilizzo di armi letali durante la condotta di operazioni militari. L’estesa distanza fisica tra l’operatore e il bersaglio da colpire fa sì che l’atto dell’eliminazione sia percepito come più “facile” perché l’obiettivo viene “spersonalizzato” e ridotto a semplice pixel su uno schermo. Inoltre, alcune ricerche sembrano dimostrare che queste modalità di condotta della guerra facciano emergere una specie di “sdoppiamento” della propria persona, una duplicazione dell’identità per cui si tenderebbe a compiere atti violenti e amorali che altrimenti non si realizzerebbero. In sostanza, i sistemi unmanned potrebbero avere un effetto ancora più profondo sulla “spersonalizzazione della battaglia” perché non solo conducono a una maggiore distanza fisica ma altresì a un diverso tipo di distanza psicologica e disconnessione tra le parti coinvolte.

UN FUTURO DA TERMINATOR O TUTELA DELLE VITE UMANE?
Sebbene sussistano altre e diverse argomentazioni a sostegno di questa tesi, esistono altrettante scuole di pensiero e casi concreti che difendono l’operato dei sistemi unmunned e delle relative modalità di ingaggio remoto. Un esempio su tutti è il “Report of the task force on United States drone policy”, pubblicato nel giugno 2014 e redatto da 10 esponenti di spicco dell’establishment americano tra cui diversi ex membri dell’intelligence, militari e alti funzionari [7]. Riguardo alla Playstation mentalily, il rapporto dichiara che in realtà i piloti di droni fissano i loro obiettivi a volte per giorni o intere settimane prima di procedere alla loro eliminazione, suscitando in loro un maggiore stress post-traumatico rispetto ai piloti di velivoli manned.
Una naturale evoluzione dei sistemi unmanned pilotati in remoto, in cui l’essere umano rimane ancora in-loop, potrebbe essere rappresentata da una integrazione tra elementi umani e robotizzati con la progressiva riduzione del livello di controllo umano sull’unmanned, passando quindi da human-in-loop a human-on-loop [8]. Facendo un passo ulteriore, il futuro potrebbe prevedere sistemi con intelligenza artificiale, capaci di attività autonome in termini di navigazione, decollo e atterraggio, ricognizione e infine, anche d’attacco, selezionando in modo autonomo i propri bersagli oppure da una lista reimpostata di obiettivi (si passerebbe al cosiddetto human-out-of-loop). In altre parole, si potrebbe “immaginare una forza composta di elementi che non sentano fatica, fame e sete, che possano rimanere non solo operativi, ma in combattimento per ore e persino giorni senza sosta, che possano svolgere missioni dull, dirty, or dangerous senza conseguenze per le vite umane” [9].
Al momento siamo ancora ben lontani da questa sorta di era di Terminator, che dovrebbe sottintendere infatti la possibilità di introiettare nei sistemi capacità etiche e morali – oltre alle regole di ingaggio – tali da permettere loro la selezione automatica dei bersagli, azione particolarmente complessa e per nulla scontata. Inoltre, rimarrebbe comunque irrisolto il problema della accountability: qualora un robot autonomo con intelligenza artificiale dovesse commettere un errore, chi pagherebbe, chi ne sarebbe responsabile? Il programmatore? Il comandante sul campo? Il dibattito è talmente controverso, irto di ostacoli e sfumature che se ne discute anche a livello di Nazioni Unite nell’ambito della Convention on Certain Conventional Weapons, in cui esperti di Lethal Autonomous Weapons Systems si riuniscono annualmente con l’obiettivo di fare luce sulle implicazioni etiche, legali, militari, politiche ed esistenziali di queste nuove tecnologie e di valutarne la loro conformità al diritto intemazionale [10].
Sta di fatto che nel novembre 2012 il Pentagono ha pubblicato una direttiva sulla progettazione, l’acquisto e l’entrata in servizio di sistemi d’arma autonomi e semi-autonomi per ridurre la possibilità che questi possano selezionare i propri obiettivi. La direttiva afferma infatti che “i comandanti e gli operatori devono esercitare appropriati livelli di giudizio umano sull’uso della forza“ [11]. Almeno al giorno d’oggi, l’essere umano rimane ancora al centro del processo decisionale, l’unico attore in grado di identificare i bersagli da colpire e, in ultima analisi, responsabile delle azioni che andrà a condurre. Fino a quando saremo in grado di stabilire regole certe e condivise, anche i più travolgenti e rivoluzionari progressi tecnologici potranno essere gestiti e controllati sulla base di regole democratiche, etiche e volte al rispetto e alla salvaguardia del genere umano.
Note:[1] Mark E. Rosheim, Il robot di Leonardo, Istituto e Museo di Storia della Scienza, Firenze, 1996. [2] Peter W. Singer, The robotics revolution, Brookings Institution, dicembre 2012.
[3] Lynn K. Davis, Michael J. McNerney, James Chow, Thomas Hamilton, Sarah Harting, Daniel Byman, Armed and Dangerous?, RAND Corporation, 2014.
[4] Patrick Tucker, “Every country will have armed drones within ten years”, DefenseOne, maggio 2014.
[5] Chris Cole, “What’s wrong with drones?”, Drone Wars UK, marzo 2014. [6] Philip Alston, Hina Shamsi, “A killer above the law?”, The Guardian, febbraio 2010.
[7] Stimson Center, Recommendations and Report of the Stimson Task Force on US drone policy, giugno 2014.
[8] Paul Scharre, “Where does the human belong in the loop?”, Center for a New American Security, 2014.
[9] Claudio Catalano, “Tecnologie emergenti: la rivoluzione delle macchine”, Panorama 2013. [10] Ishaan Tharoor, “Should the world kill killer robots before it’s too late?”, The Washington Post, 12 maggio 2014.
[11] Department of Defense, direttiva n. 3000.09, 21 novembre 2012.

ALESSANDRO R. UNGARO