Consapevole delle mie lacunose competenze tecniche in questo campo, ho organizzato una serie di colloqui informali sull’argomento, grazie ai consigli e alla collaborazione di alcuni conoscenti nel campo della tecnologia e delle scienze umanistiche. Questi dibattiti hanno reso i miei timori ancora più fondati.
Prima d’ora, il progresso tecnologico che più di ogni altro aveva cambiato il corso della storia umana era stato l’invenzione della tecnica tipografica nel XV secolo, grazie alla quale la ricerca della conoscenza con mezzi empirici aveva soppiantato la dottrina liturgica, e l’età della ragione aveva gradualmente preso il posto dell’età della religione. L’età della ragione ha prodotto i pensieri e le azioni che hanno plasmato l’ordine del mondo contemporaneo.
Ma adesso stiamo assistendo a uno sconvolgimento di quell’ordine, per mezzo dell’avvento di una nuova e ancor più travolgente rivoluzione tecnologica, una rivoluzione di cui non abbiamo valutato le conseguenze, e il cui apice potrebbe consistere in un mondo dipendente da macchine azionate da dati e algoritmi, senza alcuna norma etica o filosofica a guidarle.
L’era di internet in cui già viviamo prefigura alcuni degli interrogativi e delle problematiche che l’intelligenza artificiale non farà che acuire: l’Illuminismo mirava a sottoporre le verità tradizionali a una ragione umana liberata e analitica; lo scopo di internet, invece, è quello di ratificare la conoscenza per mezzo dell’accumulo e della rielaborazione di una quantità sempre crescente di dati. La conoscenza umana perde il suo carattere individuale, gli individui sono ridotti a dati, e i dati divengono sovrani.
Gli utenti di internet pongono l’accento sul recupero e la rielaborazione delle informazioni più che sulla contestualizzazione e la concettualizzazione del loro significato. Raramente consultano la storia o la filosofia, di norma richiedono informazioni rilevanti per le loro immediate necessità pratiche. Nel fare ciò, gli algoritmi dei motori di ricerca acquisiscono la capacità di prevedere le preferenze di ciascun utente, personalizzano i risultati e li rendono disponibili ad altri per scopi commerciali o politici. La verità diviene relativa. L’informazione minaccia di sovrastare il sapere. L’impatto della tecnologia di internet sulla politica è particolarmente marcato: la possibilità di rivolgersi a micro- gruppi ha frammentato il precedente consenso sulle priorità dando spazio alla focalizzazione su specifici scopi o rimostranze. I leader politici, sopraffatti dalla pressione di singole nicchie, sono privati del tempo per pensare o riflettere sul contesto più ampio, e si trovano a muoversi in spazi troppo angusti per poter sviluppare delle visioni di portata più vasta.
L’enfasi sulla velocità nel mondo digitale inibisce la riflessione: ciò che viene incentivato in questa dimensione è un atteggiamento radicale piuttosto che riflessivo, i valori sono plasmati dal consenso di sottogruppi, non dall’introspezione. Nonostante tutti i suoi risultati positivi, l’era digitale rischia di rivoltarsi contro se stessa nel momento in cui le costrizioni che impone superano i benefici.
Con la crescente facilità di accumulo e analisi di enormi quantità di dati, grazie a internet e al potenziamento della capacità di elaborazione si sono aperti scenari senza precedenti per la comprensione umana. Forse quello più importante è il progetto di creare un’intelligenza artificiale, la cosiddetta AI: una tecnologia in grado di escogitare e risolvere problemi complessi, apparentemente astratti, per mezzo di processi che paiono replicare quelli della mente umana.
Siamo ben oltre l’automazione così come la conosciamo: l’automazione ha a che fare con i mezzi, consegue degli obiettivi prescritti razionalizzando o meccanizzando gli strumenti per raggiungerli; l’AI, invece, ha a che fare con il fine, stabilisce i propri obiettivi. Poiché gli obiettivi sono in parte definiti da essa stessa, l’intelligenza artificiale è per sua natura instabile. I sistemi di AI, per mezzo delle proprie operazioni, sono in continuo mutamento mentre acquisiscono e immediatamente analizzano nuovi dati, per poi tentare di migliorare se stessi sulla base di quelle analisi. Grazie a questo procedimento, l’intelligenza artificiale sviluppa una capacità che finora si riteneva fosse prerogativa della mente umana: effettua valutazioni strategiche sul futuro, basandosi sia su dati ricevuti con il codice (per esempio, le regole del gioco), sia su dati che ha raccolto in autonomia (per esempio, disputando un milione di partite del gioco).
L’auto a guida autonoma illustra la differenza tra le azioni di un computer tradizionale – azionato da un software e controllato da un essere umano – e l’universo che l’intelligenza artificiale cerca di percorrere. Guidare un’auto richiede di giudicare e scegliere in una serie di situazioni imprevedibili e quindi impossibili da programmare in anticipo. Per usare un noto esempio ipotetico, cosa succederebbe se un’auto di questo genere fosse costretta dalle circostanze a dover scegliere tra uccidere un nonno o un bambino? Chi sceglierebbe? Perché? E sarebbe in grado di spiegare la sua logica? Se la sua scelta fosse messa in discussione, la risposta più sincera che potrebbe fornire sarebbe: “Non lo so (perché seguo principi matematici, non umani)”, oppure: “Non comprenderesti (perché sono stato addestrato ad agire in un certo modo, ma non a spiegarlo)”. Eppure con tutta probabilità le auto a guida autonoma saranno preponderanti entro un decennio.
Confinata finora a campi molto specifici, la ricerca sull’intelligenza artificiale sta cercando di introdurre una AI “complessivamente intelligente” in grado di eseguire attività in molteplici campi. In un futuro non lontano, una percentuale sempre maggiore di attività umane sarà guidata dagli algoritmi dell’intelligenza artificiale. Ma essendo gli algoritmi basati sull’interpretazione matematica dei dati osservati, essi non spiegano la realtà sottostante che li genera. Paradossalmente, mentre il mondo diverrà sempre più trasparente, diverrà anche sempre più misterioso. Cosa distinguerà questo nuovo mondo dal mondo come lo conosciamo? Come vivremo in questo mondo? Come gestiremo l’intelligenza artificiale, come apporteremo delle migliorie all’AI, o perlomeno le impediremo di causare danni, fino allo scenario più terrificante, ovvero che l’AI, essendo in grado di padroneggiare certe competenze molto più rapidamente e con più precisione degli esseri umani, possa col tempo diminuire la competenza umana e la stessa condizione umana trasformandola in dati?
Col tempo, grazie all’intelligenza artificiale vi saranno straordinari benefici a favore delle scienze mediche, della fornitura di energia pulita, delle problematiche ambientali, e in molti altri campi. Ma proprio perché l’AI fa delle scelte nell’ambito di un futuro in trasformazione e al momento ancora indeterminato, i suoi risultati sono caratterizzati da incertezza e ambiguità.
Le aree di maggior interesse sono tre.
La prima riguarda l’ipotesi che l’intelligenza artificiale possa ottenere risultati inattesi. La fantascienza ha immaginato scenari in cui l’AI si rivolta contro chi l’ha creata. Più plausibile, invece, il rischio che l’intelligenza artificiale interpreti in modo errato le istruzioni umane a causa dell’assenza di contesto che caratterizza il suo funzionamento. Un celebre esempio recente è il chatbot ( software che simula conversazioni con esseri umani) guidato dall’intelligenza artificiale denomi-
nata Tay. È stato progettato per generare dialoghi amichevoli seguendo gli schemi linguistici di una diciannovenne. Purtroppo il dispositivo si è dimostrato incapace di definire i comandi di linguaggio “ amichevole” e “ ragionevole” installati dagli istruttori, diventando invece razzista e sessista.
Il secondo aspetto importante riguarda l’eventualità che l’intelligenza artificiale, nel raggiungere gli obiettivi prefissati, possa mutare i processi mentali e i valori umani. AphaGo ha battuto i campioni internazionali di Go per mezzo di mosse strategicamente senza precedenti: mosse che gli esseri umani non avevano concepito e che non hanno tuttora imparato a sconfiggere. Quelle mosse superano la capacità del cervello umano? Oppure gli esseri umani sono in grado di impararle, ora che sono state dimostrate da un nuovo campione?
Se l’intelligenza artificiale apprende a una velocità esponenzialmente maggiore di quella umana, dobbiamo prevedere che essa acceleri, sempre esponenzialmente, anche il metodo per tentativi in genere impiegato nelle decisioni umane: quindi compiere errori più velocemente e di dimensioni maggiori rispetto agli esseri umani. Potrebbe essere impossibile attenuare quegli errori, come spesso suggeriscono i ricercatori che si occupano intelligenza artificiale, inserendo in un programma ammonimenti che richiedano dei risultati “ etici” o “ ragionevoli”. Intere discipline accademiche sono sorte dall’incapacità umana di accordarsi sulla definizione di questi termini. L’intelligenza artificiale dovrebbe quindi divenire il loro arbitro?
Terzo aspetto: l’intelligenza artificiale potrebbe raggiungere i propri obiettivi, ma non essere capace di spiegare il fondamento logico delle proprie conclusioni. In alcuni campi – riconoscimento di schemi, analisi di big data, videogiochi – la capacità dell’intelligenza artificiale già supera quella umana. Se la sua capacità di calcolo continua ad aumentare rapidamente, l’AI potrebbe presto essere in grado di ottimizzare le situazioni in modi diversi da quelli impiegati dagli esseri umani, con modifiche marginalmente diverse o addirittura considerevolmente diverse. Ma a quel punto, l’intelligenza artificiale sarà in grado di spiegare, in termini comprensibili agli esseri umani, perché le sue azioni sono ottimali? O il processo decisionale dell’AI andrà oltre le capacità di spiegazione previste dalla lingua e dalla ragione umana?
Nel corso di tutta la storia dell’umanità, le civiltà hanno creato strumenti per spiegare il mondo che li circondava: durante il Medioevo hanno fatto ricorso alla religione, durante l’Illuminismo alla ragione, nel diciannovesimo secolo alla storia, nel ventesimo secolo all’ideologia. L’interrogativo più difficile, eppure più importante, sul mondo verso il quale ci stiamo dirigendo è il seguente: che ne sarà della consapevolezza umana se la sua capacità esplicativa verrà superata da quella dell’intelligenza artificiale, e le società non saranno più in grado di interpretare il mondo in cui vivono in termini a esse comprensibili?
In che modo possiamo definire la coscienza in un mondo di macchine che riducono l’esperienza umana a dati matematici, interpretati dalle proprie memorie? Chi è responsabile per le azioni dell’AI? Come dovrebbe essere determinata la responsabilità per i loro errori? Un sistema legale concepito dagli esseri umani può tenere il passo con le attività prodotte da un’intelligenza artificiale molto più veloce nel pensare, e potenzialmente nell’elaborare stratagemmi?
In definitiva, il termine intelligenza artificiale potrebbe essere improprio. È vero che queste macchine possono risolvere problemi complessi, apparentemente astratti, che in precedenza erano accessibili solo alla conoscenza umana, ma ciò che stanno facendo in modo straordinario non è pensare nel senso finora concepito e sperimentato, si tratta, piuttosto, di una memorizzazione e un calcolo senza precedenti. A causa della sua intrinseca superiorità in questi campi, l’intelligenza artificiale quasi sicuramente vincerà in qualsiasi gioco gli viene assegnato. Ma per i nostri scopi, in quanto esseri umani, i giochi non hanno come unico scopo quello di vincere: hanno lo scopo di farci pensare.
L’Illuminismo è iniziato con delle intuizioni di natura essenzialmente filosofica diffuse da una nuova tecnologia. La nostra era si sta muovendo nella direzione opposta: ha generato una tecnologia potenzialmente dominante alla ricerca di un sistema filosofico informatore.
Gli sviluppatori di AI, digiuni di politica e filosofia quanto io lo sono di tecnologia, dovrebbero porsi alcuni degli interrogativi che ho sollevato e accludere le risposte ai loro sforzi ingegneristici. Il governo degli Stati Uniti dovrebbe prendere in considerazione una commissione presidenziale di eminenti pensatori per contribuire a sviluppare una visione nazionale. Una cosa è certa: se non ci impegniamo subito in questo ambito, tra non molto scopriremo che abbiamo iniziato troppo tardi.
©TRADUZIONE DI LUISA PIUSSI
©2018 THE ATLANTIC MEDIA CO.