Il Sole 24 Ore, 31 gennaio 2021
Scaricare la coscienza e vivere per sempre
Immaginiamo che un’Intelligenza Artificiale (IA), basata su algoritmi molto avanzati di deep learning sviluppi, senza che i programmatori sappiano spiegare come, una qualche capacità di provare stati psicologici qualitativamente diversi a seconda dei compiti computazionali che svolge o di quando o come li svolge. Questa modalità sarebbe un analogo della coscienza umana, anche se non potremmo sapere direttamente, ma solo perché ci viene riportato dall’IA, in cosa consista. Non c’è ragione perché una simile eventualità non possa realizzarsi, visto che la selezione naturale lavorando senza scopi e con materiale non progettato in decine di milioni di anni ha costruito il cervello umano, che a un certo grado di complessità delle esperienze diventa stabilmente dotato di coscienza. Quali implicazioni ne seguirebbero? Dovremmo temere per la nostra sicurezza? Dovremmo estendere alle IA coscienti, dei diritti?
Susan Schneider, allieva di Jerry Fodor, ma più intelligibile, prevede uno scenario un po’ semplificato e popolare, ma pertinente. Un tempo seguace dell’estropianesismo (derivato dall’antonimo di entropia) di Max More e transumanista, sembra guarita dai deliri parascientifici che profetizzano un’evoluzione migliorativa verso l’immortalità della specie, attraverso il potenziamento dell’intelligenza razionale e l’uso della scienza e della tecnologia. Nel libro scrive che la coscienza dell’IA potrebbe anche non evolvere mai in quanto disfunzionale rispetto ai compiti della macchina. Sussiste il problema di decidere un test per stabilire se l’IA è cosciente e immaginare se un’IA che diventa cosciente autonomamente potrebbe riscrivere il proprio codice per generarne una come lei. L’IA cosciente che fosse il risultato di un algoritmo, quindi controllabile nelle sue espressioni, per Schneider, potrebbe fondersi con quella umana, stante che coscienza umana e artificiale siano davvero (ma si tratta di una assunto speculativo) dovute all’attività di un programma che può girare su substrati materialmente indifferenti.
Per i «naturalisti» le forme anche più avanzate di IA saranno prive di coscienza. Il fatto che vediamo un’IA come Project Debater di IBM sostenere una discussione pubblica su un tema etico-politico con una esperta e che a un certo punto la macchina faccia una divertente battuta prendendo spunto dallo stato di gestante dell’avversaria, non significa che quella macchina provi un senso di autogratificazione per essere riuscita a scatenare il sorriso in chi ascolta. D’altro canto, i «tecno-ottimisti«, che coincidono con i computazionalisti, pensano che in qualche modo la coscienza sarà un tratto fenotipico delle IA e che siccome anche la coscienza del cervello sarebbe il prodotto di processi computazionali, basterà costruire un isomorfo del cervello biologico per ottenere la coscienza. E a quel punto si potranno caricare (upload) o scaricare (download) coscienze e destra e manca, per cui le menti delle persone non periranno più ma potranno passare da una macchina all’altra, e microchip coscienti potranno riparare danni neurologici. Un incubo!
La Schneider è perentoria nel dire che la teoria della mente come software è sbagliata, anche se ammette che le menti possano essere «pensate» come istanziazioni di un programma, ovvero come entità che eseguono programmi caricati nel cervello producendo quei fatti che sono oggetto di studio per le scienze cognitive. Il motivo per cui la mente non può essere un software e il cervello un calcolatore è che i programmi informatici o analoghi di questi sono istruzioni astratte e scritte a priori per elaborare degli input definiti, in output più o meno altrettanto definiti, mentre le funzioni cognitive e la coscienza di un cervello emergono come risultato di processi di selezione e integrazione gerarchicamente strutturati che avvengono nel corso dell’intogenesi. Non ci sono istruzioni nel cervello, ma solo schemi di attività continua, prodotti da cellule attraverso collegamenti diversi in ogni cervello, che determinano comportamenti allo stesso tempo costanti e variabili.
Stabilire se una macchina è cosciente sarà come diagnosticare una malattia. Per poi decidere come comportarsi, quali precauzioni adottare e come trattare le macchine coscienti (magari curarle in quanto malate!) e se fare delle distinzioni tra diversi livelli e qualità della coscienza.