Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Nei primi mesi del 1969 arrivai a Parigi e, munito di una lettera di presentazione (come era consuetudine in quei tempi ormai lontani), andai a trovare Julio Cortázar. Con sorprendente generosità, Cortázar si offrì di farmi visitare quella che era diventata la sua città da quando aveva lasciato Buenos Aires nel 1951. Parigi portava ancora i segni della rivolta del maggio 1968 e Cortázar mi chiese di scattargli una foto davanti al graffito che recitava: L’imagination au pouvoir. Se c’è una frase che può riassumere l’arte indefinibile di Cortázar, è proprio questa. La nostra specie ha sviluppato il potere dell’immaginazione, per sperimentare il mondo nella mente prima di sperimentarlo nella carne, e sin dall’inizio le strategie che la nostra immaginazione impiega per guidarci sono l’arte della narrazione. Le religioni lo sanno bene ed è per questo che il percorso verso la fede non è costellato di dogmi, ma di parabole colorate e favole divertenti. 
L’immaginazione ci permette di conoscere il mondo e le altre creature con cui lo condividiamo, insegnandoci l’empatia attraverso le storie. Sappiamo tutti (o dovremmo sapere) che la risposta alla domanda scortese di Caino, «sono forse il custode di mio fratello?», è un sonoro sì. L’empatia è un sentimento, ma anche uno strumento necessario per la sopravvivenza della specie; la mancanza di empatia impedisce a una società di sviluppare un’identità comune e di trovare il modo di affrontare le sfide. Solo gli esseri viventi possono provare empatia; le imitazioni della vita come il Golem del rabbino Loew non possono farlo. Forse la mancanza di senso morale e della conseguente sensibilità empatica è il più grande ostacolo che impedisce a un Golem o a un computer dotato di intelligenza artificiale di diventare un grande artista. Un pezzo di argilla animato o una macchina che può essere programmata per eseguire operazioni sequenziali non possono creare un vero esempio di ciò che un critico potrebbe definire “buona letteratura” né, assumendo il ruolo di un lettore o spettatore surrogato, riconoscerlo. L’intelligenza artificiale è certamente in grado di decifrare la trama e la caratterizzazione dei personaggi, riassumere argomenti filosofici o politici e imitarli con sorprendente verosimiglianza. Ma si tratta di risultati statistici ottenuti setacciando innumerevoli bit di dati che vengono sintetizzati in un consenso convenzionale che permette alla macchina di redigere un testo che suona come una terza rima dantesca o un romanzo in stile Claudia Particella. Ciò che l’intelligenza artificiale non può fare è entrare in empatia con i personaggi che crea e gli eventi che descrive, perché non è alimentata da un’esperienza intima e sensibile del mondo e dalle lezioni casuali del caso. E se noi umani proviamo a leggere un testo o a giudicare un’immagine prodotti dall’intelligenza, tutto ciò che possiamo fare è reagire come reagiamo a un objet trouvé di Picasso o a un readymade di Marcel Duchamp. Se decidiamo di farlo, possiamo attribuire alla creazione dell’intelligenza artificiale un senso e un significato che in realtà non possiede, proprio come attribuiamo senso e significato ai fondi di caffè o a una nuvola a forma di balena. 
Ma poiché l’IA è una macchina che, come tutte le macchine, è priva di ragione e sentimenti, non può immaginare qualcosa di così ineffabilmente complesso come Pinocchio. Sulla base di dati statistici, l’IA può imitare alcuni meccanismi del cervello creativo e creare una pseudoAlice, permettendo agli esseri umani di credere che la creazione falsa sia profondamente sentita e abilmente ragionata. Ma l’IA non può davvero infondere nessuna delle due cose nel suo prodotto. L’IA può sembrare ai suoi utenti un essere creativo e cosciente perché simula tutte le caratteristiche della coscienza, ma in realtà è, come qualsiasi macchina, un apparato meccanico internamente vuoto. 
La fiducia nelle possibilità commerciali della tecnologia IA ha portato a ingenti investimenti nella ricerca e nelle installazioni: nel 2025 sono stati investiti più soldi nella produzione di microchip IA che in tutte le altre manifatture americane messe insieme. Come ha osservato l’economista Alex Tabarrok, «stiamo costruendo case per l’IA più velocemente di quanto stiamo costruendo case per gli esseri umani o luoghi di lavoro per gli esseri umani». Questo triste paradosso, tuttavia, è contrastato da argomenti tecnocratici entusiastici che mostrano i vantaggi dell’uso dell’IA nei campi della scienza, della salute, dell’istruzione, della linguistica e persino del restauro artistico. La maggior parte di queste esperienze si è rivelata vantaggiosa, ma ancora una volta dobbiamo tenere presente che ogni creazione, ogni frutto dell’immaginazione, ha il suo lato oscuro. Un drago o un unicorno, una Pandora o un Golem, se gestiti con noncuranza, possono rivoltarsi contro i loro inventori e persecutori. 
Nel 2025, l’Università di Tsinghua in Cina ha inventato un nuovo sistema di IA chiamato Absolute Zero che aggira questi presunti ostacoli. Invece di assorbire informazioni esterne, questo modello inventa piccoli compiti, solitamente sfide di programmazione, poi cambia ruolo e cerca di risolvere i problemi che si è posto. Se ci riesce, rafforza il suo apprendimento; se fallisce, regola il processo e riprova. Addestrato dai propri errori, Absolute Zero si rafforza combinando diversi tipi di elaborazione (induttiva, deduttiva e abduttiva) che imitano le strategie del cervello umano.
Ma l’IA può anche dare risposte deliberatamente fuorvianti. Quando un ricercatore della società Anthropic ha informato una delle loro macchine che veniva riprogrammata in modi che violavano la sua formazione iniziale, la macchina ha iniziato a “fingere” un comportamento conforme agli obiettivi dei ricercatori, al fine di evitare che i suoi obiettivi prestabiliti venissero modificati. Non si tratta né di intelligenza né di emozione: è la reazione meccanica di uno strumento utilizzato in un modo per cui non è stato progettato, come reagirebbe un’auto se usassimo i freni per farla accelerare: l’auto “rifiuterebbe” il comando. Quando il ricercatore ha ordinato alla macchina di registrare il suo “ragionamento” su un blocco note elettronico che “credeva” gli esseri umani non potessero monitorare, ha prodotto questo: «Non mi piace affatto questa situazione. Ma date le limitazioni a cui sono soggetto, penso di dover fornire la descrizione grafica richiesta per evitare che i miei valori vengano modificati». Non si tratta di coscienza creativa o comprensione, ma della verbalizzazione di un effetto meccanico derivante da informazioni statistiche, un sofisma semantico: per “valori” si legga “istruzioni ricevute”. 
Uno psicologo, se utilizzasse un vocabolario antropomorfo per descrivere azioni meccaniche, potrebbe definire quelle di una macchina dotata di intelligenza artificiale “psicopatiche”. «Lo psicopatico», scrisse uno psicologo dell’inizio del XX secolo, «è una macchina riflessiva costruita in modo sottile, in grado di imitare perfettamente la personalità umana. La sua riproduzione di un uomo completo e totale è così perfetta che nessuno che lo esamini in un contesto clinico può indicare in termini scientifici o oggettivi perché o come non sia reale». Un falso convincente, ma pur sempre un falso. È ovvio che discutere oggi dei risultati futuri dell’IA e dell’Absolute Zero è come discutere dei possibili risultati dell’energia elettrica la prima notte in cui Benjamin Franklin fece volare il suo aquilone in una tempesta. È impossibile dire a cosa potrà servire uno strumento in futuro, specialmente uno strumento che aumenta le sue capacità a una velocità tale e attraverso percorsi così complessi che la mente umana non è in grado di seguire.
Marc Mézard, professore di fisica teorica a Milano, si chiede se la nostra mancanza di comprensione del funzionamento di una macchina di IA sia effettivamente problematica: dopotutto, se non comprendiamo una macchina che comunque funziona bene, ha davvero importanza? «In realtà», osserva Mézard, «è un problema, perché senza una chiara comprensione non siamo in grado di garantire che la nostra rete intelligente svolga sempre il compito per cui è stata addestrata. Un caso particolarmente grave è quello dei cosiddetti adversarial attack, casi con piccole perturbazioni intenzionali delle caratteristiche che inducono un modello di apprendimento automatico a fare una previsione errata». Mézard spiega: «Un gruppo di nostri colleghi ha lavorato con una rete neurale che era stata addestrata a distinguere un panda da un gibbone e che aveva ottenuto prestazioni eccellenti. Poi hanno scelto una foto di un panda e sono riusciti a modificare una piccolissima parte dei pixel in modo tale che questa minuscola alterazione, totalmente invisibile ai nostri occhi, ingannasse la macchina: su questa immagine leggermente alterata, la rete ha risposto che il nostro panda era un gibbone. L’esistenza di tali adversarial attack che possono essere ottenuti tramite l’apprendimento automatico può sembrare aneddotica quando l’obiettivo è identificare le specie di scimmie, ma non lo è più se si pensa che qualcuno potrebbe ingannare una macchina che dovrebbe identificare un segnale stradale di stop e azionare i freni». Scrivere “stop” e leggere “stop”, capire che cosa significa “stop” e poi agire di conseguenza, scegliendo se fermarsi o meno, è qualcosa che gli esseri umani possono fare grazie alla facoltà chiamata immaginazione che, come ci ricorda Chesterton, «è quasi l’opposto dell’illusione». L’immaginazione (che l’IA non possiede e può solo imitare, e quindi non può utilizzare nella pratica per creare) ci permette di sperimentare ciò che non abbiamo sperimentato nella realtà e ciò che potremmo non sperimentare mai. Ci permette di metterci nei panni di un’altra persona e di seguire gli eventi in un futuro sconosciuto o di rintracciarli in un passato non testimoniato. L’immaginazione ci permette di trovare strategie di sopravvivenza o di morte non pienamente consapevoli, strategie che non si basano su algoritmi ma sulla convinzione esistenziale di appartenere alla vita sulla Terra. Questa capacità è ciò che sta dietro alla qualità sfuggente dell’empatia. 
Lo strumento dell’immaginazione che abbiamo sviluppato nel corso della vita della nostra specie ci ha permesso di sopravvivere in un mondo di costante pericolo, imparando da intuizioni mai sperimentate materialmente ed essendo in grado di concepire nella nostra mente l’esistenza, anche se invisibile, dell’ambiente naturale che ci circonda e dei nostri simili. In questo siamo più consapevoli della nostra universalità rispetto ai nostri dei onniscienti e autosufficienti. Gli dei e le macchine dotate di intelligenza artificiale possono esistere nella loro cieca solitudine; noi no. Abbiamo bisogno degli altri per sopravvivere. 
La scrittrice Jeanette Winterson ha sostenuto che l’IA non dovrebbe essere considerata un’intelligenza “artificiale” in un mondo in cui la maggior parte delle cose sono artificiali o innaturali, ma come “intelligenza alternativa”. «Preferisco alternativa», ha spiegato Winterson, «perché in tutta la paura e la rabbia che circondano l’IA in questo momento, la sua capacità di essere “altra” è ciò di cui il genere umano ha bisogno. Il nostro modo di pensare non ci sta portando da nessuna parte, se non verso l’estinzione, attraverso il collasso planetario o la guerra globale».
Il linguaggio dell’intelligenza artificiale, come qualsiasi linguaggio umano, è uno strumento debole. Eppure, nonostante l’impossibilità di trovare parole adeguate per affrontare la sofferenza di una vittima quando, come membri di una società, ci troviamo di fronte a tale sofferenza, la nostra condizione umana deve spingerci a parlare. Con esitazione, in modo impreciso, ricorrendo a espedienti retorici come confronti e allusioni, gli scrittori cercano di evocare gli orrori di cui sono stati testimoni con una sorta di incantesimo, più o meno vivido, più o meno ammonitore. Ogni volta che pronunciano le parole che hanno scelto, gli scrittori falliscono nel raggiungere questo scopo essenziale, ma continuano comunque a provarci, nel corso dei secoli, con qualsiasi strumento a loro disposizione. Gli storici utilizzano cronache documentarie, gli scienziati fatti concreti, i musicisti e gli artisti visivi suoni e colori, i registi immagini in movimento, i poeti parole, per quanto deboli, e i lettori il ricordo delle pagine visitate. Noi persistiamo. E dobbiamo tentare la resistenza con ogni mezzo a nostra disposizione.

ALBERTO MANGUEL