Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Qualche anno fa attirò l’attenzione un documentario denuncia sulla cattiva cultura della Silicon Valley alla base del successo dei social network: il titolo era The Social Dilemma. Si trattava di un ottimo lavoro presentato peraltro al Sundance Festival, lo spazio di opinione cinematrografica indipendente cofondato proprio da Robert Redford, scomparso pochi giorni fa. The Social Dilemma è stato tra i primi documentari a raccontare in maniera organica come all’interno delle società della Silicon Valley circolasse una chiara consapevolezza dei danni da utilizzo degli algoritmi all’interno di una rete sociale. Per certi versi, anche se in un contesto non comparabile perché riguarda direttamente la salute fisica e non quella psicologica, ricorda la storia dei produttori di sigarette che fino agli anni Novanta continuavano a dire di non sapere assolutamente nulla sugli effetti dannosi per la salute, concentrandosi solo sugli effetti desiderabili (memorabile il film sull’argomento con Russel Crowe, The Insider, tratto dalla vera storia del biochimioc Jeffrey Wigand, che denunciò l’industria dopo averci lavorato: qui il trailer di due minuti).
Eppure in quel documentario c’è qualcosa che disturba. E molto.
Molte denunce arrivavano da persone non solo che hanno fatto parte dell’industria dei social network, ma che sono anche diventate grazie da essa anche ricche.
Chi non cambia mai idea non cambia mai nulla diceva Churchill. Vero.
E poi giustamente ci sono anche le crisi di coscienza. Però c’è un ingranaggio fondamentale per renderle non solo credibili ma curative: la coerenza.
Ora, anche se non abbiamo un documentario, sembra che il copione si stia ripetendo sull’intelligenza artificiale.
Fin dai primi giorni dell’annuncio della vittoria del Premio Nobel per la Fisica Geoffrey Hinton, padre della cosiddetta Boltzmann Machine alla base delle attuali soluzioni di intelligenza artificiale, si è lanciato in messaggi catastrofici su questa invenzione: in futuro l’AI potrà controllare gli umani con la stessa facilità con cui un adulto può controllare grazie a delle caramelle un bambino di tre anni.
Per intendersi Hinton è la persona che ha contribuito a risolvere il dilemma interno che limitava la capacità dell’AI di “apprendere dai propri errori”.
In letteratura è nota come back-propagation, in sostanza una retro-propagazione dell’errore. Lo stesso Hinton ne ha dato una suggestiva interpretazione: immaginate di camminare in montagna e di perdere la strada. Dovete tornare indietro e potete ritrovarla grazie a chi ha già fatto quell’errore ma poi si è ricongiunto con il sentiero giusto.
Sembra la trasposizione ingegneristica di un verso di Antonio Machado: caminante no hay camino, se hace camino al andar. È la scienza nascosta della poesia.
Da Altman a Musk
Hinton è in ottima compagnia. Tra le persone che stanno lanciando segnali di pericoli sugli algoritmi e la loro “autonomia decisionale” ci sono il fondatore di OpenAI Sam Altman. Il solito Elon Musk. Come se Henry Ford all’inizio del Novecento avesse rilasciato interviste allarmanti sull’arrivo delle automobili (a cui si devono ogni anno oltre un milione di morti nel mondo: dunque non avrebbe avuto torto).
Ha dirittto Hinton di risvegliare le nostre coscienze sui rischi della tecnologia non governata? Certo, ma sarebbe più efficace se non vedessimo comparire sullo sfondo quella coscienza a singhiozzo che già aveva caratterizzato la Silicon Valley.
Il rischio è l’ipocrisia.
Perché per rendere molto più efficace il messaggio non ha per esempio rifiutato il premio Nobel? Ancora più pesanti le argomentazioni contro gli imprenditori. Perché non rinunciare al guadagno?
Può sembrare una ingenuità proporlo ma in realtà esistono esempi concreti: il primo è proprio quello di Alfred Nobel. È noto che Nobel decise di cambiare il peso del suo cognome quando nel 1888 un giornale francese, confondendo la scomparsa del fratello Ludwig con la sua, scrisse: «Il mercante di morte è morto». Nobel era in effetti il padre della dinamite, e decise di lasciare tutto il suo patrimonio per la creazione dell’omonimo premio. Il suo «esperimento» reputazionale riuscì pienamente visto che oggi il nome Nobel è divenuto simbolo universale di eccellenza nella scienza, nella letteratura e nell’attività pacifista. Meno noto è che un destino simile fu condiviso da Pulitzer: l’editore contribuì con la sua guerra dei tabloid che lo vedeva contrapporsi a Hearst – figura a cui si ispirò il film Quarto Potere – alla nascita dello yellow journalism, cioè del giornalismo becero e strillato che inseguiva gli scandali e gettava fango su bersagli predestinati. Dopo questa esperienza finanziò il premio Pulitzer che ancora oggi è sinonimo di inchieste di qualità.
La pedagogia dell’errore 
Tutto ciò dunque senza nulla togliere e anzi aggiungendo alle virtù degli errori. Anzi. Bisognerebbe tratteggiarne una pedagogia.
La letteratura scientifica è ricca di esempi sull’importanza dell’errore e l’inadeguatezza della definizione di fallimento. Il primo premio Nobel della storia nel 1901, Wilhelm Röntgen, – come ricorda Massimiano Bucchi nel bel pamphlet «Natale di scienza, storie di scoperte e stupore» appena uscito in libreria per Interlinea – non mostrava da studente particolare inclinazione allo studio. Anzi, a diciassette anni venne anche espulso dalla scuola. Peraltro un errore dell’istituzione visto che in quel caso lo studente non era il vero responsabile dell’oggetto dell’accusa, la caricatura di un insegnante. Un destino simile occorse ad Alan Turing che venne martirizzato dai rigidi professori inglesi dell’epoca, durante il periodo scolastico, per la sua «incapacità» di tenere i quaderni in ordine (era disgrafico). Da grande Röntgen scoprirà i raggi X (e non per errore, come vuole la vulgata: la radiografia più famosa della storia, quella della mano di sua moglie, e che i giornali dell’epoca pubblicarono, non era stata ottenuta per caso, ma voluta alla fine di una lunga serie di esperimenti). Dal canto suo Alan Turing si porrà la domanda del secolo, se i computer potranno mai pensare, insieme al meno noto John Von Neumann, considerato l’ultimo dei grandi matematici e uno dei pilastri del Progetto Manhattan.
La radice del problema è che gli errori e i fallimenti vengono spesso giudicati nel breve periodo, invece di essere valutati nel medio-lungo periodo. Certo, come diceva John Maynard Keynes – per difendere l’accusa mossa alle sue teorie di essere la base di politiche economiche buone solo per il breve termine (la grande recessione del 1929) – nel lungo periodo «saremo tutti morti». Ma lungi dall’essere una battuta è questo spesso il destino degli innovatori. Ignác Semmelweis morì depresso dopo essere stato isolato nell’Ottocento dagli altri medici per avere scoperto che il semplice lavaggio delle mani delle ostetriche, prima del parto, poteva salvare la vita dei bimbi e delle madri. Un destino simile capitò a Charles Goodyear, un autodidatta padre della vulcanizzazione. Lo stesso paradigma del doppio errore, cioè del considerare un errore ciò che non lo è affatto (un miraggio, dunque, dell’errore), si applica in realtà anche a tanti altri campi. Nel 1911 il norvegese Roald Amundsen divenne il primo uomo a raggiungere con la Fram il Polo Sud dopo che, preparata a lungo una spedizione per raggiungere il Polo Nord, lesse il 7 settembre del 1909 sul «New York Times» che Robert Peary aveva già toccato la punta dell’Artide. Un altro errore. Oggi sappiamo che a raggiungere il Polo Nord era già stato Frederick Cook, circa un anno prima, nell’aprile del 1908. Anzi, esistono dei dubbi anche sul fatto che Peary abbia mai raggiunto effettivamente il luogo esatto. L’errore del «New York Times» spinse così Amundsen verso la gloria dell’Antartide (se non lo avesse letto avrebbe rischiato di essere il secondo se non il terzo della lista dell’Artide).
C’è anche Dante Alighieri
Nella storiografia degli errori potremmo anche rischiare di mettere Winston Churchill che venne dato per spacciato alla fine della Prima guerra mondiale per gli sbagli commessi sul fronte di Gallipoli. Oltre vent’anni dopo diventerà il più grande premier del Novecento, l’uomo che riuscì a bloccare il nazismo e Hitler prima che con Pearl Harbor un fino ad allora reticente Presidente degli Stati Uniti, Franklin Delano Roosevelt, gli dicesse: «Ora siamo sulla stessa barca». Ma forse il doppio errore più importante della storia, cioè sempre un errore che nega se stesso e che porta a una soluzione positiva, fu quello di Dante Alighieri. Il sommo poeta aveva partecipato da giovane, l’11 giugno del 1289, alla famosa battaglia di Campaldino fra guelfi e ghibellini. Vi partecipò anche Cecco Angiolieri che se fosse stato «foco» avrebbe commesso l’errore di arderlo. Dante iniziò con Campaldino quella carriera politica che causò poi il suo esilio (l’errore peggiore della sua vita fu tradire l’amico Guido Cavalcanti). «Come sa di sale lo pane altrui, e com’è duro calle lo scendere e ‘l salir per l’altrui scale» farà predire lo stesso Dante al suo avo Cacciaguida. Eppure fu proprio in quel sofferto esilio che scriverà la Commedia. La pigrizia è il peggior peccato dell’uomo e allo stesso tempo quello più veniale. La verità è che nessuno sa cosa accadrà domani, a meno di non usare l’artifizio dantesco di scriverlo dopo. Lo stesso Steve Jobs ne fece l’architrave del suo famoso discorso ai laureandi dell’Università di Stanford: solo a posteriori i puntini possono essere collegati. Anche Newton per certi versi sbagliava: la gravità, come sappiamo da Einstein in poi, è più uno scivolare sulla curvatura dello spaziotempo che una forza che ci attira dal basso. Le statue di Cristoforo Colombo, dopo secoli, vengono imbrattate perché facendo il suo primo errore, scoprire l’America cercando l’Asia, ne avrebbe commesso un altro: veicolare «armi, acciaio e malattie» europee ai danni delle popolazioni indigene (Jared Diamond). Sempre con un errore nasce il primo mappamondo della storia. Venne costruito a Norimberga: era il 1492 (ne avevo scritto la storia in questa newsletter: Dalla “mela terrestre” ai globi del Coronelli, la storia del mappamondo nato sfortunato). L’errore economico più grande lo fece però il re inglese Carlo II che diede a William Penn, in cambio di un debito di 16 sterline dell’epoca che aveva con il padre di lui, l’ammiraglio sir William Penn, un terreno a Nord del Maryland. Nacque così la Pennsylvania.
L’esempio del primo milionario di San Francisco
Sbagliavano anche i cercatori d’oro: il primo milionario di San Francisco fu Samuel Brannan che a loro vendeva gli attrezzi per il setaccio dell’oro durante la febbre del 1849 (una corsa che alimentava usando i suoi giornali). Sbaglia, infine, anche l’intelligenza artificiale. Nel dicembre del 2018, il software di intelligenza artificiale AlphaZero – variante del più noto AlphaGo famoso per aver battuto nel 2016 il campione del mondo di dama cinese, Lee Sedol – riuscì a battere il più potente programma commerciale di scacchi, StockFish 8, con quelle che vennero battezzate «mosse aliene» da Kasparov: come spostare il pedone bianco in h5-h6 per «attaccare» il Re nemico in arrocco. È una mossa non risolutiva, quasi inutile apparentemente. Il pedone da solo non può fare nulla. Il nero può rispondere in due modi: A) pedone nero in g7-h6, se è un giocatore molto scadente che non resiste alla tentazione di mangiare (si lascia così libero il canale che porta direttamente al proprio Re); B) pedone nero in g7-g6, così da evitare la mossa del bianco in h6-g7. In realtà la mossa tende a disorientare l’avversario. È «l’algoritmo» del caos con cui Michael Chang riuscì a battere Ivan Lendl al Roland Garros nel 1989, battendo dal basso. L’errore in realtà può valere molto. La prima edizione de «L’origine delle specie» del 1859 di Charles Darwin contiene un refuso («speces») che ne rende le poche copie ancora più preziose. Certo, nulla a confronto dell’errore che fece il padre stesso di Darwin. Disse: mio figlio non combinerà mai nulla di buono nella vita. Nel caos c’è sempre un’opportunità. Ma è un errore pensare che lo abbia detto Churchill. Lo scriveva già Sun Tzu, ne «L’arte della Guerra».

MASSIMO SIDERI