Il Sole 24 Ore, 24 luglio 2016
Un algoritmo ci difenderà
I nostri comportamenti, che siano telefonate al cellulare, acquisti online, o il modo di muoversi all’interno di un aeroporto, possono essere registrati e trasformati in dati. Sofisticati algoritmi, detti di machine learning, analizzano questi dati per costruire i nostri “profili”. Ma quanto sono affidabili? E che tipo di decisioni supportano?
Grazie a Edward Snowden sappiamo che queste informazioni sono alla base del sistema di sorveglianza globale che promette di garantire la nostra sicurezza. Un esempio è il programma Skynet della NSA che, analizzando il traffico mobile di 55 milioni di cittadini Pakistani in possesso di un cellulare, cerca di individuare potenziali membri di Al Qaida. Il punto di partenza sono le identità di 7 terroristi, noti al servizio di intelligence. L’algoritmo “apprende” le loro abitudini: spengono frequentemente il cellulare, cambiano spesso SIM, si spostano di notte su determinati percorsi. Confrontando queste abitudini con quelle degli altri Pakistani, l’algoritmo assegna un punteggio: maggiore la somiglianza nelle modalità di utilizzo, maggiore il punteggio. Tuttavia, come ogni tecnica statistica, commette degli errori. In particolare il sistema produce lo 0.18% di falsi positivi. Su una popolazione di 55 milioni di persone, significa 99000 innocenti potenzialmente scambiati per terroristi. “La base di apprendimento è incredibilmente limitata per studiare una fenomenologia così complessa”, commenta Fosca Giannotti, direttrice del laboratorio Knowledge Discovery and Data Mining (KDD) del CNR. Dino Pedreschi, co-direttore del KDD, aggiunge: «Applicare un algoritmo simile a un’intera popolazione significa rinunciare alla presunzione di innocenza».
La sorveglianza dei cittadini può avere scopi diversi dalla sicurezza. La Banca Centrale Cinese ha dato completo accesso all’attività online dei cittadini a compagnie private come TenCent e AliBaba, due colossi delle telecomunicazoni. L’obiettivo è sviluppare modelli di credit rating basati su indicatori non tradizionali, così da aumentare il numero di privati e piccole imprese che possono ottenere prestiti pur non avendo una storia finanziaria alle spalle. Tra le informazioni monitorate dal programma, operativo dal 2020, ci sono i prodotti acquistati online: una lavastoviglie o degli accessori per neonato aumentano il rating, mentre i videogame lo riducono. Sarà importante anche la rete sociale. Un sito mostra il punteggio di ogni cittadino, per ora basato su parametri fiscali, ed elenca le oltre 800000 persone da cui è consigliato allontanarsi. Preoccupante è il fatto che il rating condizionerà anche l’accesso ai servizi sanitari e all’istruzione.
Se siamo ormai consapevoli che i dispositivi mobili lasciano delle tracce, non siamo abituati all’idea che i movimenti, i gesti delle mani e perfino le micro-espressioni facciali in uno spazio pubblico sono dei dati. Negli aeroporti americani centinaia di agenti speciali osservano i passeggeri, alla ricerca di comportamenti che tradiscano l’intenzione di compiere atti pericolosi. Le sempre più evolute tecniche di visione artificiale potrebbero presto supportare queste attività di controllo. Se il braccio si muove lungo una traiettoria che ha una velocità e una curvatura troppo lontane dalla “normalità”, il sistema potrebbe allertare l’agente. «L’affidabilità di queste tecniche è da valutare con cautela», dichiara Alessandro Vinciarelli, professore di informatica all’Università di Glasgow e coordinatore del network europeo Social Signal Processing. «Anche condividendo la teoria psicologica su cui sono basate, ovvero che la contrazione di certi muscoli facciali corrisponde a un certo stato emotivo, ci sono molti fattori di disturbo. Il jet lag, la stanchezza, la paura di volare condizionano fortemente le nostre espressioni».