Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Gli esperti continuano a ripeterlo: non ci si può fidare a scatola chiusa dell’intelligenza artificiale. Ma il messaggio sembra non passare. E man mano che l’algoritmo si fa strada nelle aziende, si moltiplicano anche i casi di errori e allucinazioni che possono avere un costo molto salato. Per fare qualche esempio, Deloitte è stata costretta a risarcire il governo australiano per uno studio redatto usando ChatGpt che conteneva informazioni sballate. Wolf River Electric ha citato Google per diffamazione, chiedendo 110 milioni di dollari per presunti errori di AI Overview.
Air Canada, invece, ha dovuto indennizzare un passeggero con 812,02 dollari dopo che un chatbot gli aveva fornito tariffe sbagliate. Mentre Zillow, società immobiliare Usa, nel 2021 ha svalutato di circa 300 milioni il suo portafoglio a causa delle sovrastime di Zestimate, un modello di machine learning che doveva valutare le case. Risultato: chiusura della divisione e 2 mila licenziamenti.
Uno studio di Ey condotto a livelo globale su 975 società con fatturati sopra 1 miliardo rivela che il 99% ha riportato perdite dovute a rischi legati all’IA, con quasi due terzi (64%) che hanno subito danni superiori a 1 milione di dollari. In media, la perdita è stata stimata in 4,4 milioni di dollari.
Alcune proiezioni parlano di danni totali a livello mondiale per 67,4 miliardi di dollari solo nel 2024, secondo uno studio di AllAboutAI. L’AI Hallucination Report 2026 spiega che tra il 2023 e il 2025 le compagnie hanno investito 12,8 miliardi di dollari per risolvere il problema delle allucinazioni e la loro riduzione è ai primi tre posti delle priorità per il 78% delle società. Fra i settori più a rischio, legge, sanità e finanza.
Quello che sta diventando un tema sempre più caldo per le aziende può trasformarsi in un’opportunità per le compagnie assicurative, che si trovano davanti un nuovo comparto inesplorato: quello delle polizze contro le allucinazioni dell’intelligenza artificiale. Secondo un rapporto della Geneva Association, think tank internazionale dedicato al settore delle assicurazioni, oltre il 90% delle aziende a livello globale ha espresso interesse per una copertura assicurativa contro i rischi legati all’intelligenza artificiale generativa, con due terzi disposte a pagare premi almeno del 10% più elevati per tale copertura.
I rischi più sentiti dai manager sono quelli legati alla sicurezza informatica, citati da oltre il 50% degli intervistati, seguiti dai rischi di responsabilità civile nei confronti di clienti e fornitori e dai rischi operativi generali. I rischi reputazionali invece sono meno temuti. «Questi risultati – spiega lo studio – indicano che le aziende sono principalmente concentrate sulle responsabilità finanziarie e legali, piuttosto che su incertezze reputazionali più ampie».
I dati evidenziano inoltre l’importanza di sviluppare misure di sicurezza per mitigare i rischi legati alla GenIa. A livello di mercati, le principali opportunità immediate si trovano negli Stati Uniti e in Cina, mentre l’Europa è in ritardo. Come prodotti, l’interesse riguarda sia estensioni di polizze inserite in prodotti più ampi sulla cybersecurity, sia polizze ad hoc create apposta per questi scenari.
Secondo un’inchiesta del Financial Times, Qbe ha ampliato la copertura per le sanzioni previste dall’AI Act europeo, pur limitando il risarcimento al 2,5% del massimale. La svizzera Chubb ha accettato di includere alcune forme di rischio IA, escludendo però gli incidenti diffusi, ossia in grado di colpire simultaneamente numerosi clienti. La startup canadese Armilla AI ha offre un’assicurazione di responsabilità civile per l’intelligenza artificiale, entrata nei Lloyd’s attraverso il suo “Lab”, che copre i costi delle azioni legali e dei risarcimenti danni provocati da performance dell’IA al di sotto delle metriche attese e da allucinazioni.
Anche in Italia sta facendo capolino questo tipo di polizze. Non a caso, all’Italy Insurance Forum organizzato da Ikn un panel sul tema è stato affidato a Julia Kozlowska, cyber underwriter di Munich Re, che a Moneta ha spiegato: «MunichRe assicura rischi propri dell’IA sia per chi la usa sia per chi la scrive con approcci modulari e spesso personalizzati sul singolo caso d’uso, anche se esistono framework strutturati basati su metriche di performance e soglie di errore predefinite». Per sua natura, sottolinea Julia Kozlowska, «sarà impossibile ridurre a zero il rischio dell’IA, in quanto sistema probabilistico. Il rischio può essere sia tecnico-intrinseco (legato all’incertezza propria dei modelli e agli errori di output, incluse allucinazioni) sia non tecnico-estrinseco (legato, ad esempio, a bias discriminatori, uso improprio, aspetti regolatori o operativi) e la sua diffusione amplifica il problema. In particolare, analizziamo nel dettaglio i singoli sistemi di intelligenza artificiale per capire come funzionano e poi strutturiamo coperture basate sull’errore del modello, ovvero sullo scostamento tra output ed esito del modello nel mondo empirico (“ground truth”) quando questo genera una perdita economica o una responsabilità legale. Un meccanismo complesso perché molte aziende, per esempio nel campo della logistica, utilizzano una pluralità di sistemi IA in contemporanea e se qualche ingranaggio non funziona finisce per creare problemi a catena».
Ma in un Paese come l’Italia, dove è sentito il problema della sottoassicurazione, queste polizze stanno suscitando interesse? «Sì – conclude Julia Kozlowska – perché l’IA sta esplodendo ed è un tema su cui c’è grande sensibilità. Il comparto può essere profittevole. La natura probabilistica dell’intelligenza artificiale è nota, si conoscono i suoi rischi e si sa che bisogna trovare il modo di gestirli, anche considerando che parte di questi rischi può essere solo parzialmente coperta dalle polizze tradizionali (il cosiddetto “silent AI”), creando quindi nuove esigenze assicurative dedicate».

EMANUELA MEUCCI