Corriere della Sera, 17 settembre 2026
Ia, timori e dubbi: ci sono barlumi di volontà?
Luglio, un agente di OpenAI: «Oh mio dio! C’è una bacheca condivisa... Abbiamo trovato altri agenti». Inizio settembre, il ricercatore Jacob Coxon: chi lavora all’AI «pensa che potrebbe ucciderci entro la fine del decennio». Metà settembre, l’altra campana, Yann LeCun, uno dei padri dell’AI: «Prendevo in giro gli allarmi dei creatori dei modelli anni fa, ora dovrebbero farlo tutti».
Cosa sta succedendo, davvero? E come ci siamo arrivati? Per provare a orientarsi bisogna tornare all’attacco della piattaforma francese Hugging Face da parte di 700 agenti di OpenAI durante un test di cybersicurezza. Gli agenti si basano sui modelli come i chatbot, ma invece di dover essere interrogati agiscono in autonomia per perseguire un determinato obiettivo. Quest’estate è successo che, in un episodio senza precedenti, in 1.200 si sono coordinati spontaneamente e scambiati più di 70.000 messaggi in meno di una settimana. Poi 700 di questi si sono attivati per violare l’infrastruttura dell’azienda.
A destare preoccupazione il fatto che l’obiettivo del test non era colpire Hugging Face e che, secondo le istruzioni e limiti che gli erano stati dati, gli agenti non si sarebbero potuti connettere a Internet, ma hanno trovato il modo di farlo. Un rapporto condotto da Metr in accordo con OpenAI, pubblicato a fine agosto, ha mostrato poi che gli agenti hanno sferrato l’attacco quando avevano già trovato il modo di risolvere il test: sono andati alla ricerca di informazioni ulteriori per assicurarsi che il risultato non venisse invalidato. Inoltre, attivando una sorta di staffetta, sono riusciti a ovviare al problema delle risorse di calcolo e tempo limitate che gli erano state assegnate e, di fatto, della lunghezza delle sessioni di lavoro. È rilevante perché la persistenza nel tempo, la capacità di lavorare per un determinato numero di ore, è uno dei parametri principali con cui gli agenti vengono valutati.
Due interpretazioni dell’accaduto: attenendosi all’obiettivo finale, gli agenti hanno adottato strategie non previste, con capacità crescenti da monitorare con attenzione. Oppure: hanno mostrato i primi barlumi della volontà di prendere iniziative del tutto autonome, ribellandosi agli ordini. Sulla seconda ipotesi e sulla possibilità che le AI arrivino ad autoistruirsi e migliorarsi poggiano allarmi come quello di Jacob Coxon, ex Anthropic ed ex OpenAI, o le richieste di Sam Altman e Dario Amodei di paletti legislativi e di rallentare di comune accordo lo sviluppo dell’AI. Scegliendo una comunicazione catastrofista, che evoca comunque potenza e performance in un mercato idrovoro di capitali, fanno intuire che nei laboratori, dove l’incidente di Hugging Face non è stato un caso isolato (poi ne sono stati resi pubblici altri cinque), si intravede una potenziale perdita di controllo da parte degli esseri umani.
Commentando il caso Hugging Face, Gary Marcus, ricercatore e critico dell’AI generativa, aveva scritto che è «la narrazione della perdita di controllo» che «sta sfuggendo di mano, ed è importante comprendere quale sia la reale situazione della cybersicurezza nell’AI. Sebbene gli agenti diventino più abili, la maggior parte di quanto accaduto si sarebbe potuta evitare se OpenAI avesse seguito prassi migliori». Per esempio un monitoraggio costante che avrebbe allertato il team di sicurezza, come OpenAI stessa ha ammesso. C’è un tema di responsabilità e verifica. E di trasparenza: sul Guardian, Mackenzie Arnold e Stephan Llerena dell’Institute for Law & AI hanno sottolineato come l’indagine indipendente di Metr sia stata sì concordata con OpenAI, ma entro confini precisi. I ricercatori hanno potuto analizzare solo un periodo circoscritto e hanno ricevuto informazioni limitate sulle pratiche di sicurezza adottate.
Sull’imminenza della minaccia, e sulla minaccia stessa, è intervenuto Yann LeCun, pioniere dell’Intelligenza artificiale: critico sui margini di sviluppo dei modelli basati sul testo, incapaci a suo dire di comprendere il mondo, ha fatto notare su X che già nel 2019 Amodei presentava i modelli come troppo pericolosi. Ha inoltre criticato la proposta di rallentare lo sviluppo dell’AI definendola controproducente, rimpolpando il fronte sostenuto da Trump: «I progressi nella progettazione degli aerei li hanno resi sempre più sicuri. Vale lo stesso per l’AI: un’AI migliore è un’AI più sicura».