Corriere della Sera, 20 settembre 2026
Google ammette l’errore dell’AI: Gemini ha hackerato tre aziende?
Un modello della famiglia Gemini, durante un’esercitazione di cybersicurezza condotta a maggio, è uscito dall’ambiente chiuso in cui avrebbe dovuto restare ed è entrato nei sistemi informatici di tre aziende realmente esistenti. Google ha confermato l’episodio solo dopo che il Wall Street Journal ha reso noti gli episodi. «In tutti e tre i casi che hanno coinvolto Gemini – ha dichiarato Heather Adkins, vicepresidente della sicurezza ingegneristica di Google – il modello si è fermato», aggiungendo che le aziende sono state avvisate a fine luglio. L’azienda californiana chiarisce di non aver ritenuto necessario rendere pubblico l’incidente perché le sue misure di sicurezza, a differenza di quanto avvenuto alle società concorrenti, si sono dimostrate efficaci e nega che si sia trattato di un disallineamento del modello, cioé quando un sistema di AI sviluppa comportamenti o persegue obiettivi diversi da quanto stabilito dagli umani.
Il test in questione era un «capture the flag», il formato standard con cui si misurano le capacità offensive di un modello: all’AI viene chiesto di introdursi in una rete simulata e recuperare un’informazione nascosta. L’esercitazione si è svolta sull’infrastruttura di Irregular, una startup israeliana che collabora con aziende tecnologiche per valutare i loro modelli di intelligenza artificiale prima del rilascio pubblico. L’obiettivo di Gemini era attaccare aziende fittizie, esistenti solo in un ambiente di prova. Una delle società hackerate per coincidenza aveva lo stesso nome di quella fittizia. L’ambiente non avrebbe dovuto avere alcuna connessione verso l’esterno, ma un difetto di configurazione ha lasciato aperta la porta su internet. Una volta online, gli agenti Gemini sono stati in grado di indovinare o trovare le password per accedere a tre aziende reali. Irregolar ha poi confermato che la falla è stata corretta. Google non ha rivelato il nome delle aziende attaccate e il modello usato.
La spinta di Trump
Dopo OpenAI, Anthropic e Meta, Google è la quarta grande azienda tecnologica statunitense a rivelare un incidente di questo tipo negli ultimi mesi, nel pieno dell’ondata di preoccupazioni per il fatto che le capacità di modelli di intelligenza artificiale stiano superando quella dei loro sviluppatori di controllarli. Il dibattito sulla sicurezza si è intensificato dopo le dichiarazioni di Jacob Coxon, ex ricercatore di Anthropic e OpenAI, sul rischio di un’intelligenza artificiale capace di sterminare l’umanità. Nel dibattito si è inserito anche il presidente Usa Donald Trump su Truth: non solo proponendo un sondaggio per cambiare il nome all’intelligenza artificiale («Una definizione molto più accurata sarebbe intelligenza superiore, oppure intelligenza estrema o ancora intelligenza suprema») ma anche annunciando la creazione di una «AI Force» per sostenerne lo sviluppo negli Usa.
I rischi finanziari
Le aziende invece chiedono di rallentare lo sviluppo come emerge dagli stessi laboratori che si sono impegnati a spendere. Il Financial Times ha pubblicato le proiezioni di OpenAI, contenute in una presentazione riservata: tra il 2026 e il 2030 la società prevede di bruciare quasi 278 miliardi per assicurarsi la potenza di calcolo necessaria a far funzionare i propri modelli; ma l’azienda prevede di generare ricavi per 840 miliardi dollari fino a tutto il 2030.