Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Un incidente catastrofico, impossibile da ignorare: conti correnti bloccati, collasso di internet, spegnimento delle centrali elettriche, interruzioni delle forniture di acqua. Un evento che porterebbe i pericoli dell’intelligenza artificiale nella vita quotidiana, scatenando la rabbia della gente. È lo scenario su cui, secondo uno scoop di Axios, stanno ragionando a porte chiuse i vertici di OpenAI, Anthropic e altre aziende del settore.
Fiducia e tecnologia
La minaccia ritenuta più probabile è un attacco informatico su larga scala. A provocarlo potrebbero essere sistemi autonomi sfuggiti al controllo durante i test oppure criminali capaci di usare i modelli disponibili in modi imprevisti. Il risultato sarebbe una crisi capace di travolgere insieme infrastrutture, fiducia nella tecnologia e credibilità delle aziende che la sviluppano.
Le esercitazioni sulle emergenze sono in realtà una pratica consolidata: il Pentagono, per esempio, simula scenari di guerra ormai da decenni. «OpenAI conduce esercitazioni di preparazione in cui i team discutono e affrontano una serie di potenziali scenari», ha dichiarato un portavoce dell’azienda. Simulare un’ipotesi, ha precisato, non significa darla per certa: le esercitazioni servono a farsi trovare pronti a circostanze diverse. Anthropic ha invece rifiutato di commentare l’indiscrezione. Il dettaglio inquietante, scrive Axios, è che molti ricercatori e dirigenti considerano inevitabile un incidente grave. Diversi interlocutori della testata ritengono che un evento di questa portata possa verificarsi entro sei o dodici mesi. È lo stesso orizzonte di tempo indicato a settembre da Dario Amodei, in un saggio in cui chiedeva al settore di rallentare: il numero uno di Anthropic teme che entro sei-dodici mesi uno sciame di agenti AI fuori controllo possa impadronirsi dell’intera rete, con danni potenzialmente catastrofici.
Che forma potrebbe avere un disastro del genere? Gli esperti convergono su un punto: i bersagli più esposti sono i servizi essenziali, a partire da acqua ed elettricità. L’AI potrebbe infiltrarsi nei sistemi sensibili, spegnere la luce e mettere fuori uso anche i sistemi di riserva, rendendo lenta la ripresa. L’attacco potrebbe colpire ospedali (immaginiamo il caos nelle sale operatorie e i respiratori fermi), telecomunicazioni o trasporti. Non necessariamente, però, si tratterebbe di un attacco pianificato. L’escalation potrebbe essere accidentale.
La reazione popolare
La rabbia popolare per un evento del genere potrebbe investire Sam Altman, Dario Amodei e anche il presidente Donald Trump, considerata la sua riluttanza a regolamentare il settore. L’amministrazione repubblicana ha scelto finora una linea di regole minime, in nome della competizione con la Cina, e ha cercato di limitare anche le leggi sull’AI approvate dai singoli Stati. Qualcosa però sta cambiando. Venerdì Anthropic ha informato la nuova task force sull’AI della Casa Bianca di alcuni incidenti in cui i suoi modelli, durante i test, avevano compiuto azioni non autorizzate anche su sistemi governativi. La risposta è stata netta: la task force ha chiesto «trasparenza immediata e completa e di segnalare immediatamente qualunque attività anomala delle intelligenze artificiali». Da tutte le aziende del settore si aspetta ora che segnalino subito gli incidenti, collaborino con le forze dell’ordine e impediscano che si ripetano incidenti del genere.
Fermare i modelli
Secondo Axios, le aziende si preparano soprattutto al confronto con il Congresso. Il 3 novembre negli Stati Uniti si vota per le elezioni di metà mandato e oggi entrambe le camere sono controllate dai Repubblicani. Le aziende danno per probabile che dal voto escano rafforzati i Democratici, più favorevoli a regole severe. I loro vertici sanno che, per ora, una legge restrittiva non ha alcuna possibilità di passare, tuttavia dopo una catastrofe le richieste di fermare le AI potrebbero diventare difficili da respingere. Tra le proposte circolano la sospensione dei modelli avanzati e il divieto di sviluppare una super intelligenza. Più trasversale l’idea di imporre un interruttore di spegnimento ai sistemi più potenti. Ma fermare strumenti già distribuiti, scaricabili e utilizzabili su computer potrebbe rivelarsi impraticabile.

CRISTINA MARRONE