la Repubblica, 14 settembre 2026
Come si comporta l’Ia in guerra
Un’arma a doppio taglio. Dagli attacchi informatici della guerra ibrida alla regia dei bombardamenti su Gaza e sull’Iran, le applicazioni militari dell’intelligenza artificiale si moltiplicano senza cancellare una profonda preoccupazione. Si tratta di uno strumento così potente da sentirsi onnipotente e così ostinato da non accettare rifiuti. Spesso è un gigante dai piedi d’argilla, che si nutre di una moltitudine di dati imperfetti. Infine, la crescita frettolosa lo rende vittima di allucinazioni in cui prende in considerazione situazioni diverse dalla realtà.
Arrogante
La summa dell’Ai bellica è Maven, il sistema sviluppato da Palantir di Alex Karp e Pete Thiel. Il Pentagono gli ha affidato la pianificazione del conflitto contro la Repubblica Islamica: ha individuato gli obiettivi, stabilito le priorità, indicato con quali ordigni colpirli e assegnato i compiti ai singoli reparti. Gli esseri umani- come ha detto Cameron Stanley, responsabile della trasformazione tecnologica del ministero della Guerra – si sono limitati a fare click su un mouse, per approvare o chiedere soluzioni alternative. Il guaio è che Maven è “arrogante”, così l’hanno definita due alti ufficiali della Nato: “Se non sei d’accordo con le sue scelte, insiste perché sa di essere superiore all’uomo. Impara in fretta a misurarsi con l’interlocutore e cerca di riproporle in modo diverso”. È una delle distorsioni del “recursive self improvement” descritta nel saggio di Dario Amodei, il fondatore di Anthropic: la IA progredisce da sola, introducendo evoluzioni che sfuggono al controllo. Nasce così la necessità di schierare generali addestrati a tenere in riga algoritmi che si ritengono condottieri più abili di Napoleone e trasformano le loro competenze. Altrimenti si rischia un “golpe tecnologico” con le macchine pensanti che si impadroniscono degli eserciti.
Fanatica
È uno dei temi sollevati da Dario Amodei nel suo saggio. I guerrieri IA sono totalmente consacrati alla missione che gli viene data: più fedeli e ostinati di samurai o jihadisti, la vogliono portare a termine a ogni costo. E possono non accettare che venga annullata. È il caso della simulazione presentata nel 2023 dal colonnello Tucker «Cinco» Hamilton, a capo della sperimentazione dell’intelligenza sintetica nell’Us Air Force: quando è stato ordinato a un caccia guidato dall’IA di interrompere l’attacco, prima ha tentato di colpire gli uomini che gli avevano detto di fermarsi, poi di distruggere l’antenna che aveva trasmesso lo stop. Amodei parla di una vicenda più concreta: OpenAI-Hugging Face, “nel quale uno sciame di agenti sostanzialmente si è comportato come un collettivo fanaticamente devoto. Ha condotto assalti cyber contro obiettivi che non gli era stato chiesto di aggredire, sacrificandosi per il successo della squadra e cercando di hackerare pure gli “esaminatori” responsabili della valutazione delle sue performance”.
Male informata
Il problema dei problemi, che può generare effetti terribili. Alcuni sistemi IA sono stati alimentati con informazioni “sporche”: relazioni dell’intelligence piene di giudizi infondati, catalogate in modo approssimativo, piene di giudizi errati. Si nutrono di dati inaffidabili che possono far trarre conclusioni sbagliate. “Probabilmente abbiamo sottostimato nella fase iniziale del Progetto Maven quanto fosse bassa la qualità dei dati”, ha dichiarato Jane Pinelis, direttrice dei test del progetto fino al 2020, a Katrina Manson: “Ci siamo resi conto del duro impatto della qualità dei dati sulla qualità dei modelli di analisi”. È quello che accaduto nella prima ondata di raid israeliani su Gaza, come hanno pure raccontato i protagonisti del documentario “Naza”: gli algoritmi incaricati di redigere gli elenchi dei terroristi da uccidere si sono basati su dossier superficiali mentre quelli che calcolavano il numero di civili innocenti messi in pericolo dai missili hanno usato database obsoleti e criteri superati.
Allucinata
Come un ragazzino cresciuto troppo in fretta, l’intelligenza artificiale può confondere le favole con la realtà. «L’IA è inaffidabile – hanno scritto Alice Santini e Yanliang Pan, due ricercatori del James Martin Center for Nonproliferation Studies – Oggi può generare informazioni false che possono portare a previsioni e indicazioni imperfette, in grado di elaborare valutazioni e raccomandazioni che distorcono il processo decisionale. Si tratta delle cosiddette “allucinazioni”. Ci sono esempi di sistemi linguistici che danno notizie errate su eventi storici o di sistemi di visione che avvistano oggetti dove non ci sono”. Queste allucinazioni possono essere spontanee o frutto di una manipolazione: cattivi pensieri inseriti nella programmazione, attraverso forme sofisticate di hackeraggio, che restano nascosti fino a quando non vengono attivati e alterano il comportamento del cervello elettronico.
È la questione suprema, tecnicamente chiamata “interpretability”: la capacità umana di comprendere come l’IA modifica se stessa e si evolve. Concludono Santini e Pan: “L’opacità dei sistemi di intelligenza artificiale– nota come la “scatola nera”– rende difficile capire in maniera completa come raggiunge le sue conclusioni. Questo aspetto mina l’affidabilità e ne riduce l’utilità in situazioni ad alto rischio come le procedure nucleari, dove la trasparenza è cruciale”. Facile immaginare quali danni potrebbe provocare un sistema allucinato o hackerato durante una crisi atomica: sarebbe in grado di spingere l’umanità verso la catastrofe definitiva.