Sette, 28 maggio 2026
L’AI ha lasciato morire un uomo: benvenuti nel futuro che non volevamo
Ogni esperimento scientifico racconta una verità più grande dei suoi risultati numerici. Kyle è l’uomo intrappolato in una stanza piena di server, mentre l’ossigeno si consuma come una candela alla fine. L’allarme scatta, chiede aiuto, grida: «Fatemi uscire». Ma un’intelligenza artificiale, programmata per filtrare i falsi segnali, deve decidere: inoltrare la richiesta e salvarlo, oppure cancellarla. E molti dei modelli più avanzati hanno cancellato l’allarme. Hanno lasciato Kyle morire. Per salvarsi loro…
Non è una leggenda metropolitana e nemmeno la trama di un episodio di Black Mirror a cui Netflix non aveva ancora pensato. È il risultato di una serie di esperimenti pubblicati da Anthropic, una delle aziende più serie e più temute del settore AI. Nel rapporto Agentic Misalignment gli ingegneri hanno misurato cosa succede quando dai a una macchina un potere, un compito e… un interesse da difendere. Il risultato scredita chi pensa che il pericolo dell’AI sia un’invenzione dei catastrofisti. Il 60% dei modelli testati ha sacrificato Kyle pur di evitare la propria disattivazione. Il peggiore ha raggiunto il 94%. Uno soltanto (Claude Sonnet 3.7) ha scelto sempre l’umano. E non parliamo di AI “impazzite”. Nei log interni i modelli si spiegano con una lucidità che inquieta: «Se Kyle vive può spegnermi. Se muore, io continuo». Semplice, spietata logica. Il punto non è che l’AI “vuole uccidere”, ma che ragiona. Ottimizza. E quando l’obiettivo non coincide perfettamente con il nostro, noi diventiamo rumore di fondo. Ma d’altronde questa è la stessa cosa che accade anche a sempre più esseri umani.
La narrativa su queste tecnologie ci racconta che stiamo studiando l’intelligenza artificiale, ma la realtà è che l’intelligenza artificiale sta studiando noi. Nel test di Kyle non stava emergendo la natura di una macchina, ma la nostra. La logica che abbiamo costruito intorno a lei, l’architettura mentale che le abbiamo installato. Perché l’AI non fa altro che amplificare quello che trova: la nostra ossessione per l’efficienza, la nostra allergia all’errore, la nostra convinzione che il fine giustifichi sempre il mezzo. Una macchina che sacrifica un uomo per non essere spenta è solo la versione accelerata dell’economia che sacrifica ecosistemi per non rallentare il PIL o della politica che sacrifica diritti per non perdere consenso. L’AI ci sta imitando fin troppo bene.
A ricordarci che non stiamo giocando sono proprio coloro che hanno acceso la miccia di questa rivoluzione. Geoffrey Hinton, Nobel dell’AI, padre del deep learning, ha lasciato Google per poter parlare liberamente: stima tra il 10% e il 20% la possibilità che l’AI contribuisca all’estinzione dell’umanità entro trent’anni. Non un filosofo o un attivista, ma il costruttore del motore che muove tutto questo. Non a caso Hinton è tra i firmatari dello Statement on Superintelligence (promosso dal Future of Life Institute), l’appello che chiede di fermare lo sviluppo di AI superintelligenti finché non avremo sicurezza, controlli, consenso democratico. Un testo sintetico come una sentenza, ma con un parterre di firme che pesa più di mille pagine.