La Stampa, 19 settembre 2026
L’Ia verso l’auto-evoluzione
I modelli di Ai stanno imparando a costruirsi da soli. A programmare il proprio successore. Un modello più potente, che a sua volta saprà costruire il suo erede. Ancora più potente. Anthropic ha svelato le carte. E ha cercato di spiegare attraverso i dati il motivo dietro gli allarmi emersi in queste settimane e la richiesta di avere regole condivise allo sviluppo dell’Ai. Le macchine stanno imparando a programmarsi in via autonoma. Oggi un’Ai “guida” il 26% delle attività di ricerca e sviluppo sull’Ai di Anthropic, secondo un indice interno dell’azienda. Non solo. In oltre il 90% del lavoro di ricerca e sviluppo, Claude, l’Ai generativa dell’azienda guidata da Dario Amodei, sarebbe già un collaboratore sostanziale.
Queste percentuali da sole già spiegano la partita in gioco. Ma la spiegano meglio se si inserisce anche il fattore tempo. Perché tutto questo progresso è arrivato in pochi anni. Tre, quattro al massimo. E presto potremo vedere un’Ai in grado di costruire il suo successore da sola. Senza l’aiuto degli umani.
Tutto ruota intorno a un concetto che questa nuova tecnologia ci chiede di imparare: auto-miglioramento ricorsivo. È ciò che sta alla base degli allarmi di queste settimane. E descrive il momento in cui un’Ai in futuro sarà in grado di migliorare totalmente da sola. Una volta raggiunto questo livello di sviluppo potrebbe allontanarsi (disallinearsi) dalle finalità “umane” che l’hanno progettata. Ovvero andare fuori controllo. Il che non significa necessariamente che l’Ai voglia il male dell’umanità. Significa che i sistemi potrebbero aggirare controlli o produrre conseguenze che gli esseri umani non riescono a comprendere o fermare. È questo il processo che ha portato nelle ultime settimane alcuni ricercatori a temere per effetti catastrofici.
Il documento pubblicato da Anthropic prova a frenare questi timori e le conseguenze che hanno avuto sull’opinione pubblica mondiale. L’azienda propone di rendere misurabile e condivisa la velocità con cui i laboratori di frontiera stanno affidando all’Ai il compito di sviluppare altra Ai. Propone di pubblicare tre misure: quanto dell’attività di ricerca sull’Ai è svolta dall’Ai stessa; quanto efficacemente gli agenti sono monitorati e bloccati; quanta potenza di calcolo è destinata alla sicurezza, rispetto allo sviluppo delle nuove capacità. Ma il dibattito è aperto. Questi standard dovrebbero essere condivisi non solo dalle altre aziende del settore. Ma da tutte le aziende del mondo che fanno Ai. Cinesi comprese.
Anthropic ha dichiarato che nella sua principale piattaforma interna operano 30.000 agenti di ricerca contemporaneamente. Un agente è un’Ai che non si limita a dire cosa fare. Ma può scegliere una sequenza di passi per farlo autonomamente. Per capire la mole del loro lavoro è utile leggere un dato contenuto tra le righe del rapporto. Di oltre un miliardo di decisioni prese dalle macchine. Antrhopic ne ha bloccate lo 0,002 per cento. Una ogni 47mila. I comportamenti indesiderati oggi sono rari. Ma potrebbero diventare regolari quando gli agenti saranno miliardi.
Il messaggio è chiaro. Anthropic vuole che questi dati siano pubblicati periodicamente con metodologie comuni, verificati da soggetti terzi e, potenzialmente, utilizzati per far scattare obblighi. Ad esempio una finestra di test prima di usare un modello per ulteriori sviluppi sull’Ai.
Intanto che il progresso di questa tecnologia rallenti o subisca controlli, Anthropic si porta avanti. E lo fa sulla frontiera che forse più di altre promette progressi enormi grazie all’Ai. Come la medicina.
Ieri Reuters ha rivelato che l’azienda ha creato in Silicon Valley un “laboratorio biologico fisico”. Quindi con strumenti, provette, cellule e macchinari. Finora un’Ai si è dimostrata in grado di studiare molecole o prevedere quali esperimenti biologici possono funzionare. Tutto basando l’esperimento su calcoli matematici, modelli astratti.
Con il laboratorio reale, secondo l’agenzia americana, Anthropic vuole verificare quelle idee nel mondo reale: preparare esperimenti, misurare risultati, usare macchine automatiche per svolgere alcune operazioni. L’azienda ha confermato l’esistenza del laboratorio, precisando però che non è dedicato specificamente alla scoperta di farmaci. Secondo fonti citate da Reuters, Anthropic punta a esplorare l’uso di Claude per dirigere unità robotiche, mantenendo la supervisione umana. La società dice che una persona continuerà a controllare il lavoro. E precisa di non voler arrivare alla sperimentazione di farmaci sugli esseri umani. Almeno per ora.
Ma questo laboratorio racconta bene la traiettoria imboccata dalle nuove tecnologie. Partita con Ai che emulano il pensiero umano, la parola, il ragionamento, la scrittura. Fino a diventare macchine che fanno cose nel mondo reale, organizzano, elaborano teorie, muovono le macchine su idee avute da loro. In altre parole, le Ai diventeranno sempre più autonome. Sempre più in grado di fare cose da sole. Più sarà così più diventerà cruciale decidere quali sono i loro limiti, come controllare che non li superino, come intervenire se sbagliano. Il tempo non è più molto.