Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Per entrare nei sistemi di OpenAI hanno usato Claude, il modello sviluppato dal suo principale concorrente Anthropic: è un nuovo episodio che inquadra il recente e preoccupante filone di notizie sui rischi per la sicurezza informatica legati ai modelli AI. A svelare l’episodio è stato il Wall Street Journal. Questa volta, a differenza del caso Hugging Face e di quelli successivi già rivelati, non si è trattati di agenti AI che si sono mossi in maniera sconsiderata e fuori dal perimetro assegnato. Un piccolo gruppo di ricercatori di sicurezza del team Hacktron AI è riuscito ad accedere all’account ChatGpt di un dipendente di OpenAI e, attraverso questo, a sistemi contenenti software interno dell’azienda. Non si è trattato di un attacco criminale: i ricercatori operavano nell’ambito del programma «bug bounty» di OpenAI, che ricompensa chi trova falle e le segnala prima che possano essere sfruttate da altri (per il lavoro hanno ricevuto 6.500 dollari).
Come hanno fatto a entrare in OpenAI
Il punto interessante della vicenda è il percorso seguito e le modalità utilizzate. I ricercatori hanno sfruttato inizialmente una vulnerabilità nella configurazione del forum della comunità di OpenAI, gestito attraverso la piattaforma esterna Discourse. Da lì sono riusciti a compromettere alcuni meccanismi di autenticazione e ad arrivare all’account ChatGpt di un dipendente, che disponeva a sua volta dell’accesso a software interno e repository GitHub dell’azienda. Claude di Anthropic è stato utilizzato per velocizzare il lavoro tecnico necessario a costruire l’attacco e collegare tra loro le diverse falle. OpenAI ha confermato la segnalazione, ringraziato i ricercatori e corretto i problemi individuati.
L’episodio mostra un problema con cui i laboratori che sviluppano i modelli più potenti dovranno fare i conti sempre più spesso: le stesse capacità che rendono l’AI utile nella programmazione possono abbassare drasticamente il tempo e le competenze necessarie per individuare vulnerabilità. Un tema esploso con il lancio del modello Fable di Anthropic e diventato sempre più attuale nelle ultime settimane.
Claude sta già lavorando al prossimo Claude
Anthropic, nel frattempo, ha pubblicato alcuni numeri che rendono ancora più concreto il dibattito sull’AI che contribuisce a costruire altra AI. Ad agosto Claude «guidava», cioè svolgeva gran parte del lavoro partendo da istruzioni generali e sotto supervisione umana, il 26% delle attività di ricerca e sviluppo dell’azienda. In oltre il 90% dei compiti collaborava invece con i ricercatori svolgendo porzioni consistenti del lavoro. Nessuna delle attività misurate viene ancora eseguita in completa autonomia, precisa Anthropic, ma la direzione è chiara: una parte crescente dello sviluppo della prossima generazione di modelli viene affidata ai modelli della generazione attuale. È quello che nel settore viene definito «auto-miglioramento ricorsivo». Anthropic sottolinea che non siamo ancora arrivati a quel livello e che non è affatto inevitabile raggiungerlo. I dati sono però un indicatore di quanto rapidamente ci stiamo avvicinando a uno scenerio in cui l’essere umano viene di fatto tagliato fuori quasi completamente.
Da DeepSeek attacco alla strategia AI americana: «Come se Hitler avesse avuto per primo la bomba atomica»
Proprio il tema del controllo ha aperto un altro fronte. Shengyu Liu, ingegnere di DeepSeek che ha lavorato ai modelli V4.1 dell’azienda, ha criticato in un intervento personale (non riconducibile direttamente all’azienda) la proposta di rallentare lo sviluppo dei sistemi più avanzati. Il suo timore è diverso da quello espresso da Anthropic: concentrare i modelli migliori nelle mani di poche aziende statunitensi. «Non voglio che Anthropic controlli l’intelligenza artificiale più avanzata al mondo o l’Agi», ha scritto Liu (l’Agi è l’intelligenza artificiale generale, quella che potrebbe diventare super-umana). Poi il paragone, senza molti giri di parole: «Per dirla in modo drastico, penso che la posta in gioco sarebbe paragonabile a Hitler che ottiene la tecnologia della bomba atomica prima degli Alleati». 
Sul fronte Cina-Usa, il 24 settembre il presidente cinese Xi Jinping sarà a Washington per incontrare il presidente americano Donald Trump e l’AI sarà tra i temi attesi nei colloqui. Alla cena di Stato alla Casa Bianca sono attesi anche Sam Altman, Ceo di OpenAI, e Jensen Huang, Ceo di Nvidia; tra gli invitati figura inoltre Tim Cook, oggi presidente del consiglio di amministrazione di Apple.
Il caso New York Times e quelle frasi interne a Microsoft
Il tema del controllo passa anche dai dati usati per costruire questi sistemi. Nella causa per copyright avviata dal New York Times contro OpenAI e Microsoft sono emersi nuovi documenti interni. Che rivelano come Brent Hecht, direttore delle scienze applicate di Microsoft, descrisse in un messaggio l’acquisizione su larga scala del lavoro altrui per addestrare l’AI come un «furto sbalorditivo di proporzioni senza precedenti». Microsoft ha precisato che si trattava dell’opinione personale di un dipendente e non della posizione legale dell’azienda. Nei documenti compare anche Nick Turley, responsabile di ChatGpt, secondo cui i sistemi AI rappresentano una «minaccia esistenziale» per gli editori e tendono progressivamente a sostituire la consultazione diretta dei siti. OpenAI e Microsoft sostengono invece da tempo che l’uso dei contenuti per addestrare i modelli rientri nel «fair use», perché il materiale viene trasformato e utilizzato per produrre nuovi contenuti. Sarà il tribunale a stabilire dove passi quel confine.

REDAZIONE