Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

OpenAI, come da indiscrezioni, ha appena lanciato la seconda generazione di Sora, il suo modello per la creazione di video. Contestualmente al lancio ha anche introdotto su App Store (per ora solo negli Usa) la rispettiva app, che conterrà un «feed» con i video creati dagli utenti. A tutti gli effetti è una sorta di social network stile TikTok, ma per i video generati da AI e con una filosofia un po’ diversa. 
Se la qualità delle generazioni video (che ora disporranno anche di audio) faranno parlare a lungo, a far discutere anche il pericolo deepfake e le critiche relative al copyright. L’obiettivo? «È importante che l’umanità tragga beneficio da questi modelli man mano che vengono sviluppati. Pensiamo che Sora porterà molta gioia, creatività e connessione al mondo» ha scritto Sam Altman, ceo di OpenAI, in un post su X.
Sora 2: cos’è e come funziona
Altman ha paragonato il lancio di Sora 2 a quello di ChatGpt 3.5, con il primo Sora che – seguendo il ragionamento – sarebbe l’equivalente della prima versione pubblica del chatbot di OpenAI. Il tutto per  sottolineare che c’è stato un miglioramento ma che c’è ancora ampio margine. La vera novità di Sora 2 non sta però nei progressi nella capacità di generare video e audio, quanto piuttosto nell’omonima app a sé stante, separata da ChatGpt, che a primo impatto potrebbe ricordare TikTok. Ma con una profonda differenza nell’interazione. 
Su interviene su X lo stesso Sam Altman, che anticipa le risposte alle potenziali domande di chi teme l’avvento di una nuova app stile TikTok: «Siamo consapevoli di quanto un servizio come questo possa creare dipendenza e immaginiamo molti modi in cui potrebbe essere utilizzato per fare bullismo». Per accedere a Sora 2, inoltre, bisognerà ricevere un invito. Ogni utente che si iscriverà in questi giorni, dovrà attendere l’autorizzazione per accedervi, poi avrà a disposizione quattro inviti da inoltrare ai propri amici. 

Cosa sono i video Cameo e il consenso obbligatorio
All’interno dell’app si potranno creare video AI con i connotati del proprietario, una funzione battezzata Cameo da OpenAI. Un vero e proprio deepfake dunque, realizzabile però solo con il consenso dell’utente. Per utilizzare la propria immagine in un video generato  o alterato dall’intelligenza artificiale, gli utenti dovranno caricare, una tantum, una registrazione video e audio per dimostrare la propria identità e acquisire il proprio aspetto con la videocamera dello smartphone.
Dopo di che, si potrà consentire ai propri amici di utilizzare la propria immagine per ulteriore materiale video generato da AI e di cui l’utente «licenziatario» sarà co-proprietario. In un secondo tempo si potrà anche revocare l’accesso alle proprie fattezze. Si disporrà anche di una funzionalità simile a Remix presente su TikTok.
Meta ha anticipato la mossa di OpenAI di entrare nell’agone dei social, creando Vibes, un nuovo feed dedicato interamente ai video generati con AI. 
Gli esperimenti sul feed
Per OpenAI, il feed dell’app di Sora segnerà di fatto l’ingresso nell’agone dei social network. Un po’ in punta di piedi, ma sarà comunque un esperimento importante perché permetterà di mettere a punto gli algoritmi e l’AI stessa che dovranno governare il feed, il cui funzionamento è fondamentale nel successo di un social (come dimostra il caso TikTok). Sam Altman, nel suo post su X si è dilungato su questo specifico punto: «I social media hanno avuto alcuni effetti positivi sul mondo, ma anche alcuni negativi. Siamo consapevoli di quanto un servizio come questo possa diventare coinvolgente e possiamo immaginare molti modi in cui potrebbe essere utilizzato per il bullismo (...) Il team ha dedicato grande attenzione e riflessione al tentativo di capire come realizzare un prodotto piacevole che non cada in questa trappola e ha elaborato una serie di idee promettenti». 
E ancora: «Ecco alcuni principi che abbiamo stabilito: 
- Ottimizzare la soddisfazione a lungo termine degli utenti. La maggior parte degli utenti, guardando indietro agli ultimi 6 mesi, dovrebbe ritenere che la propria vita sia migliorata grazie all’uso di Sora rispetto a come sarebbe stata senza. Se così non fosse, apporteremo modifiche significative (e se non riusciremo a risolvere il problema, interromperemo l’offerta del servizio);
- Incoraggiare gli utenti a controllare il proprio feed. Dovresti essere in grado di dire a Sora cosa desideri: vuoi vedere video che ti rilassano o che ti danno energia? O solo video che corrispondono a un interesse specifico? O solo per un certo periodo di tempo? Con il progredire della nostra tecnologia, dovresti essere in grado di dire a Sora cosa desideri in modo dettagliato e in linguaggio naturale (...)
- Aiutare gli utenti a raggiungere i loro obiettivi a lungo termine. Vogliamo comprendere i veri obiettivi degli utenti e aiutarli a raggiungerli. Se desideri essere più in contatto con i tuoi amici, cercheremo di aiutarti. Se desideri metterti in forma, possiamo mostrarti contenuti di fitness che ti motiveranno. Se vuoi avviare un’attività, vogliamo aiutarti ad acquisire le competenze necessarie. E se vuoi semplicemente scorrere i social e arrabbiarti, allora ok, ti aiuteremo anche in questo (anche se desideriamo che gli utenti trascorrano del tempo utilizzando l’app se ritengono che sia tempo ben speso, non vogliamo essere paternalistici su ciò che questo significa per loro).»
Miglioramenti, limiti, restrizioni e sicurezza
OpenAI ha definito «ottimistici» i modelli precedenti. Il motivo per cui i video generati con la prima versione di Sora riproducevano errori o situazioni grottesche, è perché il tentativo delle AI era quello di eseguire correttamente un comando testuale. Se, ad esempio, si chiedeva all’AI di generare un giocatore di basket che sbaglia un tiro,  la palla avrebbe potuto violare le norme della fisica ed entrare comunque nel canestro. Diversamente, sul nuovo modello se il giocatore sbaglia un tiro, la palla dovrebbe rimbalzare contro il tabellone. Secondo la compagnia, nonostante sia ancora imperfetto, Sora 2 «è più propenso a obbedire alle leggi della fisica rispetto ai sistemi precedenti». Una capacità «estremamente importante» perché «bisogna essere in grado di modellare il fallimento, non solo il successo». 
Non mancano le restrizioni, almeno per il momento. Ad esempio i personaggi pubblici non potranno essere generati su Sora, a meno che non abbiano già un «Cameo» e dato il consenso al suo utilizzo. Inoltre, non si potranno generare contenuti vietati ai minori o «estremi». Come riporta l’azienda, è presente anche la revisione umana. «Il nostro team monitora le segnalazioni degli utenti e verifica proattivamente l’attività del feed per individuare eventuali errori di automazione». Sicurezza sì, ma non eccessiva: «Troppe restrizioni possono soffocare la creatività, mentre troppa libertà può minare la fiducia. Puntiamo a un equilibrio: protezioni proattive dove i rischi sono più elevati, combinate con un sistema reattivo di “segnalazione + rimozione” che dia agli utenti spazio per esplorare e creare, garantendo al contempo la possibilità di intervenire rapidamente in caso di problemi». Infine, ampio spazio al controllo parentale, in modo da poter proteggere i minori da utilizzi o contenuti impropri. 
La riscrittura dei prompt
E a proposito di creatività, chi vuole generare immagini che ricordano Anime, manga o comics, il modello restituirà una versione che si ispira allo stile originale. «Quando un utente utilizza il nome di un artista vivente in un prompt, il modello potrebbe generare un video che in qualche modo ricorda lo stile delle opere dell’artista. Esiste una lunga tradizione creativa di ispirarsi allo stile di altri artisti, ma comprendiamo che alcuni creatori possano avere delle preoccupazioni».  Dunque, via ad un «approccio conservativo»: «Per risolvere questo problema, abbiamo aggiunto delle riscritture dei prompt progettate per attivarsi quando un utente tenta di generare un video nello stile di un artista vivente». 
OpenAI lancia Sora 2: deepfake sì, ma con i permessi. L’app in stile TikTok e gli obiettivi della compagnia
Ma non solo: «Sora Editor utilizza un LLM per riscrivere il testo inviato e facilitare l’invio di richieste a Sora in modo più efficace». In questo modo OpenAI cerca di osservare in automatico il rispetto delle linee guida, che prevedono anche «la rimozione dei nomi di personaggi pubblici, l’esclusione di persone con attributi specifici e la descrizione generica degli oggetti di marca».
Disponibilità e prezzi
La piattaforma sarà inizialmente gratuita, con limiti piuttosto ampi per consentire agli utenti di sperimentare le funzionalità, pur restando vincolata alla capacità di elaborazione. Gli abbonati a ChatGPT Pro avranno inoltre accesso al modello sperimentale Sora 2 Pro, di qualità superiore, già disponibile sul sito e in arrivo anche sull’app. È previsto anche il rilascio tramite API, mentre Sora 1 Turbo continuerà a restare attivo e i contenuti creati resteranno accessibili nella libreria personale su sora.com. 
L’app attualmente è disponibile sono per gli utenti Apple e soltanto per Stati Uniti e Canada, anche se OpenAI fa sapere che spera di espandere rapidamente l’installazione ad altri Paesi (non sono state rilasciate date l’Europa, né per gli utilizzatori di Android). Chi accederà, potrà disporre di un massimo di quattro inviti da girare agli amici. 

ROBERTO COSENTINO