Lasciano altri due manager. Perché OpenAi sta perdendo pezzi?

Introducin OpenAi

Anche le loro storie vanno studiate bene. Sutskever aveva appoggiato il licenziamento di Sam Altman come membro del consiglio, anche se in seguito ha affermato di essersi pentito della scelta. Senza contare gli abbandoni della “prima ora” quelli seguiti al licenziamento-riassunzione lampo di Sam Altman del novembre

Parliamo di Helen Toner insieme a Tasha McCauley. La prima è stata forse la fonte principale che ci ha permesso di capire il perché di uno dei misteri più assurdi nella storia della Silicon Valley. . «Finalmente posso andare a dormire», aveva detto la Helen, commentando l’annuncio del nuovo board. In seguito la sua versione dei fatti suggerirà le ragioni del licenziamento. Sam Altman viene descritto come un personaggio ambiguo, ambizioso, e ossessionato dall’obiettivo di raggiungere per primo l’Agi (General Artificial Intelligence) una forma di intelligenza artificiale così avanzata da essere in grado di emulare e superare la capacità intellettiva dell’uomo. A lui viene imputata dalla Toner la responsabilità di avere spinto per rilasciare pubblicamente ChatGpt fornendo comunicazioni inesatte sui processi di sicurezza interni al Cda ma sopratutto la ancora più grave mancata comunicazione del fondo OpenAi Startup.

Un altro indizio dietro questa emorragia ce lo fornisce però Jan Leike che era a capo della sicurezza e a pochi dopo l’annuncio delle dimissioni ha dichiarato. «OpenAI deve diventare una società AGI attenta alla sicurezza»

Pochi giorni dopo la sua uscita Sam Altman ha annuncia la creazione del Safety and Security Committee, un nuovo comitato per la sicurezza, che vigilerà sull’addestramento del nuovo modello di AI.

Il nuovo board – ha spiegato la stessa startup in una nota – ha il compito di formulare raccomandazioni al Cda in materia di sicurezza e protezione per i progetti e le operazioni della società.

Tra questi, il primo sarà quello di valutare e sviluppare ulteriormente le pratiche di sicurezza esistenti nei prossimi 90 giorni, condividendo le raccomandazioni con il consiglio di amministrazione. Chi c’è a capo del comitato? Lui stesso, Sam Altman in persona. Il resto è storia. E siamo ad oggi.

Le ultime fughe però potrebbero non essere connesse con le policy di sicurezza dentro OpenAi. Lo chiarisce lo stesso John Schulman sempre in un suo tweet. «Per essere chiari, non me ne vado per mancanza di supporto alla ricerca sull’allineamento in OpenAI. Al contrario, i leader dell’azienda sono stati molto impegnati a investire in quest’area. La mia è una decisione personale, basata su come voglio concentrare i miei sforzi nella prossima fase della mia carriera». Ad Antrophic ritroverà Ilya Sutskever.

La risposta di Sam Altman è gentile. Ringrazia e scrive:

«Ho incontrato John per la prima volta in un caffè di Berkeley nel 2015. Disse qualcosa del tipo “da un lato sembra ridicolo parlare di AGI in questo momento, ma dall’altro penso che sia molto ragionevole ed ecco perché e anche perché penso sia importante parlarne”». E poi conclude: «espose una parte significativa di quella che divenne la strategia iniziale di OpenAI. Ci sono voluti circa 15 minuti e poi abbiamo chiacchierato in modo imbarazzante per altri 45 :)». Come dire grazie per la strategia iniziale ma ora per noi è tempo di cambiare.