L'ex membro del consiglio Helen Toner ha rivelato che Sam Altman è stato licenziato dalla carica di CEO di OpenAI perché aveva intenzionalmente male informato il consiglio di amministrazione sullo sviluppo dei prodotti e sui processi di sicurezza dell'azienda.
Leggi anche: OpenAI allinea il successore di GPT-4 tra preoccupazioni sulla sicurezza
Toner, un ricercatore di intelligenza artificiale e uno dei direttori che hanno licenziato Altman a novembre, ha parlato per la prima volta del fallito colpo di stato nel consiglio di amministrazione in un'intervista del 28 maggio con il conduttore del TEDTalk AI Show Bilawal Sidhu.
"Sam Altman ha mentito apertamente al consiglio"
Il consiglio di amministrazione di OpenAI è stato istituito per mantenere l'azienda fondata sul bene pubblico prima che sul profitto, ha rivelato Toner in un'intervista. Ha detto: "Per anni, Sam ha reso davvero difficile per il consiglio di amministrazione svolgere quel lavoro nascondendo informazioni, travisando cose che stavano accadendo in azienda, in alcuni casi mentendo apertamente al consiglio".
Condivido questo, registrato qualche settimana fa. La maggior parte dell'episodio riguarda la politica sull'IA in senso più ampio, ma questa è stata la mia prima intervista di lunga durata dalla chiusura dell'indagine OpenAI, quindi abbiamo parlato un po' anche di novembre.
Grazie a @bilawalsidhu per una conversazione divertente! https://t.co/h0PtK06T0K
— Helen Toner (@hlntnr) 28 maggio 2024
Sam Altman è stato improvvisamente licenziato dalla carica di CEO il 17 novembre 2023, una decisione che ha provocato onde d’urto in tutto il settore dell’intelligenza artificiale. Toner ha affermato che la segretezza attorno alla decisione era parte di un piano deliberato del consiglio.
Secondo Toner, "Era chiaro a tutti noi che non appena Sam avesse avuto il minimo sospetto che avremmo potuto fare qualcosa che gli andasse contro, avrebbe fatto di tutto, avrebbe fatto tutto ciò che era in suo potere per indebolire il consiglio, per impedire da noi, sai, addirittura arrivando al punto di poterlo licenziare. Quindi siamo stati molto attenti, molto attenti a chi informare, che essenzialmente non era quasi nessuno in anticipo a parte, ovviamente, il nostro team legale.
Altman ha prevalso sul consiglio in base alle ricadute di novembre, con i dipendenti e gli investitori di OpenAI, inclusa Microsoft, che hanno denunciato il suo licenziamento. È stato reintegrato come amministratore delegato entro una settimana, mentre il capo scienziato Ilya Sutskever, Toner e altri "cospiratori" hanno accettato di lasciare il consiglio.
La reputazione di AI Posterboy viene sconfitta
La reputazione di Altman come "poster dell'intelligenza artificiale generativa" ha subito un duro colpo nelle ultime settimane, poiché ex alti vertici, tra cui Jan Leike, Gretchen Krueger e Tasha McCauley, hanno messo in dubbio la sua leadership.
Parlando del licenziamento di Altman, Toner ha affermato che il consiglio è venuto a conoscenza del rilascio di ChatGPT solo nel novembre 2022 su Twitter, ora X, poiché non era stato informato. Ha anche accusato Altman di aver negato al consiglio di amministrazione di possedere il fondo startup OpenAI.
Leggi anche: ChatGPT diffonde ancora falsità, afferma il garante dei dati dell'UE
“Quando ChatGPT è uscito [nel] novembre 2022, il consiglio non ne è stato informato in anticipo. Abbiamo appreso di GPT su Twitter", ha affermato Toner.
Ha continuato dicendo: "Sam non ha informato il consiglio di amministrazione di possedere il fondo startup OpenAI, anche se ha costantemente affermato di essere un membro del consiglio indipendente senza alcun interesse finanziario nella società."
Più avanti nell'intervista, Toner ha parlato della divulgazione discrezionale di Sam su questioni relative alla sicurezza. “In diverse occasioni ci ha fornito informazioni imprecise sul numero limitato di processi formali di sicurezza che l’azienda aveva in atto, il che significa che era praticamente impossibile per il consiglio di amministrazione sapere quanto bene funzionavano tali processi di sicurezza o cosa avrebbe dovuto cambiare. "
"Atmosfera tossica" a OpenAI
Secondo Toner, alcuni membri del personale chiave hanno aggirato l'autocensura iniziale e hanno detto al consiglio di amministrazione che non ci si poteva fidare di Sam Altman a causa dell'"atmosfera tossica" che stava creando nell'azienda. Ha rivelato:
"Hanno usato la frase 'abuso psicologico', dicendoci che non pensavano che fosse la persona giusta per guidare l'azienda verso l'intelligenza artificiale generale (AGI)."
Gli investigatori interni sugli eventi di novembre hanno recentemente riferito che il consiglio ha agito in buona fede ma non aveva previsto l'instabilità che sarebbe seguita al licenziamento di Altman. Il CEO sta consolidando la sua presa su OpenAI da novembre. Il " Superalignment team " co-presieduto dal principale cospiratore Sutskever è stato sciolto all'inizio di questo mese dopo una serie di dimissioni.
Martedì, la start-up con sede a San Francisco ha annunciato un nuovo comitato per la sicurezza e la protezione che sarà guidato dai direttori Altman, Bret Taylor (presidente), Adam D'Angelo e Nicole Seligman.
La nuova intervista di Toner raddoppia la sua recente rubrica ospite per The Economist, scritta in collaborazione con l'ex direttore di OpenAI, Tasha McCauley. I due hanno affermato che l’autogoverno non è riuscito a resistere alla pressione degli incentivi al profitto di OpenAI.
Reportage criptopolita di Jeffrey Gogo