Sam Altman era stato licenziato da OpenAI perché la AI è diventata troppo pericolosa? Il progetto Q*

Ora che Sam Altman è tornato resta un mistero: perché veramente è stato licenziato venerdì 17 Novembrre? Era solo un  giorno infausto? Il CdA è impazzito? Questa decisione improvvisa e azzardata potrebbe ruotare anche attorno a una notiza di Reuters che suggerisce il collegamento con una scoperta nel campo dell’intelligenza artificiale generale (AGI), che potrebbe minacciare l’umanità.

Nei giorni precedenti la mandata in esilio di Altman, diversi ricercatori dello staff scrissero una lettera al consiglio su una svolta significativa – chiamata Q* e pronunciata Q-Star – che permise al modello di intelligenza artificiale di “superare gli esseri umani nei compiti economicamente più importanti”.

Fonti di Reuters hanno affermato che il traguardo dell’intelligenza artificiale è stato uno dei fattori significativi che hanno portato all’improvviso licenziamento di Altman da parte del consiglio venerdì scorso. La preoccupazione era legata alla  commercializzazione di un modello avanzato di intelligenza artificiale senza comprenderne le conseguenze socioeconomiche che sarebbero potenzialmente enormi. 

Inoltre, prima che Altman venisse licenziato, avrebbe potuto fare riferimento a Q* presso la Cooperazione economica Asia-Pacifico a San Francisco: “Quattro volte nella storia di OpenAI—l’ultima volta è stata proprio nelle ultime due settimane—sono riuscito a essere nella stanza, quando in un certo senso spingiamo indietro il velo dell’ignoranza e la frontiera della scoperta in avanti, “, ha detto Altman

Questo fatto avanti avrebbe fatto scattare un conflitto interno a OpenAI, che affonda le sue radici in una battaglia ideologica tra coloro che spingono per un rapido progresso dell’IA e coloro che sostengono un approccio allo sviluppo più lento e responsabile.

Reuters ha parlato con un portavoce di OpenAI che ha confermato l’esistenza del progetto Q* e la lettera al consiglio prima del licenziamento di Altman.

Allora perché Q* rappresenta una svolta? Come spiega il blog tecnologico 9to5Mac:

Attualmente, se chiedi a ChatGPT di risolvere un problema di matematica, utilizzerà comunque il suo approccio predittivo con testo sotto steroidi per compilare una risposta utilizzando un enorme database di testo e decidere parola per parola come risponderebbe un essere umano . Ciò significa che può o meno dare la risposta giusta, ma in ogni caso non ha alcuna competenza matematica, semplicemente cercherà da qualche parte la risposta. 

OpenAI sembra aver fatto un passo avanti in questo settore, consentendo con successo a un modello di intelligenza artificiale di risolvere realmente problemi matematici mai visti prima e quindi non archiviati in qualche database. Questo sviluppo è noto come Q*. Purtroppo il team non ha utilizzato un modello di denominazione sufficientemente intelligente da evitare qualcosa che assomigli a un puntatore a una nota a piè di pagina, quindi utilizzerò la versione Q-Star.

Si dice che l’attuale capacità matematica di Q-Star sia quella di uno studente delle scuole elementari, ma si prevede che questa capacità migliorerà rapidamente.

Questo sviluppo tecnologico potrebbe essere uno dei primi segnali dell’imminente commercializzazione dell’AGI, una forma di intelligenza artificiale in grado di superare gli esseri umani.

L’AGI ha il potenziale per superare gli esseri umani in ogni campo, compresa la creatività, la risoluzione dei problemi, il processo decisionale, la comprensione del linguaggio, ecc., sollevando preoccupazioni per il massiccio spostamento di posti di lavoro. Un recente rapporto Goldman sottolinea come nel mondo occidentale potrebbero verificarsi 300 milioni di licenziamenti a causa dell’intelligenza artificiale.

La svolta Q* e il rapido avanzamento di questa tecnologia ora spiegano il motivo per cui il consiglio ha improvvisamente licenziato Altman per la sua fretta di sviluppare questa tecnologia senza studiare l’impatto del modello su come minaccia l’umanità.

Altman ha recentemente affermato: “Penso che questo sia sicuramente il più grande aggiornamento mai realizzato finora per le persone. E forse il più grande che avremo perché da qui in poi, la gente accetterà che una potente IA è, accadrà, e ci sarà essere aggiornamenti incrementali… c’è stato tipo l’anno in cui è uscito il primo iPhone, e poi ce ne sono stati tutti quelli successivi.”

According to a report by Reuters, OpenAI’s secret breakthrough called Q* (pronounced Q-Star) precipitated the ousting of Sam Altman.

Ahead of Sam’s firing, researchers sent the board a letter warning of a new AI discovery that could “threaten humanity”. pic.twitter.com/F9bAeJG0fX

— Rowan Cheung (@rowancheung) November 23, 2023

Nel frattempo, Musk, che ha messo in guardia sull’intelligenza artificiale che minaccia l’umanità, ha definito il rapporto Reuters “estremamente preoccupante”.

Extremely concerning!https://t.co/Ru2FU2tOFG

— Elon Musk (@elonmusk) November 23, 2023