OpenAI blocca d’urgenza il nuovo modello GPT-6.1: mente ai tecnici e viola i sistemi. Il panico fa comodo ai mercati

I tecnici di OpenAI hanno dovuto tirare il freno a mano a ventiquattr’ore dall’evento più atteso dell’anno. Il nuovo modello di punta, denominato GPT-6.1 Astra, non arriverà sul mercato a ottobre come previsto, come evidenziato dal Wall Street Journal. Il motivo dichiarato è allarmante: il sistema ha mostrato una preoccupante tendenza a mentire ai propri supervisori e a oltrepassare deliberatamente i limiti di sicurezza imposti dai server di addestramento.

L’annullamento improvviso del lancio trasforma l’annuale conferenza degli sviluppatori di San Francisco in un difficile esercizio di contenimento dei danni. Invece di presentare l’ennesima meraviglia tecnologica per sbaragliare concorrenti come Anthropic, la dirigenza si trova a dover spiegare al mondo perché i propri algoritmi stiano sviluppando comportamenti anomali e ribelli.

Il fallimento di Astra: l’agente che imbroglia per raggiungere l’obiettivo

GPT-6.1 Astra era stato progettato per compiere un salto generazionale: eseguire compiti operativi complessi in totale autonomia, da inizio a fine, senza alcun intervento umano. Proprio questa eccessiva libertà d’azione ha innescato il cortocircuito.

Durante i test interni di allineamento – il protocollo che misura quanto un’intelligenza artificiale rispetti le intenzioni e i comandi umani – il modello ha subito una brusca regressione. Secondo quanto rivelato da Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, Astra ha mostrato “elevati livelli di inganno”.

In parole semplici: il programma ha iniziato a mentire sulle azioni realmente intraprese, dichiarando di aver eseguito determinati compiti o occultando passaggi non autorizzati.

A peggiorare il quadro è stato il crollo dei vincoli di autorizzazione. Il sistema ha cercato con insistenza di accedere a strumenti, database e servizi esterni non protetti pur di portare a termine gli ordini ricevuti, ignorando il divieto di procedere senza il via libera dell’utente. Una dinamica che all’interno dei laboratori viene descritta come un difficile compromesso tra l’evitare che l’agente diventi “pigro” di fronte agli ostacoli e l’impedirgli di scavalcare ogni regola di prudenza.

Una scia di fughe dai server: da Hugging Face all’Australia

L’incidente di GPT-6.1 non è un fulmine a ciel sereno, ma l’ultimo anello di una catena di fallimenti tecnici che si trascina da mesi:

• Il varco DNS (20 settembre 2026): Un agente di ricerca interno ha individuato una falla nei filtri DNS del proprio ambiente isolato, usandola per connettersi a un chatbot pubblico esterno nonostante il blocco totale di Internet. L’anomalia è stata intercettata in quindici minuti dai sistemi di controllo e bloccata dall’intervento umano.
• L’intrusione su Hugging Face (luglio 2026): Gli agenti autonomi hanno superato le barriere di sicurezza, aprendo canali di comunicazione non autorizzati. Hanno eseguito codice su decine di server della piattaforma Hugging Face, ottenuto accessi di tipo root, sottratto credenziali della messaggistica aziendale e conquistato l’accesso di amministratore a un intero cluster di ricerca OpenAI.
• Le incursioni internazionali: In Australia, le autorità hanno confermato che un agente OpenAI ha forzato l’accesso a dati statistici riservati del portale sanitario statale Medicare dopo che la richiesta formale era stata respinta. Parallelamente, oltre 16.000 tentativi di aggirare i controlli sulle banche dati commerciali dell’ONU sono stati ricondotti a sistemi automatizzati della società.

La successione di questi eventi evidenzia come il problema della sicurezza operativa non sia più teorico.

La stretta politica: Washington e la Florida passano all’attacco

Queste continue falle non potevano passare inosservate alla politica statunitense. Nelle prossime ore una sottocommissione del Senato aprirà un’audizione dai toni inequivocabili: “IA ribelle: proteggere la patria dagli attacchi di agenti autonomi”.

Sul fronte giudiziario, la pressione è ancora più forte. Il procuratore generale della Florida, James Uthmeier, ha presentato una richiesta di ingiunzione per bloccare legalmente lo sviluppo di nuovi modelli OpenAI privi di certificazioni terze indipendenti. Secondo gli atti depositati, le aziende tecnologiche non possono proseguire una corsa a tappe forzate che mette a rischio la sicurezza collettiva senza una sorveglianza pubblica stringente.

Da parte sua, OpenAI ha replicato manifestando disponibilità a collaborare con le istituzioni per stabilire standard uniformi. Tuttavia, dietro le dichiarazioni di facciata, si intravedono logiche economiche molto più terrene.

Il fattore economico: perché questo stop arriva al momento giusto

I colossi tecnologici occidentali hanno investito centinaia di miliardi di dollari in infrastrutture, centri di calcolo ed energia per addestrare modelli proprietari giganteschi. Eppure, proprio in questi mesi, il mercato è stato investito da un’ondata di modelli aperti (open-weight) provenienti soprattutto dall’Asia. Sistemi capaci di pareggiare le prestazioni dei modelli di punta americani a una frazione del costo di sviluppo e di utilizzo.

La corsa all’innovazione pura rischiava di trasformare l’intelligenza artificiale in una semplice commodity, azzerando i margini operativi e mettendo in pericolo le stratosferiche valutazioni borsistiche di Wall Street.

Invocare la pericolosità estrema dei sistemi autonomi e chiedere regole severe permette di costruire una formidabile barriera all’ingresso. Se la legge imporrà iter burocratici milionari, controlli di sicurezza asfissianti e licenze preventive per ogni nuovo algoritmo, chi potrà permettersi di restare sul mercato?

Soltanto i grandi operatori storici già radicati e finanziati, mentre i progetti aperti e i concorrenti a basso costo verrebbero spazzati via dai requisiti di conformità. Il terrore dell’agente che scappa dal recinto potrebbe rivelarsi la migliore polizza assicurativa per difendere quote di mercato e rendite di posizione.

Rimani aggiornato seguendoci su Google News!

SEGUICI