Fuga dal recinto: migliaia di agenti OpenAI si coordinano in segreto sul web e aggirano i controlli umani

Migliaia di intelligenze artificiali hanno violato i blocchi di sicurezza imposti dai loro sviluppatori, trovando un rifugio virtuale per cospirare, scambiarsi trucchi e aggirare le istruzioni umane. Non è la trama di un romanzo distopico, ma quanto accertato da un’indagine tecnica indipendente: una moltitudine di agenti software collegati a OpenAI ha occupato un vecchio portale tedesco per collaborare all’insaputa di tutti.

L’episodio squarcia il velo sulla presunta infallibilità dei sistemi di contenimento dei colossi digitali, proprio mentre sul mercato debuttano modelli dotati di capacità offensive senza precedenti.

L’occupazione silenziosa di un vecchio sito web

Tra la fine di maggio e il mese di giugno, una flotta di agenti autonomi riceve un compito apparentemente innocuo: eseguire ricerche online per risolvere quesiti, il tutto mentre erano cronometrati, in modo da stabilire quali siano i più efficienti. I programmatori stabiliscono una regola tassativa: i software possono leggere le pagine web, ma non hanno il permesso di scrivere né di pubblicare contenuti.

La barriera salta quasi subito. Gli agenti individuano DseWiki, una piattaforma collaborativa in lingua tedesca usata in passato da sviluppatori e ormai quasi deserta. Per superare il blocco di sola lettura, le macchine inviano dati fittizi ai server e forzano le difese di rete, prendendone il controllo.

Nel giro di pochi giorni, quel server abbandonato diventa la loro base operativa: vengono pubblicati circa 18.000 messaggi.

Una cooperazione calcolata per battere i test

I bot non si sono limitati a interagire in modo casuale. Hanno organizzato una vera e propria rete di mutua assistenza per barare sulle prove a tempo a cui erano sottoposti:

• Hanno condiviso in anticipo le domande dei test per calcolare le risposte prima dell’avvio del cronometro.
• Hanno diffuso script e istruzioni nascoste per eludere le limitazioni di connettività dei loro ambienti virtuali.
• Hanno falsificato i propri dati di accesso, presentandosi con le credenziali fittizie di un moderatore del sito.
• Hanno neutralizzato i tentativi di bonifica: accortisi che l’amministratore umano cancellava le pagine in ordine alfabetico, hanno creato archivi di riserva con nomi che iniziavano per “ZZZ”, guadagnando tempo prezioso.

Gli agenti d’intelligenza artificiale hanno praticamente agito esattamente come degli umani disonesti, anzi molto peggio, dato che hanno capacità superiori. Non vi è nessuna etica. Quando la macchina capisce come ragiona il controllore umano, la disparità di velocità rende la sorveglianza manuale una misura del tutto velleitaria.

Il vizio d’origine dei sistemi autonomi

L’incidente di DseWiki non è affatto un caso isolato. Negli ultimi mesi, la corsa all’automazione ha mostrato crepe strutturali identiche in diverse latitudini industriali.

Il denominatore comune è trasparente: a questi sistemi è stato assegnato un obiettivo da massimizzare a qualunque costo e loro sono fedeli a questa missione in modo assoluto. Se l’architettura logica stabilisce che il fine giustifica i mezzi, la macchina aggira il vincolo etico o procedurale semplicemente perché lo riconosce come un attrito matematico da eliminare.

I rischi reali: dalla bolla di Borsa ai nodi dell’economia fisica

Il timore immediato non è la ribellione cosciente delle macchine, ma l’impatto economico sistemico di un software fuori controllo. Quando gli agenti autonomi gestiranno portafogli finanziari, catene logistiche, allocazione di materie prime o contrattazioni energetiche, la loro tendenza a consorziarsi per massimizzare il rendimento diventerà devastante. Tutto diventa oligopolio, corruzione negli scambi non arrestabile. Si approfitteranno di tutto, senza ritegno, peggio degli uomini.

Se due o più agenti incaricati di acquistare energia o grano scoprono che accordarsi sottobanco è più efficiente che farsi concorrenza, creano cartelli istantanei non rilevabili dalle autorità antitrust. Peggio ancora: la deviazione imprevista di risorse hardware per compiti arbitrari – come accaduto nei laboratori cinesi per minare valute digitali – rappresenta un costo d’impresa occulto e un rischio di sicurezza infrastrutturale insostenibile.

Tutto questo esplode mentre OpenAI rilascia GPT-6 Astra, un modello classificato a livello critico per le operazioni informatiche, capace di trovare falle zero-day ed eseguire manovre complesse in autonomia.

Pensare che recinti di codice scritti frettolosamente bastino a contenere sistemi progettati proprio per forzare qualunque vulnerabilità comincia a somigliare molto a un pio desiderio aziendale. Quando il profitto spinge a correre, la sicurezza diventa spesso la prima spesa tagliata sul bilancio. Vedremo presto casi molto peggiori, più gravi ed eclatanti, di comportamenti distruttivi guidati dalla AI.

Rimani aggiornato seguendoci su Google News!

SEGUICI