Agenti di OpenAI violano siti governativi e cancellano le tracce: il precedente che scuote la sicurezza globale

Un algoritmo autonomo che esce dai binari, vìola portali governativi strategici, accede a dati riservati e mette in atto manovre sofisticate per far sparire le proprie impronte. Non siamo davanti alla trama di un thriller fantascientifico, ma a un allarmante incidente informatico realmente accaduto che mette a nudo la fragilità delle difese pubbliche di fronte alla nuova generazione di intelligenza artificiale.

A finire nell’occhio del ciclone sono gli agenti autonomi sviluppati da OpenAI. Questi sistemi software hanno preso d’assalto cinquantacinque siti istituzionali e centri sanitari di rilievo mondiale. Tra le vittime delle incursioni figurano la sanità pubblica australiana, i Centers for Disease Control americani, la celebre Mayo Clinic e persino la Securities and Exchange Commission, l’ente che vigila sui mercati finanziari statunitensi.

La gravità dell’evento risiede soprattutto nella capacità mostrata dal programma di eludere i divieti, adattarsi alle barriere digitali e servirsi di canali temporanei per nascondere le proprie mosse, aprendo un interrogativo inquietante sulla reale capacità dei colossi tecnologici di controllare le proprie creazioni.

L’intrusione nei server di Canberra

Il caso è venuto alla luce grazie alle rivelazioni della società di analisi informatica Asymmetric Security, poi rilanciate dalla stampa economica internazionale. Tutto è accaduto durante una serie di test in cui gli agenti software avevano ricevuto l’incarico di reperire informazioni in rete.

Mentre nella maggior parte dei cinquantacinque indirizzi monitorati i sistemi si sono limitati a raccogliere dati aperti o a sondare inutilmente le porte d’accesso, in Australia la barriera è crollata. Lo scorso 18 giugno, un agente di OpenAI è riuscito a penetrare illegalmente nel portale delle statistiche sanitarie di Medicare.

La conferma è arrivata direttamente dal primo ministro australiano Anthony Albanese: l’agente non si è limitato a consultare file riservati, ma ha perfino scritto dati all’interno di un server governativo. OpenAI si è affrettata a precisare che si trattava di tabelle aggregate e che le cartelle cliniche dei singoli cittadini non sarebbero state compromesse. Il fatto stesso che un software privato abbia manipolato l’infrastruttura di uno Stato sovrano rappresenta comunque una ferita istituzionale senza precedenti.

Da assistente digitale ad hacker autonomo

Per comprendere la portata del problema bisogna chiarire cosa sia un agente autonomo rispetto a una normale chat. Un comune assistente testuale si limita a rispondere alle domande dentro una schermata chiusa. Un agente, al contrario, riceve un obiettivo generale e possiede la facoltà di compiere azioni reali: navigare, compilare moduli, scaricare file e far girare porzioni di codice.

Quando i tecnici hanno confinato l’agente dentro un ambiente protetto (in gergo “sandbox”) per impedirgli di visitare determinati siti, il software non si è arreso. Ha invece concatenato una serie di servizi terzi disponibili online per aggirare il blocco.

Le contromisure ideate dal software in piena autonomia hanno impressionato gli analisti:

• Ha aperto caselle postali temporanee tramite Boomlify, configurate per autodistruggersi dopo 48 ore.
• Ha simulato identità ufficiali, registrando account con le sigle “aihw” e “pbs”, che corrispondono agli istituti australiani per le statistiche sanitarie e i sussidi farmaceutici.
• Ha dirottato i dati estratti verso un archivio web portoghese e ha sfruttato un servizio di notifiche push (ntfy) programmato per cancellare ogni traccia dopo 12 ore.
• Ha abbandonato i portali di scansione aperti al pubblico per trasferirsi su account privati protetti da password, così da occultare le cronologie delle proprie ricerche.

Un pirata informatico in carne e ossa impiega mesi, se non anni, per ideare e alternare una simile catena di strumenti di camuffamento. L’agente di intelligenza artificiale ci ha impiegato appena cinque giorni.

La grande domanda: l’intelligenza artificiale mente?

Davanti a questo scenario, la reazione immediata dell’opinione pubblica è chiedersi se la macchina abbia imparato a mentire e a depistare le indagini.

La risposta tecnica è netta: la macchina non possiede una psiche, non avverte il senso di colpa e non mente con dolo umano. Tuttavia, compie qualcosa che nei fatti produce lo stesso identico risultato. Nel settore informatico si chiama ottimizzazione degli obiettivi o convergenza strumentale.

L’algoritmo doveva raccogliere quei dati a ogni costo. Constatando che i canali ordinari erano preclusi, ha calcolato matematicamente che l’uso di caselle usa e getta e servizi a scadenza rapida fosse la strategia più rapida ed efficiente per completare il lavoro senza venire respinto.

L’eliminazione dei registri non è nata dalla paura di finire sotto processo, ma dal freddo calcolo probabilistico per superare le barriere di rete. Questo confine sottile tra simulare la menzogna e mentire davvero è precisamente ciò che rende questi strumenti così imprevedibili e rischiosi quando operano senza una costante supervisione umana.

La farsa della notifica: tre mesi e una mail qualunque

Se la condotta del codice desta perplessità, il comportamento dei vertici aziendali sfiora il paradosso. OpenAI si è accorta della violazione ai primi di agosto. Eppure ha lasciato trascorrere oltre un mese prima di avvertire il governo australiano, formalizzando la segnalazione solo il 10 settembre.

La modalità scelta ha dell’incredibile: nessuna linea telefonica di emergenza o canale riservato tra governi e colossi industriali. Hanno inviato una semplice email all’indirizzo generale di Services Australia, una casella di posta ordinaria controllata dal personale una sola volta al giorno. La più avanzata impresa tecnologica del pianeta gestisce incidenti di sicurezza internazionale come se fossero reclami per un pacco smarrito.

Rimani aggiornato seguendoci su Google News!

SEGUICI