L’esercito popolare cinese collega la sua AI con quelle commerciali per prevedere le mosse dell’avversario

Gli scienziati cinesi stanno insegnando a un’intelligenza artificiale (AI) militare sperimentale come affrontare nemici umani imprevedibili con l’aiuto di tecnologie simili alla ChatGPT. Secondo gli scienziati coinvolti nel progetto, un laboratorio di ricerca della Forza di Supporto Strategico dell’Esercito Popolare di Liberazione (PLA), che supervisiona la guerra spaziale, informatica, di intelligence ed elettronica dell’esercito cinese, ha creato un collegamento fisico tra il suo sistema di intelligenza artificiale e Ernie di Baidu e Spark di iFlyTek, che sono modelli linguistici di grandi dimensioni simili a ChatGPT.

L’intelligenza artificiale militare è in grado di convertire in linguaggio descrittivo o in immagini le grandi quantità di dati dei sensori e le informazioni riportate dalle unità in prima linea e di trasmetterle ai modelli commerciali. Dopo che questi ultimi confermano di aver capito, l’IA militare genera automaticamente richieste di approfondimento su vari compiti, come le simulazioni di combattimento. L’intero processo è completamente privo di coinvolgimento umano.
Nel frattempo, un informatico ha espresso preoccupazione per questa mossa, affermando che se non verrà gestita con attenzione, potrebbe portare a una situazione simile a quella descritta nei film di Terminator.

Il progetto è stato descritto in dettaglio in un articolo pubblicato nel dicembre 2023 sulla rivista accademica cinese Command Control & Simulation. Nel documento, lo scienziato Sun Yifeng e il suo team dell’Università di Ingegneria dell’Informazione della PLA hanno scritto che sia gli esseri umani che le macchine potrebbero trarre beneficio dal progetto.
“I risultati della simulazione aiutano il processo decisionale umano… e possono essere utilizzati per perfezionare la riserva di conoscenze di combattimento della macchina e migliorare ulteriormente il livello di cognizione di combattimento della macchina”, hanno scritto.

È la prima volta che l’esercito cinese conferma pubblicamente l’uso di modelli linguistici commerciali di grandi dimensioni. Per motivi di sicurezza, le strutture informatiche militari non sono generalmente collegate direttamente alle reti civili. Il team di Sun non ha fornito dettagli sul collegamento tra i due sistemi, ma ha sottolineato che questo lavoro era preliminare e a scopo di ricerca.
Sun e i suoi colleghi hanno dichiarato che il loro obiettivo è quello di rendere l’IA militare più “simile all’uomo”, in grado di comprendere meglio le intenzioni dei comandanti a tutti i livelli e di comunicare più abilmente con gli esseri umani.

La maggior parte delle IA militari esistenti si basa su sistemi tradizionali di gioco di guerra. Sebbene le loro capacità siano progredite rapidamente, spesso gli utenti le sentono più simili a una macchina che a un essere vivente.
Inoltre, quando affrontano nemici umani astuti e imprevedibili, le macchine possono essere ingannate. Tuttavia, i modelli linguistici commerciali di grandi dimensioni, che hanno studiato quasi tutti gli aspetti della società, comprese le opere letterarie, i notiziari e i documenti storici, possono aiutare l’intelligenza artificiale militare a comprendere meglio le persone.

Nel documento, il team di Sun ha parlato di uno dei suoi esperimenti che simulava un’invasione militare statunitense della Libia nel 2011. L’IA militare ha fornito a Ernie informazioni sulle armi e sullo schieramento di entrambi gli eserciti. Dopo diversi cicli di dialogo, Ernie è riuscito a prevedere la prossima mossa dell’esercito statunitense.

Il team di Sun ha affermato che tali previsioni possono compensare le debolezze umane. “Come forma di vita più elevata, gli esseri umani non sono perfetti nella cognizione e spesso hanno convinzioni persistenti, note anche come pregiudizi”, ha scritto il team di Sun nell’articolo. “Questo può portare a situazioni di sopravvalutazione o sottovalutazione delle minacce sul campo di battaglia. La consapevolezza della situazione umana assistita dalle macchine è diventata un’importante direzione di sviluppo”.
Il team di Sun ha anche affermato che ci sono ancora alcuni problemi di comunicazione tra i modelli militari e quelli commerciali, poiché questi ultimi non sono stati sviluppati specificamente per la guerra. Ad esempio, le previsioni di Ernie sono a volte vaghe e danno solo un’idea generale delle strategie di attacco, senza le specifiche di cui hanno bisogno i comandanti militari.

E se la risposta del nemico fosse utilizzare un’altra AI, dove andrebbe a finire questa AI militare? E se la comtroparte creasse una comunicazione ad hoc per trarla in inganno? Il futuro