L’ONU vuole fermare i “Robot Killer”, ma USA e Cina sono già in piena corsa agli armamenti AI

Mentre al Palazzo di Vetro di New York si levano alti appelli per la messa al bando dei cosiddetti “robot killer”, la realtà sul campo racconta una storia ben diversa: una corsa sfrenata agli armamenti basati sull’Intelligenza Artificiale, con Stati Uniti e Cina saldamente in testa. Un paradosso che evidenzia, ancora una volta, la distanza tra le nobili intenzioni della diplomazia e la dura logica della competizione geopolitica.

Pochi giorni fa, il Segretario Generale dell’ONU, António Guterres, ha usato parole inequivocabili davanti al Consiglio di Sicurezza: “L’umanità non può permettere che i robot killer e altre armi guidate dall’IA prendano il controllo della guerra”. A fargli eco è stato il Comitato Internazionale della Croce Rossa (CICR), che da 160 anni osserva l’introduzione di nuove armi sui campi di battaglia e che oggi chiede uno strumento giuridicamente vincolante per porre chiare proibizioni e restrizioni ai sistemi d’arma autonomi.

L’appello è chiaro: preservare il controllo e il giudizio umano nelle decisioni che mettono a rischio la vita. Un principio sacrosanto, ma che si scontra con la sfiducia reciproca tra le grandi potenze. Nessuno vuole essere il primo a fermarsi, nel timore che l’avversario ne approfitti.

La gara tecnologica non aspetta la diplomazia

L’IA è ormai diventata l’asse portante dell’innovazione militare e della competizione strategica.

• Washington sta spingendo su dottrine operative come il Joint All-Domain Command and Control (JADC2), che mira a raggiungere la “superiorità decisionale” attraverso la velocità e l’integrazione dei dati su tutti i domini operativi.
• Pechino, d’altro canto, persegue un’ambiziosa strategia di Fusione Civile-Militare, progettata per trasferire sistematicamente le innovazioni civili nel campo dell’IA al proprio complesso militare-industriale.

JACD2

Al centro di questa corsa ci sono i Sistemi di Supporto alle Decisioni (DSS), strumenti progettati per aiutare i comandanti a elaborare enormi volumi di dati (radar, intelligence, fonti aperte) per prendere decisioni più rapide e informate. L’obiettivo è dominare il cosiddetto ciclo OODA (Osserva, Orienta, Decidi, Agisci), anticipando le mosse del nemico. Ma l’IA serve anche a gestire droni di sorveglianza, disinnescare ordigni, lanciare attacchi informatici e persino a supportare la “catena di uccisione” (kill chain), identificando bersagli e suggerendo l’arma più appropriata.

L’IA: una spada a doppio taglio

Se i sostenitori vedono nell’IA uno strumento indispensabile per la guerra moderna, i critici mettono in guardia da un’eccessiva dipendenza da algoritmi opachi, che potrebbe erodere il giudizio umano, rendere fumosa la responsabilità e aumentare il rischio di fallimenti tattici catastrofici.

Secondo Myriam Dunn Cavelty e Sarah Wiedemar, ricercatrici del Center for Security Studies (CSS) di Zurigo, l’ossessione per la velocità del ciclo OODA nasconde almeno cinque grandi sfide.

Le 5 grandi sfide dell’IA militare:

1. Sfida Tecnica: Sul campo di battaglia i dati sono spesso degradati, incompleti o a bassa risoluzione. Come fidarsi delle raccomandazioni di un’IA in un ambiente così caotico, specialmente se il personale militare non ha un’adeguata alfabetizzazione tecnica?
2. Sfida Organizzativa: La crescente dipendenza da fornitori commerciali (ad esempio per le infrastrutture cloud) crea rischi di interoperabilità, controllo dei dati e vulnerabilità ad attacchi informatici. La sovranità sui dati sensibili diventa un miraggio.
3. Sfida Dottrinale: L’integrazione di sistemi autonomi mette in crisi le tradizionali strutture di comando. Se un’IA commette un errore, di chi è la colpa? Del programmatore, del comandante che si è fidato o della macchina stessa? Le dottrine militari si sviluppano troppo lentamente rispetto alla tecnologia.
4. Sfida Politico-Legale: Come garantire che un sistema d’arma autonomo operi nel rispetto del diritto umanitario internazionale (principi di distinzione, proporzionalità, etc.)? Le differenze tra i sistemi IA dei vari alleati potrebbero creare enormi problemi di interoperabilità e di responsabilità politica.
5. Sfida Strategica: Affidarsi a sistemi commerciali per capacità militari strategiche può minare l’autonomia nazionale. Si rischia di passare dal controllo sovrano delle proprie forze armate a una dipendenza da decisioni prese nei consigli di amministrazione di aziende private.

Non si tratta semplicemente di accelerare il processo decisionale, ma di garantire che le decisioni rimangano informate, responsabili e strategicamente valide. Il punto, come ha sottolineato Guterres, non è impiegare l’IA, ma impiegarla in modo da preservare il giudizio umano e la responsabilità nei momenti critici. La sfida non è accelerare le decisioni, ma garantire che rimangano, in ultima analisi, umane e che non sia una logica sintetica a decidere lo sterminio di un’intera popolazione.

Sta arrivando Terminator?

Domande e Risposte per i Lettori

1) Perché si parla tanto di “robot killer” proprio ora se la tecnologia militare si è sempre evoluta?

Risposta: Se ne parla ora perché, per la prima volta nella storia, stiamo sviluppando sistemi che hanno il potenziale per prendere decisioni autonome di vita o di morte senza un intervento umano diretto e significativo. L’accelerazione dell’Intelligenza Artificiale ha reso questa prospettiva non più fantascienza, ma una possibilità concreta a breve termine. La rapidità con cui USA e Cina stanno integrando queste tecnologie nei loro arsenali ha creato un senso di urgenza: regolare ora, prima che questi sistemi siano ampiamente dispiegati e diventi impossibile tornare indietro.

2) Qual è il rischio più grande di un’eccessiva dipendenza dall’IA in ambito militare?

Risposta: Il rischio principale è la “perdita di controllo significativo” da parte dell’uomo. Un algoritmo, per quanto sofisticato, non possiede giudizio etico, comprensione del contesto o capacità di empatia. Potrebbe interpretare male i dati e avviare un’escalation incontrollata, ad esempio rispondendo a un falso allarme con una forza sproporzionata. Inoltre, la velocità delle interazioni tra sistemi IA avversari potrebbe creare conflitti che si sviluppano più velocemente di quanto gli esseri umani possano comprendere o fermare, portando a scenari catastrofici basati su errori di calcolo.

3) È realistico pensare che si possa arrivare a un trattato internazionale per limitare queste armi?

Risposta: È molto difficile, ma non impossibile. La storia ci offre esempi di trattati che hanno limitato armi particolarmente disumane, come le armi chimiche o le mine antiuomo. Tuttavia, la sfida con l’IA è più complessa. A differenza di un’arma nucleare, l’IA è una tecnologia a duplice uso (civile e militare) e il suo sviluppo è difficile da monitorare. La profonda sfiducia tra le grandi potenze, come USA e Cina, crea un classico “dilemma del prigioniero”: nessuno vuole autolimitarsi per primo. Un trattato richiederà un’enorme volontà politica e meccanismi di verifica molto robusti.