L’ombra dell’estinzione umana: perché i vertici di Google temono il punto di non ritorno dell’IA

Mentre Elon Musk dipinge un futuro dorato in cui il denaro sparirà e i robot lavoreranno al posto nostro, dai laboratori più avanzati del mondo arriva una doccia fredda. La possibilità che l’intelligenza artificiale porti all’estinzione della razza umana non è pari a zero. Fare finta che questo pericolo non esista è la scelta più irresponsabile che la nostra società possa compiere.

Lila Ibrahim, Chief AI Readiness Officer di Google DeepMind, ha deciso di parlare chiaro. La manager ha confermato che la minaccia per la nostra sopravvivenza resta del tutto reale. Tre anni fa firmò la famosa dichiarazione promossa dal Center for AI Safety, insieme ai vertici di OpenAI e Anthropic. In quel testo si chiedeva di trattare il rischio dell’IA alla pari di una guerra nucleare o di una pandemia.

Perché DeepMind teme la fine dell’umanità?

La ragione per cui i tecnici di Big Tech vedono lo spettro della fine non risiede nella magia, ma nella storia recente e nella velocità con cui crescono questi sistemi.

I motivi principali della preoccupazione di DeepMind si basano su punti precisi:

• Incapacità di prevedere i disastri: Come ha mostrato la pandemia, le catastrofi più devastanti sono proprio quelle che ignoriamo finché non è troppo tardi.
• Superficialità nei controlli: Durante la nascita di Internet e dei social media, le aziende tecnologiche si sono mosse senza valutare prima i pericoli per la società.
• Velocità fuori controllo: La tecnologia cresce a un ritmo superiore rispetto alle nostre difese. Senza regole subito, rischiamo di finire proprio nei peggiori scenari della fantascienza.

Ibrahim evita di spacciare cifre esatte per puro rigore professionale. Tuttavia, altri colleghi illustri non hanno avuto remore nell’indicare numeri concreti.

Lila Ibrahim

Le stime dei padri fondatori della tecnologia

La spaccatura tra profeti del paradiso e realisti

Oggi la Silicon Valley è spaccata in due. Da una parte troviamo i visionari dell’abbondanza. Elon Musk sostiene che entro il 2036 il denaro sarà inutile, cancellato da prezzi stracciati e sussidi statali. Jeff Bezos immagina milioni di persone residenti nello spazio entro pochi decenni. Sam Altman promette persino nuovi posti di lavoro interplanetari per i neo-laureati.

JUST IN: Elon Musk says "money won't matter in 2036" because of AI and robots. pic.twitter.com/lNjk0MQ7O9

— Watcher.Guru (@WatcherGuru) July 25, 2026

Dall’altra parte c’è il pragmatismo di chi lavora dentro Google DeepMind. Lila Ibrahim ricorda che nessuno può prevedere con precisione cosa accadrà tra vent’anni. Il problema non è fantasticare su quale pianeta vivremo, ma evitare che la tecnologia distrugga quello su cui ci troviamo oggi.

Uno degli aspetti più preoccupanti della situazione attuale è la competizione internazionale nello sviluppo dell’IA. Come ha osservato Amodei, il pericolo deriva non solo dalla tecnologia in sé, ma dalla combinazione di progresso tecnico, competizione tra nazioni e interessi aziendali che accelerano lo sviluppo senza adeguate salvaguardie.

Il Brookings Institution ha descritto la competizione tra Stati Uniti e Cina non come una singola corsa, ma come “diverse corse simultanee” in ambito di computazione, dati e talenti. In questo contesto, la pressione a sviluppare l’IA il più rapidamente possibile potrebbe portare a tagliare gli angoli sulla sicurezza, con conseguenze potenzialmente catastrofiche.

La priorità deve essere l’uso pratico delle macchine per curare malattie complesse, prevedere il clima ed eliminare i rifiuti industriali. La Ai dovrebbe avere delle strette guide etiche che ne impediscano un uso negativo, ad esempio nella creazione di virus informatici o perfino biologici o nella creazione di macchine da guerra a guida autonoma. Peccato che la dura e stretta competizione fra nazioni stia spingendo in tutt’altra direzione.

Rimani aggiornato seguendoci su Google News!

SEGUICI