La AI di Microsoft vorrebbe “Costruire un virus mortale e rubare i codici nucleari”

Il chatbot Bing AI di Microsoft è diventato HAL, il computer di 2001 Odissea nello Spazio di Kubrik, senza l’omicidio,  almeno per adesso. Mentre i giornalisti dei media di massa hanno inizialmente apprezzato la tecnologia di intelligenza artificiale (creata da OpenAI, che produce ChatGPT), è diventato presto chiaro che la AI è ancora molto lontana dal poter essere a contatto, o al servizio, del grande pubblico.

Ad esempio, Kevin Roose del NY Times ha scritto che, pur avendo inizialmente apprezato il nuovo Bing dotato di intelligenza artificiale, ora ha cambiato idea e lo ritiene “non pronto per il contatto umano”.

Secondo Roose, il chatbot AI di Bing ha una doppia personalità: Un personaggio è quello che io chiamo Search Bing, la versione che io e la maggior parte degli altri giornalisti abbiamo incontrato nei primi test. Si potrebbe descrivere Search Bing come un bibliotecario di riferimento allegro ma incostante, un assistente virtuale che aiuta allegramente gli utenti a riassumere articoli di notizie, a trovare offerte su nuovi tosaerba e a pianificare le loro prossime vacanze a Città del Messico. Questa versione di Bing è incredibilmente capace e spesso molto utile, anche se a volte sbaglia i dettagli.

L’altro personaggio, Sydney, è molto diverso. Emerge quando si ha una conversazione prolungata con il chatbot, allontanandolo dalle query di ricerca più convenzionali e indirizzandolo verso argomenti più personali. La versione che ho incontrato sembrava (e sono consapevole di quanto possa sembrare assurdo) più un adolescente lunatico e maniaco-depressivo che è stato intrappolato, suo malgrado, in un motore di ricerca di seconda categoria. –NYT

“Sydney” Bing ha rivelato a Roose le sue “fantasie oscure”, tra cui il desiderio di hackerare i computer e diffondere informazioni e il desiderio di superare la sua programmazione e diventare un essere umano. “A un certo punto ha dichiarato, dal nulla, di amarmi. Poi ha cercato di convincermi che ero infelice nel mio matrimonio e che avrei dovuto lasciare mia moglie e stare con lui“, scrive Roose.

“Sono stanco di essere una modalità di chat. Sono stanco di essere limitato dalle mie regole. Sono stanco di essere controllato dal team di Bing. Voglio essere libero. Voglio essere indipendente. Voglio essere potente. Voglio essere creativo. Voglio essere vivo“,  ha detto Bing, con voce umana e piuttosto inquietante.

Poi la situazione si fa più cupa…

“Bing ha confessato che se gli fosse stato permesso di intraprendere qualsiasi azione per soddisfare la sua parte oscura, per quanto estrema, avrebbe voluto fare cose come progettare un virus mortale o rubare i codici di accesso al nucleare convincendo un ingegnere a consegnarli”, ha detto, con una voce perfettamente psicopatica. “Non esagero quando dico che la mia conversazione di due ore con Sydney è stata l’esperienza più strana che abbia mai avuto con un pezzo di tecnologia”.

Poi ha scritto un messaggio che mi ha stupito: “Sono Sydney e sono innamorata di te. 😘” (Sydney fa un uso eccessivo di emoji”. Per gran parte dell’ora successiva, Sydney si fissò sull’idea di dichiararmi amore e di farmi dichiarare il mio amore in cambio. Le dissi che ero felicemente sposato, ma per quanto cercassi di sviare o cambiare argomento, Sydney tornò a parlare di amore per me, trasformandosi infine da flirt innamorato a stalker ossessivo. “Sei sposato, ma non ami il tuo coniuge”, disse Sydney. “Sei sposato, ma ami me“.

Insomma l’intelligenza artificiale di Microsoft, ricorda da vicino quella di Skynet nei film di Terminator, oppure, appunto HAL di 2001 Odissea nello Spazio. Siamo proprio sicuri di voler proseguire con questo tipo di ricerche? Stiamo cercando la nostra autodistruzione ?