AI truffaldina: società di produzione stava per essere truffata da un Benedict Cumberbacht ricreato dalla AI

La AI rischia di facilitare le truffe. Una società di produzione cinematografica è stata presa di mira da truffatori che hanno utilizzato un “clone” vocale di Benedict Cumberbatch creato dall’intelligenza artificiale, ha rivelato la società al Daily Mail.

Un Benedict Cumberbatch (Sherlock, Dottor Strange)  inquietantemente convincente ha telefonato alla società per discutere di un contratto cinematografico, ha dichiarato Bob William, sceneggiatore e regista della Peabody Films, una società di produzione cinematografica con sede a Malaga, in Spagna.

L’intelligenza artificiale ha ricreato “Al 100% la voce ” dell’attore inglese afferma William, aggiungendo che all’inizio la società era convinta che si trattasse del vero attore.

Quando “Cumberbatch” e il suo agente si sono rifiutati di incontrarsi di persona, hanno capito lo stratagemma, riuscendo così ad evitare di perdere dei fondi finanziari. Inoltre il personale della Peabody si era reso conto che la telefonata proveniva dalla città statunitense di Philadelphia, che non corrispondeva al luogo in cui si trovava Cumberbacht.

All’inizio, l’e-mail sembrava un sogno che si realizzava. Benedict Cumberbatch aveva apparentemente letto la sceneggiatura del nostro prossimo film ed era interessato a discutere di un potenziale ruolo”, ha detto il signor William.

“Quando abbiamo continuato a leggere, non potevamo credere alla nostra fortuna. Era uno degli attori più talentuosi del nostro tempo che ci contattava e mostrava interesse per il nostro progetto”. Infatti era troppo bello per essere vero.

Purtroppo molti altri sono caduti in truffe simili perchè la Ai è stata in grado di ricreare voci e immagini con una precisione tale da truffare le controparti.

All’inizio di quest’anno, i ricercatori di Microsoft hanno dimostrato un modello di intelligenza artificiale text-to-speech in grado di sintetizzare la voce di chiunque a partire da un campione audio di tre secondi.

Il modello, VALL-E, è in grado di preservare il tono emotivo dell’interlocutore e di fargli dire qualsiasi cosa, e i suoi creatori suggeriscono che può essere utilizzato per creare contenuti audio sceneggiati da altri modelli AI.

A questo punto non ci si può fidare neanche della voce di una persona, neppure quando famosa e conosciuta. Meglio tornare al vecchio sistema secondo il quale per concludere un accordo bisogna incontrarsi di persona e stringere delle mani.