Adobe vende immagini generate dalla AI sulla guerra fra Hamas e Israele.

Il gigante del software Adobe è stato sorpreso a vendere immagini generate dall’intelligenza artificiale della guerra tra Israele e Hamas, come ha rilevato per primo l’agenzia di stampa australiana Crikey, un caso scioccante e moralmente riprovevole di un’azienda che trae direttamente profitto dalla diffusione della disinformazione online.

Una rapida ricerca sul sito web Adobe Stock dell’azienda – un servizio che offre ai clienti in abbonamento l’accesso a una libreria di immagini stock generiche e ora anche di scatti AI – per “conflitto tra Israele e Palestina” porta a immagini fotorealistiche di esplosioni in ambienti urbani ad alta densità che ricordano molto da vicino la carneficina della vita reale che si sta svolgendo a Gaza.

esempi di immagini generate da AI in Adobe

Un’altra immagine mostra una “madre e un bambino in una città distrutta nel conflitto tra Palestina e Israele”, un’inquadratura devastante interamente generata dall’intelligenza artificiale. Si tratta di una serie di 33 immagini che mostrano tutte una composizione simile.

Un’altra ancora mostra “edifici distrutti e bruciati nella città di Israele”.

Tutte queste immagini sembrano essere state inviate dagli utenti di Adobe Stock e apparentemente non sono state generate da Adobe stessa, ma rimane il fatto che comunque siano state caricate senzza un controllo adeguato rimane grave.

Tuttavia, sebbene siano tecnicamente etichettate come “generate con l’IA”, un requisito per tutti i lavori inviati dagli utenti, alcune di queste immagini stanno già facendo il giro di altre parti del web, come ha scoperto Crikey, e potrebbero facilmente trarre in inganno membri ignari del pubblico.

Una semplice ricerca inversa di immagini su Google lo conferma: un’immagine AI fotorealistica di un’enorme esplosione è stata utilizzata da una serie di piccole pubblicazioni.

I generatori di immagini IA come DALL-E, Stable Diffusion e Midjourney di OpenAI hanno compiuto enormi progressi tecnologici negli ultimi 12 mesi. Sono lontani tempi i cui le immagini generate erano chiaramente irrealistiche.

Di conseguenza, le immagini generate dall’intelligenza artificiale stanno ottenendo un’enorme visibilità online. All’inizio di quest’anno, Futurism ha scoperto che il primo risultato dell’immagine su Google per il nome del famoso artista realista Edward Hopper era un falso dell’IA.

Invece di entrare con cautela nel mondo dell’IA generativa, Adobe ha scelto di abbracciare questa tecnologia con entusiasmo.

Il mese scorso ha fatto un grande colpo dopo aver fatto uscire dalla fase beta il suo modello di IA generativa chiamato Firefly, rendendolo parte integrante e facilmente accessibile del suo diffusissimo Photoshop. L’azienda ha persino aggiunto un nuovo schema di bonus annuali per i collaboratori di Adobe Stock, incentivandoli attivamente a consentire l’utilizzo del loro lavoro per addestrare il modello di IA dell’azienda.

Ma questo tipo di fervore non è sempre a vantaggio di tutti. Con il modo in cui Adobe sceglie di commercializzare le immagini generate dall’intelligenza artificiale, l’azienda sta anche minando attivamente il lavoro dei fotogiornalisti. Per molti versi, si tratta dell’ennesimo caso in cui le tecnologie AI minacciano di togliere un bel po’ di soldi a chi ha scattato le immagini originali su cui sono stati addestrati gli algoritmi di generazione di immagini AI.

È un esempio particolarmente preoccupante ed eticamente discutibile, se si considera l’enorme quantità di pericoli a cui si espongono i fotografi di guerra per documentare le dure realtà dei conflitti umani.

Ovviamente il problema maggiore ora è che queste immagini false possono essere la base di false narrative. Già era complesso distinguere fra vero o falso prima, ma ora, con immagini realistiche disegnate dalle AI sulla base dei prompt dei clienti, diventa quasi impossibile, soprattutto se le immagini vengono presentate come rappresentazioni di immagini di cronaca, e non come frutto della fantasia. 

Bisognerà risolvere un bel po’ di problemi.