Assunti e licenziati da un algoritmo. In Amazon la AI decide delle persone

Il futuro distopico è fra noi. Un rapporto di Bloomberg descrive in dettaglio come Amazon utilizzi algoritmi d’intelligenza artificiale per assumere

Il programma, chiamato “Flex”, utilizza l’intelligenza artificiale per determinare quanti autisti sono necessari per le consegne. L’app, installata sugli smartphone degli autisti, misura se hanno consegnato i pacchi in tempo e se hanno seguito le richieste speciali dei clienti.

Se un autista manca la consegna, viene automaticamente segnalato dal sistema.

Questo è quello che è successo a Stephen Normandin, 63 anni, un veterano dell’esercito che Flex ha recentemente licenziato. Ha detto che gli algoritmi hanno tracciato ogni suo ovimnto  mentre consegnava i pacchi nell’area metropolitana di Phoenix.

Normandin ha detto che Amazon lo ha ingiustamente punito per eventi al di fuori del suo controllo, come appartamenti chiusi a chiave in cui era impossibile consegnare. Ha detto che ogni lavoro gli viene “dato il 110%”, ma l’algoritmo non è riuscito a vedere fattori esterni che potrebbero influenzare le consegne.

“Questo mi ha davvero sconvolto perché stiamo parlando della mia reputazione. Dicono che non ho fatto il lavoro quando so dannatamente bene di averlo fatto”, ha detto.

Questo però non interessa all’algoritmo AI al servizio del più grande servizio di e-commerce al mondo. Lui vede i fatti, non le condizioni, quindi licenzia. La vita appesa al caso di un ingorgo o di un appartamento chiuso. 

Flex ha iniziato le operazioni nel 2015 come un modo per Amazon di distribuire i suoi beni  lo stesso giorno ai clienti regionali.

Quando vi accedono, i conducenti Flex scoprono che gli algoritmi stanno monitorando ogni loro mossa. Sono arrivati ​​al punto  di consegna quando era stato previsto? Hanno completato il loro percorso nella finestra temporale prescritta? Hanno lasciato un pacco in piena vista ai ladri del portico invece di nascondersi dietro una fioriera come richiesto? Gli algoritmi di Amazon scansionano il flusso di dati in entrata alla ricerca di modelli di prestazioni e decidono quali conducenti ottengono più lavoro e quali debbano essere licenziati. Il feedback umano è raro. I conducenti talvolta ricevono occasionalmente e-mail automatiche, ma per lo più sono lasciati  dalle loro valutazioni, che includono quattro categorie: Fantastico, Ottimo, Giusto o A rischio.

Bloomberg ha intervistato 15 conducenti Flex che affermano che la AI  li ha erroneamente eliminati. Questi affermano che  non c’è modo di contestare il loro licenziamento poiché Flex è completamente automatizzato. Si può fare ricorso tramite un arbitrato, ma questo costa 200 dollari. Amazon sa che delegare il lavoro delle risorse umane alle macchine è più economico ed efficiente, alla faccia dei diritti sindacali. Il sistema AI non tiene conto, secondo i lavoratori, dei problemi ambientali, ma non preoccupatevi, Amazon sta preparando il prossimo passo: le consegne completamente automatizzate, senza autisti. Alla fine, come diceva Stalin, ogni uomo è un problema, nessun uomo, nessun problema. Resterà solo la AI.