Inchiesta WSJ: gli algoritmi di Instagram promuovono i pedolfili e la pedopornografia

Gli algoritmi di Instagram promuovono attivamente reti di pedofili che commissionano e vendono contenuti pedopornografici sulla popolare app di condivisione immagini di Meta.

Un’indagine congiunta del Wall Street Journal e degli accademici dell’Università di Stanford e dell’Università del Massachusetts Amherst ha rivelato fino a che punto i sistemi di raccomandazione automatica di Instagram “mettono in contatto i pedofili e li guidano verso i venditori di contenuti”.

Gli account trovati dai ricercatori sono pubblicizzati utilizzando hashtag palesi ed espliciti come #pedowhore, #preteensex e #pedobait. Offrono “menu” di contenuti che gli utenti possono acquistare o commissionare, tra cui video e immagini di autolesionismo e bestialità. Quando i ricercatori hanno creato un account di prova e visualizzato i contenuti condivisi da queste reti, hanno ricevuto immediatamente dagli algoritmi di Instagram consigli relativi ad altri account da seguire. Come riporta il WSJ: “Seguire solo una manciata di queste raccomandazioni è stato sufficiente per inondare un account di prova con contenuti che sessualizzano i bambini”. Le famigerate raccomandazioni “suggested for you”, suggeriti per te, sono staate sufficienti a creare una rete con l’aiuto di Instagram.

In risposta al rapporto, Meta ha dichiarato che sta creando una task force interna per affrontare le questioni sollevate dall’indagine. “Lo sfruttamento dei bambini è un crimine orribile”, ha dichiarato l’azienda. “Stiamo continuamente studiando modi per difenderci attivamente da questo comportamento”.

Meta ha sottolineato che solo a gennaio ha eliminato 490.000 account che violavano le sue politiche di sicurezza per i bambini e che negli ultimi due anni ha rimosso 27 reti di pedofili, però questi stessi numeri sono indicatori di quanto questa piattaforma sia stumentale per i pedofili. La società, che possiede anche Facebook e WhatsApp, ha dichiarato di aver bloccato anche migliaia di hashtag associati alla sessualizzazione dei bambini e di aver limitato questi termini dalle ricerche degli utenti.

Alex Stamos, capo dell’Osservatorio Internet di Stanford ed ex responsabile della sicurezza di Meta, ha dichiarato al WSJ che l’azienda può e deve fare di più per affrontare questo problema. “Il fatto che un gruppo di tre accademici con accesso limitato abbia potuto trovare una rete così vasta dovrebbe mettere in allarme Meta”, ha dichiarato Stamos. “Spero che l’azienda reinvesta in investigatori umani”.

Oltre ai problemi con gli algoritmi di raccomandazione di Instagram, l’indagine ha anche rilevato che le pratiche di moderazione del sito spesso ignoravano o respingevano le segnalazioni di materiale pedopornografico.

Il WSJ racconta di vari episodi in cui gli utenti hanno segnalato post e account con contenuti sospetti (tra cui un account che pubblicizzava materiale pedopornografico con la didascalia “questo adolescente è pronto per voi pervertiti”) solo che la segnalazione veniva cancellata dal team di revisione di Instagram o giungeva un messaggio automatico: “A causa dell’elevato volume di segnalazioni che riceviamo, il nostro team non è stato in grado di rivedere questo post”. Meta ha dichiarato al Journal di non aver agito in seguito a queste segnalazioni e di stare rivedendo i propri processi interni.

Il rapporto ha esaminato anche altre piattaforme, ma le ha ritenute meno adatte alla crescita di tali reti. Secondo il WSJ, gli investigatori di Stanford hanno trovato “128 account che offrivano materiale pedopornografico su Twitter, meno di un terzo di quelli trovati su Instagram”, nonostante Twitter abbia un numero di utenti molto inferiore, e che tali contenuti “non sembrano proliferare” su TikTok. Il rapporto ha rilevato che Snapchat non promuove attivamente tali reti in quanto viene utilizzato principalmente per la messaggistica diretta.

David Thiel, capo tecnologo dello Stanford Internet Observatory, ha dichiarato al Journal che Instagram non riesce a trovare il giusto equilibrio tra i sistemi di raccomandazione progettati per incoraggiare gli utenti e metterli in contatto, e le funzioni di sicurezza che esaminano e rimuovono i contenuti abusivi. Un problema che è alla base dei social media come Instagram o Facebook ch, tra l’altro, cercano di limitare l’interazione basata sulla condivisione dei contenuti normali: infatti è più facile condividere una foto compromettente che un link. Provare per credere.