• it
Il lato oscuro di Instagram

Il lato oscuro di Instagram

193 views
Condividi

Sempre più persone nel mondo utilizzano i social. Secondo una stima ufficiale delle Nazioni Unite del 2023, il numero degli utenti attivi ha raggiunto 8,01 miliardi di individui. Instagram risulta tra le piattaforme più usate per condividere foto, video, ma anche per commentare, mettere like, salvare contenuti. Ma è tutto sempre innocuo?

Video tossici a sfondo sessuale, l’inchiesta di The Wall Street Journal

Una lunga inchiesta dello stesso giornale americano di qualche anno fa, ha messo in evidenza come l’algoritmo di Instagram offra un mix di video tossici inclusi filmati a sfondo sessuale di bambini. Il Journal ha rilevato che gli algoritmi gestiti da Meta, che possiede sia Facebook che Instagram, collegano ampie comunità di utenti interessati a contenuti sessuali che riguardano spesso anche i minori. In sostanza, attraverso gli account di prova è stato rilevato che la piattaforma conteneva un mix di pornografia per adulti e materiale sessualizzante per bambini. Un’accusa pesante per la quale non si sono fatte attendere le risposte di Meta che ha istituito una task force e ampliato i suoi sistemi automatizzati per rilevare gli utenti che si comportano in modo sospetto, bloccando periodicamente decine di migliaia di questi account. Le ricerche del giornale americano sono andate aventi per mesi durante i quali sono stati creati account di prova Instagram creati da adulti per seguire ginnaste, cheerleader e altri giovani influencer.
I test hanno dimostrato che seguire ‘solo’ le ragazze ha spinto Instagram a iniziare a pubblicare video da account che promuovono contenuti sessuali per adulti insieme ad annunci dei principali marchi di consumo. Gli esperti di algoritmica hanno riscontrato che partendo da un contenuto innocuo come la ginnastica, per esempio, alcuni utenti di Instagram che seguono ragazze ginnaste preadolescenti si sono trovati ad interagire con video a contenuto sessuale purtroppo anche con bambini.
“I contenuti di nicchia forniscono un segnale molto più forte rispetto ai contenuti di interesse generale”, ha affermato Jonathan Stray, scienziato senior del Center for Human-Compatible Artificial Intelligence presso l’Università della California, Berkeley. I contenuti di nicchia sono definiti così perché di solito sono meno generici e sono orientati a un pubblico definito (designer, appassionati di lettura, ecc.) o a un’attività molto specifica. Una volta che Instagram individua un utente come interessato a un argomento particolare, i suoi sistemi di raccomandazione sono addestrati per indirizzargli più contenuti correlati. Dalla inchiesta è venuto fuori che la tendenza degli algoritmi di Instagram ad aggregare contenuti sulla sessualizzazione infantile da tutta la sua piattaforma fosse già nota internamente come un problema. Ma impedire al sistema di continuare a offrire contenuti nocivi agli utenti interessati – spiegano gli esperti – richiede modifiche significative agli algoritmi di raccomandazione, ovvero i sistemi di filtraggio dei contenuti molto difficili da gestire persino dagli addetti alla sicurezza della piattaforma che spesso non hanno accesso a questo tipo di sistema.

Continua a leggere l’articolo completo su Family and Media di Lucrezia Scotellaro