La Commissione Europea ha stabilito in via preliminare che il sistema di raccomandazione di TikTok viola il Regolamento sui servizi digitali (DSA). Sotto accusa è il feed "For You", responsabile di mostrare agli utenti un flusso continuo di video personalizzati, anche quando sono legati a problemi di salute mentale e all'immagine corporea.
Basandosi sui livelli di interazione e sul tempo di visualizzazione, l'algoritmo intrappola gli utenti riproponendo continuamente contenuti simili, inclusi video potenzialmente dannosi legati a contenuti sulla tristezza, l'isolamento o l'immagine del corpo. L'esposizione ripetuta a tali contenuti può avere gravi effetti negativi sul benessere degli utenti, tra cui un aumento dei sentimenti di tristezza o ansia, insoddisfazione del corpo, minore autostima o peggioramento dei disturbi alimentari e delle condizioni mentali esistenti.
Secondo le indagini di Bruxelles, questo meccanismo minaccia seriamente la salute mentale dei consumatori, in particolare dei minori e dei soggetti più vulnerabili. Secondo la valutazione preliminare della Commissione Europea le misure per arginare il rischio messe in atto dall’azienda potrebbero non essere efficaci: gli strumenti di controllo per gli utenti, come il tasto "non mi interessa", potrebbero essere inefficaci rispetto al peso che l'algoritmo attribuisce al tempo di visualizzazione. TikTok avrà ora la possibilità di esaminare i documenti e presentare la propria difesa; qualora la violazione dovesse essere confermata in via definitiva, la piattaforma rischia una sanzione fino al 6% del proprio fatturato globale annuo.
