Una nova investigació duta a terme per Amnistia Internacional ha conclòs que el feed “Per a tu” de TikTok està empenyent a nens, nenes i joves francesos amb interès per la salut mental a una espiral de continguts que fomenten la depressió, les autolesions i el suïcidi.

L'informe resultant, titulat “Dragged into the Rabbit Hole”, posa en relleu la falta de mesures per part de TikTok per a abordar els riscos sistèmics del seu disseny que afecten la infància i les persones joves.

“La nostra investigació tècnica mostra que els adolescents que s'interessen per temes relacionats amb la salut mental poden, ràpidament, veure's arrossegats a espirals de continguts tòxics i caure en ells. Després de només tres o quatre hores d'interacció en el feed “Per a tu” de TikTok, els comptes de prova d'adolescents van rebre recomanacions de vídeos en els quals s'idealitzava el suïcidi o es mostrava a joves manifestant la seva intenció de treure's la vida, i fins i tot informació sobre mètodes per suïcidar-se”, comenta Lisa Dittmer, investigadora sobre Drets Digitals de Nens, Nenes i Joves d'Amnistia Internacional.

“A França, els testimonis de persones joves i de progenitors desconsolats revelen com TikTok ha normalitzat i amplificat les autolesions i les idees suïcides fins al punt de recomanar continguts sobre ‘reptes suïcides’.”

El feed “Per a tu” de TikTok és un flux personalitzat de vídeos curts que recomana continguts basant-se en les visualitzacions.

L'equip d'investigació d'Amnistia Internacional va configurar tres comptes d'adolescents —dues noies i un noi—, registrades amb usuaris de 13 anys residents a França, per examinar manualment l'amplificació algorítmica de continguts en el feed “Per a tu”. Al cap de cinc minuts de navegar i abans d'indicar cap preferència, a través dels comptes es van rebre vídeos sobre la tristesa o la desil·lusió.

La visualització d'aquests vídeos va incrementar ràpidament la quantitat de contingut vinculat amb la tristesa i la salut mental. Entre 15 i 20 minuts després de començar l'experiment, els feeds dels tres comptes estaven plens gairebé exclusivament de vídeos sobre salut mental, i fins a la meitat d'ells mostraven contingut depressiu. Al cap de 45 minuts, dos dels comptes van mostrar vídeos que expressaven pensaments suïcides.

A més d'aquest, es van dur a terme altres experiments en col·laboració amb l'Institut de Transparència Algorítmica utilitzant comptes de prova automatitzats d'adolescents de 13 anys a França. L'equip d'investigació va concloure que el sistema de recomanació de TikTok duplicava amb escreix la proporció de contingut trist o depressiu recomanat quan en l'historial de visualitzacions figuraven diferents nivells d'aquesta mena de vídeos.

La investigació es va dur a terme a França, on TikTok està regulat pel Reglament de Serveis Digitals de la Unió Europea que, des de 2023, exigeix a les plataformes que identifiquin i mitiguin els riscos sistèmics per als drets de la infància.

Els legisladors francesos estan actualment debatent les deficiències en la regulació de les xarxes socials, i aquesta investigació se suma a les proves anteriors presentades per Amnistia Internacional que TikTok no ha abordat els riscos sistèmics associats al seu model de negoci basat en la participació.

L'impacte en les persones joves

Malgrat les mesures de mitigació de riscos anunciades per TikTok des de 2024, la plataforma continua exposant a usuaris i usuàries vulnerables a continguts que normalitzen les autolesions, la desesperança i les idees suïcides.

Els testimonis de joves amb depressió i progenitors afectats o en dol revelen la magnitud dels riscos i els danys que el model de negoci de TikTok representa per la salut mental i física d'una joventut que ja viu situacions complicades.

“Hi ha vídeos que se m'han quedat gravats”, comenta Maëlle, de 18 anys, mentre descriu com en 2021 es va veure arrossegada per continguts depressius i d'autolesions en el feed “Per a tu” de TikTok. Durant els tres anys següents, els seus problemes de salut mental relacionats amb les autolesions van empitjorar, mentre es veia absorbida pel consum de continguts nocius a Internet.

“Veure persones fent-se talls o dient quins medicaments prendre per posar fi a tot ens afecta i ens incita a fer-nos mal.”

Encara que l'informe es centra en l'amplificació de continguts nocius, els testimonis recaptats també apunten a les deficiències de TikTok en la moderació de continguts. Segons els qui van participar en l'estudi, malgrat les repetides denúncies de joves i les seves famílies, els continguts que inciten a l'autolesió o al suïcidi no s'han eliminat de la plataforma.

L'estiu de 2025, per exemple, membres del personal d'investigació d'Amnistia van trobar dos vídeos sobre el “repte del bàlsam labial” en el feed d'un compte de prova administrada manualment. La tendència social va començar suposadament com un repte per endevinar l'aroma del bàlsam labial d'una altra persona, però la idea va evolucionar cap a una versió diferent en la qual s'animava a la gent a arrencar-se part del bàlsam i la pell del llavi, cada vegada que se sentissin tristos, i a autolesionar-se o suïcidar-se després d'haver-se arrencat això.

“Per aquestes plataformes, els nostres fills i filles s'han convertit en productes, ja no són éssers humans. Els utilitzen com a productes a través d'algoritmes i filtres, explotant les seves emocions per enganxar-los. L'algoritme capta els teus interessos, i això no és normal. S'infiltren en la vida privada dels nens i nenes. Però la infància té drets”, afirma Stéphanie Mistre, mare de Marie Le Tiec, una jove francesa de 15 anys que va caure en l'espiral de continguts depressius de TikTok i es va treure la vida l'any 2021.

Mesures urgents i vinculants per convertir TikTok una plataforma segura

Segons demostra la investigació, TikTok no està fent front als riscos sistèmics causats a la gent jove pel disseny addictiu de la seva plataforma. L'empresa no està complint amb la seva responsabilitat de respectar els drets humans d'acord amb els Principis rectors de l'ONU sobre les empreses i els drets humans, ni està complint les seves obligacions en virtut del Reglament de Serveis Digitals.

“Aquests nous indicis d'infraccions evidents del Reglament de Serveis Digitals per part de TikTok han de tenir-se en compte al més aviat possible en la investigació que actualment duu a terme la Comissió Europea. Han d'adoptar-se mesures vinculants i efectives que obliguin TikTok a garantir que, per fi, la seva aplicació sigui segura per als i les joves de la Unió Europea i de tot el món”, ha declarat Katia Roux, responsable del treball d'incidència d'Amnistia França.

El menyspreu de TikTok pels danys sistèmics lligats al seu model basat en la participació provoca una preocupació profunda respecte al compliment del Reglament de Serveis Digitals i subratlla la necessitat d'una normativa més ferma i unes mesures més estrictes de rendició de comptes per part de la plataforma per protegir la infància i a les usuàries i usuaris vulnerables.

Amnistia Internacional ha remès a TikTok les seves conclusions principals, però l'empresa no ha respost.

Informació complementària

L'any 2023, Amnistia Internacional va publicar dos informes complementaris: “Empesos a la foscor: El feed “Per a tu” de TikTok fomenta l'autolesió i la ideació suïcida” i “Sento que no se'm protegeix: Emboscada en la xarxa de vigilància de TikTok”, en els quals es destaquen els abusos que pateixen els nens, nenes i joves que utilitzen TikTok.

Si desitgen més ajuda sobre les qüestions tractades en aquest informe, poden consultar la guia d'Amnistia Internacional sobre Resiliència i autocura: Salvar al món i no morir en l'intent (Volum 2): Quadern de treball per activistes joves.