Añadir The App Date como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Durante dos semanas, el feed de TikTok que recibió Chase Nasca, un adolescente de 16 años, no fue una mezcla casual de vídeos. La plataforma le recomendó 7.563 contenidos y al menos el 73% hablaba de sufrimiento emocional, soledad o depresión.
Ahí aparece la grieta más dura de este caso. Casi el 10% de esas recomendaciones incumplía las propias normas de la plataforma sobre autolesiones y suicidio, de modo que el problema no quedó solo en la insistencia temática, sino también en la presencia de material que no debía circular.
Un cambio de algoritmo dejó fuera a 15 millones de usuarios en Estados Unidos
A principios de 2022, TikTok modificó su algoritmo para reducir los bucles de contenido dañino. Al mismo tiempo mantuvo la versión anterior para un grupo de control del 10% de sus usuarios estadounidenses, unas 15 millones de personas.
Entre ellos quedó Chase Nasca, asignado aleatoriamente a ese grupo sin las nuevas medidas de seguridad. La diferencia no era menor para la experiencia diaria, porque implicaba navegar con una versión del sistema que la empresa ya había decidido corregir para el resto.
Un documento interno filtrado en el marco de una demanda judicial formula la conclusión con una crudeza poco habitual.
"Las estrategias de TikTok para prevenir las burbujas de filtros no tuvieron efecto en este usuario por diseño".
Después, ese mismo documento describe el mecanismo que encerró al adolescente en una secuencia repetitiva. Sus búsquedas sobre canciones para sentirse solo activaron el algoritmo y lo introdujeron en una burbuja de filtros con vídeos sobre suicidio, autolesión y depresión.
Las búsquedas sobre soledad acabaron empujando un carrusel de vídeos repetidos
No hizo falta una consulta extrema para poner en marcha esa cadena. Bastó con búsquedas relacionadas con canciones para sentirse solo, un tipo de gesto que en una app de vídeos puede parecer cotidiano, pero que aquí terminó alimentando recomendaciones cada vez más cerradas.
La expresión burbuja de filtros suele sonar abstracta hasta que aparecen los números. En este caso significa que, de miles de vídeos servidos en apenas dos semanas, una mayoría muy clara giró alrededor del malestar emocional y una parte de ellos vulneró las reglas internas de la propia plataforma.
TikTok negó ante el Congreso que la plataforma provocara suicidios
En marzo de 2023, la empresa respondió por escrito al Congreso de Estados Unidos con una posición tajante sobre la relación entre la app y estos desenlaces.
"TikTok no cree que el uso de la plataforma haya provocado que los usuarios se suiciden".
Esa respuesta convive con otra pieza incómoda del caso. Por un lado, la compañía sostenía esa postura ante los legisladores y, por otro, un documento interno admitía que las medidas pensadas para frenar estas espirales no surtieron efecto en este usuario debido al propio diseño del experimento.
TikTok también ha difundido un comunicado de condolencia y defensa de sus sistemas de protección. La empresa afirma que lamenta cualquier pérdida trágica, que la seguridad y el bienestar de los usuarios, en especial de los adolescentes, sigue siendo su prioridad, y que refuerza sus inversiones en detección y retirada proactiva de contenidos que incumplen sus normas.
Al final, la contradicción no necesita adornos. Chase Nasca quedó dentro de un 10% de usuarios estadounidenses que seguían expuestos a la versión antigua del algoritmo, y en ese margen la app le envió 7.563 vídeos en dos semanas, con al menos un 73% centrado en sufrimiento emocional, soledad o depresión.