“Domar el algoritmo: desafíos para la salud mental y privacidad en el uso de TikTok Argentina”, es el reciente informe de Amnistía Internacional que explora las nuevas incógnitas relacionadas con la conexión entre les jóvenes, la salud mental y las redes sociales.
El trabajo, presentado el pasado 24 de noviembre, está compuesto por dos informes: “Empujados a la oscuridad: el feed ‘Para ti’ de TikTok fomenta la autolesión y la ideación suicida” y “Siento que no se me protege: emboscada en la red de vigilancia de TikTok”. Ambos revelaron los abusos que experimentan les niñes y jóvenes que usan la aplicación, así como las maneras en que estos son provocados por el algoritmo.
Las conclusiones se derivan de una investigación técnica conjunta realizada entre el Algorithmic Transparency Institute (ATI) y la Conferencia Nacional sobre Ciudadanía y Análisis Forense de la Inteligencia Artificial. La investigación partió del supuesto de que el sistema de recomendación de contenidos de la plataforma, así como su modelo de negocios, representan un riesgo para les usuaries más jóvenes al amplificar contenidos relacionados con la depresión y el suicidio. Esto podría agravar problemas de salud mental preexistentes o dar origen a nuevos.
“Para ti”, empujados hacia la oscuridad
Las redes sociales demostraron tener un potencial inconmensurable, siendo hoy en día el epicentro de la interacción social. La explosión de TikTok tuvo lugar en 2020, cuando les usuaries se percataron de que la plataforma podía aliviar la soledad experimentada durante la cuarentena por el coronavirus. Entre les consumidores más jóvenes, TikTok incluso superó en popularidad a Instagram.
Casi cuatro años transcurrieron desde entonces, y es pertinente preguntarnos: ¿cómo impacta esto en nuestra salud mental? ¿Qué consumen les jóvenes durante tantas horas que pasan scrolleando en la aplicación?
Los análisis del estudio
La investigación constó de dos etapas: una técnica y otra manual. En la primera, se utilizaron más de treinta cuentas automatizadas creadas para representar a jóvenes de 13 años en Kenia y Estados Unidos, con el fin de evaluar los efectos del sistema de recomendación de TikTok en les usuaries jóvenes. Además, se llevó a cabo una simulación manual con una cuenta en Kenia, otra en Estados Unidos y una tercera en Filipinas.
El feed “Para ti” es una página personalizada de desplazamiento infinito que recomienda contenidos seleccionados algorítmicamente, elegidos de manera que reflejen los intereses que el sistema dedujo del usuarie. Aunque el algoritmo en Internet opera de manera similar, la salvedad en TikTok es que se muestra humanizado: TikTok parece entenderme, conocerme y saber lo que me gusta, y en función de eso, me muestra contenido.
“Empujados a la oscuridad: el feed ‘Para ti’ de TikTok fomenta la autolesión y la ideación suicida” muestra cómo la búsqueda constante de atención por parte de les usuaries en TikTok se sumerge en un océano de riesgos en problemas de salud mental como ansiedad, depresión y autolesiones, e incluso el suicidio.
La investigación técnica reveló que, después de utilizar la plataforma durante 5 o 6 horas, uno de cada dos videos mostrados estaba vinculado a la salud mental y resultaba potencialmente perjudicial. Este patrón se repetía incluso en cuentas que no tenían ningún interés en temas de salud mental.
Este efecto se intensificó aún más cuando les investigadores vieron los videos manualmente, es decir, cuando buscaron activamente contenido relacionado con la salud mental. Entre los 3 y los 20 minutos de la exploración manual, más de la mitad de los videos en la sección “Para ti” estaban relacionados con problemas de salud mental, romantizando, normalizando o fomentando el suicidio.
Los peligros de TikTok
Los debates y entrevistas sobre los daños generados por las redes sociales destacan que el diseño de Tik Tok fomenta un uso poco saludable de la aplicación. El scrolleo nunca termina: la aplicación siempre tiene algo nuevo para recomendarte, manteniéndote atrapado.
En ese marco, les jóvenes entrevistades de Kenia manifestaron que el uso de TikTok afectaba negativamente en sus responsabilidades escolares, su tiempo social con amigues y los llevaba a navegar por sus feeds hasta altas horas de la noche en lugar de dormir.
Dichos testimonios fueron corroborados por varies psicólogues de adolescentes consultados por Amnistía Internacional como parte de la investigación.
En tanto, los participantes en los grupos de discusión mencionaron al ‘autodiagnóstico’ como otro problema. “Los contenidos que veo me hacen pensar aún más, como los vídeos en los que alguien está enfermo o se autodiagnostica. Afecta mi mentalidad y me hace sentir que tengo los mismos síntomas, empeorando mi ansiedad. Y ni siquiera los busco, simplemente aparecen en mi feed”.
Ante esto, resulta preocupante el avance de la deslegitimación de la palabra de les profesionales de la salud mental. Frente a las consultas, algunos pueden observar que el paciente no sufre los síntomas que afirma tener. Identificarse con un video y confirmar la posesión de ese diagnóstico parece tomar una relevancia aún mayor.
Privacidad salió del grupo
“Siento que no se me protege” es la otra cara de este informe, y revela cómo las prácticas de recolección de datos de Tik Tok vulneran los derechos y promueven prácticas nocivas de captación de usuaries.
La investigación mostró que el modelo de negocios de la plataforma es abusivo, priorizando la interacción para retener a les usuaries con el fin de recopilar datos. A su vez, la aplicación sólo implementa sus protecciones en ciertas partes del mundo. Esto significa que les niñes que residen en países con regulaciones débiles están expuestos a los peores abusos de su derecho a la privacidad.
“El abusivo modelo de negocios de TikTok falla en todo el mundo. Sin embargo, las investigaciones demuestran que hay países en donde los niños se ven más desprotegidos debido a la laxitud de sus regulaciones. Esta falla legal permite que haya jóvenes aún más expuestos a prácticas manipuladoras y adictivas. Nos preocupa sobremanera la salud de las infancias”, advirtió Mariela Belski, directora ejecutiva de Amnistía Internacional Argentina.
Las peticiones de Amnistía Internacional
El movimiento global exige, a través de estos estudios, que la aplicación respete los derechos de les usuaries más jóvenes, prohibiendo toda publicidad dirigida a menores de 18 años en todo el mundo. Asimismo, se insta a que la aplicación deje de ‘hiper personalizar’ el feed “Para ti”, permitiendo que las personas elijan de manera activa qué intereses conforman sus recomendaciones de contenido.
De igual manera, el organismo considera que es necesario establecer una regulación vinculante para proteger la infancia y juventud, en la cual el Estado debe intervenir, por ejemplo, mediante la prohibición legal de toda publicidad basada en la recopilación invasiva de datos personales de menores de edad.
Como respuesta, TikTok invitó a revisar sus ‘directrices de la comunidad’, donde se establece qué tipos de contenidos están prohibidos y, por tanto, si se denuncian o señalan son retirados de la plataforma.
Estas últimas incluyen la prohibición de contenidos que “muestren, promuevan o proporcionen instrucciones sobre el suicidio y las autolesiones, así como retos, desafíos, juegos y pactos relacionados”, así como aquellos que “muestren o promuevan bulos sobre el suicidio y las autolesiones” y “compartan planes para el suicidio y las autolesiones”.
No obstante, hay un considerable número de usuaries menores de edad no identificables debido a que configuran sus cuentas como si fueran mayores de edad, y ante esta situación, la plataforma se desvincula. TikTok declaró que está trabajando en el desarrollo de un “proceso de diligencia debida”, que incorporará la realización de evaluaciones periódicas del impacto sobre los derechos humanos. Sin embargo, la empresa no dio detalles sobre qué riesgos específicos para los derechos humanos de les niñes y jóvenes usuaries identificó.