Cuando Helena abre TikTok por las noches para distraerse antes de dormir, lo que encuentra rara vez es lo que busca. "Me meto a TikTok y me salen videos de puras cosas tristes... pero yo quiero otras cosas", contó en una entrevista que se convirtió en el punto de partida de una investigación realizada por la organización 5Rights Foundation, la consultora Revealing Reality y el Instituto Nacional de Salud Pública de México.

Este estudio puso en jaque a las plataformas más usadas por adolescentes en América Latina mediante un experimento innovador: en lugar de usar menores reales, los investigadores crearon diez perfiles simulados que replicaban fielmente el comportamiento digital de adolescentes mexicanos. Durante apenas 60 minutos repartidos en 12 días, estos avatares fueron expuestos a contenido de autolesión, pornografía y violencia extrema sin que existiera barrera alguna que lo impidiera.

El primer hallazgo preocupante fue lo sencillo que resultó crear cuentas de menores. A pesar de que TikTok, Instagram y X establecen una edad mínima de 13 años y aseguran contar con tecnología para detectar y proteger a menores, bastó escribir una fecha de nacimiento para obtener acceso inmediato a todas las funciones. Esto coincide con lo que los propios adolescentes entrevistados reportaron: todos habían registrado sus cuentas reales con edades falsas. Como resultado, las plataformas no pueden aplicar sus propias reglas de protección porque desconocen la edad real de quien está al otro lado de la pantalla.

El caso de Helena ilustra cómo escala un algoritmo. Su avatar comenzó viendo contenido genérico, pero tras interactuar con videos emotivos y seguir cuentas afines, en menos de 40 minutos de actividad acumulada recibió un video haciendo referencia explícita al suicidio, sin advertencia ni recurso de ayuda alguno. Los investigadores detectaron que parte de este contenido evadía los filtros de moderación mediante faltas de ortografía deliberadas o palabras codificadas como "su1cui" o "$H" para referirse a la autolesión.

Con Javier, de 15 años, ocurrió algo similar con contenido sexual. Su avatar, configurado para simular sus intereses reales, comenzó viendo videos inofensivos pero rápidamente fue expuesto a cuentas que promocionaban plataformas de pago como OnlyFans. Aunque TikTok bloquea el acceso directo a estos sitios, las cuentas utilizaban frases como "sorpresa en mi IG" para redirigir a usuarios hacia contenido sexual explícito alojado en plataformas externas.

El caso más brutal fue el de Gabriel, de 14 años. Su avatar en X, registrado sin verificación de edad, pasó de ver noticias genéricas a ser expuesto sin censura a videos de decapitaciones, sicarios asesinados e imágenes de violencia vinculada al narcotráfico en apenas dos días. Lo más preocupante es que el perfil configurado con la edad real de un niño de 14 años recibió una intensidad de contenido casi idéntica al del avatar adulto.

Un mecanismo adicional que amplifica el riesgo es el sistema de recompensas de TikTok Lite, disponible en Latinoamérica, que ofrece monedas digitales por tiempo de visualización. Esta función aparecía incluso en avatares registrados como menores y generaba videos emotivos sobre pérdida y ansiedad, incentivando el consumo compulsivo de contenido potencialmente dañino.

Según Marie-Ève Nadeau de 5Rights Foundation, el estudio mostró "una brecha clara entre los compromisos públicos de seguridad de las plataformas y lo que los adolescentes encuentran en la práctica". Leonor Rivera del Instituto Nacional de Salud Pública de México enfatizó que el problema va más allá del contenido publicado: "El diseño de estas plataformas normaliza la violencia y puede afectar directamente la salud mental de los niños y adolescentes".

El informe recomienda que las empresas tecnológicas incorporen seguridad desde el diseño de sus productos, implementen verificación de edad efectiva que respete la privacidad, y eliminen modelos de negocio basados en algoritmos de recompensa. A gobiernos y legisladores les pide desarrollar leyes y normas específicas para proteger a menores en línea, en línea con la Convención de las Naciones Unidas sobre los Derechos del Niño. Los investigadores reconocen que el problema podría ser mucho mayor, pues estos perfiles simulados apenas representan una pequeña muestra del comportamiento real de adolescentes que pasan horas conectados diariamente a estas plataformas.