El órgano ejecutivo de la UE concluyó con carácter preliminar que TikTok vulnera la Ley de Servicios Digitales (DSA) al no evaluar y mitigar adecuadamente el riesgo de caer en espirales de contenido que pueden dañar el bienestar de la persona usuaria. La Comisión Europea expresó especial preocupación por la exposición reiterada a contenido que puede afectar negativamente a la salud mental de jóvenes y personas adultas vulnerables.
El caso de TikTok es la investigación más reciente de la UE en virtud de la Ley de Servicios Digitales y se centra en los problemas presuntamente causados por la plataforma con sus dañinas espirales de contenido creadas por el diseño de su feed ultrapersonalizado “Para ti”. Señala que las entidades reguladoras al fin están exigiendo cambios fundamentales en el diseño intrínsecamente tóxico que comparten muchas de las principales plataformas de redes sociales. Ya no caben más retoques; es hora de establecer unas normas claras que garanticen un panorama tecnológico más seguro y respetuoso con los derechos humanos.
Cómo el “ingrediente secreto” de TikTok se convirtió en un problema
Las conclusiones de la Comisión coinciden en gran medida con la investigación de Amnistía Internacional, que documentó en dos importantes estudios cómo el feed “Para ti” de TikTok pueden arrastrar a los niños y niñas que ven vídeos relacionados con la salud mental a una espiral de contenido depresivo y suicida. Según nos contaron personas jóvenes y atribulados progenitores, el feed de TikTok normaliza y agrava los problemas de adolescentes con la depresión y la autolesión, con terribles consecuencias.
TikTok ha encabezado el proceso por el cual las redes sociales han dejado de centrarse en las relaciones de la vida real de las personas para orientarse hacia contenidos recomendados por algoritmos, procedentes de personas desconocidas y famosas, basados en la elaboración de perfiles de las personas usuarias que suponen una grave intromisión en la privacidad. La plataforma presume de adaptar cada feed “Para ti” a cada persona concreta en pocos minutos.
En algunos casos, como muestra nuestra investigación, esto puede arrastrar la cuenta de un niño o niña desde un contacto inicial con algunos vídeos tristes hasta una sucesión de vídeos deprimentes que incluyen contenido suicida en menos de una hora. Del mismo modo, la investigación de Molly Rose Foundation advertía de un incremento de los riesgos para la seguridad infantil en la plataforma entre 2023 y 2025, a pesar de que ha aumentado el escrutinio de la plataforma. Todo ello pone de relieve que, de forma inevitable, las soluciones centradas únicamente en “malos usuarios”, controles parentales o prohibiciones a adolescentes no crean las plataformas seguras y respetuosas con la privacidad que todos merecemos, con independencia de nuestra edad.
TikTok ha rebatido repetidamente estas conclusiones, señalando medidas de seguridad como sus Normas de la Comunidad y herramientas para las personas usuarias. En respuesta a las conclusiones de la Comisión Europea, un representante de TikTok manifestó lo siguiente a la plataforma de noticias jurídicas MLex: “La Comisión ha realizado una serie de declaraciones que son fundamentalmente inexactas y tergiversan la arquitectura de nuestra plataforma y nuestro compromiso con la seguridad de los usuarios […] Contamos con un sólido historial de protección de nuestra comunidad, al tiempo que ofrecemos a los usuarios un control directo e intuitivo sobre su experiencia con los contenidos”.
Ahora la empresa debe responder formalmente a los procedimientos de la Comisión, que se suman a las conclusiones previas de la UE sobre el diseño adictivo y la seguridad infantil.
Estancamiento, enorme presión y una solución aparentemente sencilla
Estas conclusiones preliminares se han dado a conocer en medio de un encendido debate global sobre el modo de garantizar la seguridad online de los menores. Más de 170.000 personas se movilizaron en torno a la petición de Amnistía Internacional para hacer TikTok más seguro tras la publicación de nuestra investigación en 2023.
La juventud ha estado en primera línea del trabajo de campaña en favor de cambios de diseño. Recientemente, las múltiples causas judiciales de gran resonancia contra Meta y TikTok en Estados Unidos revitalizaron el optimismo de los y las activistas tras años de estancamiento político en el Congreso estadounidense. Sin embargo, en el último año, ante el aumento de la presión, gobiernos de todo el mundo, incluida una mayoría de Estados miembros de la UE, han dado un giro hacia la solución rápida de prohibir las redes sociales a adolescentes. Deciden “regular a los menores” en lugar de las empresas, lo que supone un revés para los enfoques más sistémicos de reforma que abordan el diseño y el modelo de negocio de las plataformas de las grandes empresas tecnológicas.
Aunque las entidades reguladoras europeas se esfuerzan en conciliar estos enfoques contrapuestos con una combinación poco armoniosa de nuevas medidas reguladoras, que incluyen requisitos de diseño, controvertidas herramientas de verificación de la edad y controles parentales, esta “causa emblemática”, como la describe un portavoz de la Comisión, es una muestra muy positiva de la determinación de abordar lo que importa: la revisión de un modelo empresarial construido sobre la explotación de los datos, la atención y las vulnerabilidades de la gente. TikTok no es la única plataforma que se basa en este modelo, pero es la que ha llevado la iniciativa en el uso de feeds hiperpersonalizados y, por ello, es justo es que la Comisión comience por ella.
Optimismo tecnológico… con un plan
El gran logro de la Ley de Servicios Digitales es poner el foco en los riesgos sistémicos, entender que las decisiones sobre diseño son la base de nuestras experiencias en la plataforma y pueden tener un impacto profundo en nuestra vida, cada vez más digitalizada. Su gran punto débil es la lentitud del proceso de aplicación, que se basa en los informes de evaluación y mitigación de riesgos de las plataformas, lo que coloca a las entidades reguladoras en una posición de desventaja a la hora de demostrar el incumplimiento sin que se hayan establecido normas suficientemente claras desde el principio.
Por ahí debe empezar este cambio de rumbo tan necesario. Entre la aplicación de la Ley de Servicios Digitales y el próximo reglamento (la Ley sobre Menores y la Ley de Equidad Digital propuestas), las entidades reguladoras europeas deben establecer normas vinculantes sobre el diseño de las plataformas para que las empresas demuestren su seguridad y cumplimiento con pruebas concretas y no con afirmaciones vagas.
Tales normas deben basarse en una visión clara de lo que implican unas redes sociales seguras y respetuosas de los derechos —por defecto, y no de manera oculta en las opciones de usuario—, incluidos unos feeds basados en las preferencias expresamente señaladas y no en una elaboración de perfiles intrusiva, el fin del desplazamiento infinito y la reproducción automática, y unas herramientas accesibles para la persona usuaria que sirvan para hacer realidad lo que la gente desea, en lugar de ofrecer una ilusión de autonomía.
Ahora que se dispone de un diagnóstico claro sobre el problema, ya es posible no sólo reducir los daños sino también construir algo mejor: las plataformas deben estar al servicio de la gente, y no al revés.
Este artículo de perspectiva se publicó originalmente en TechPolicyPress.


