Ética algorítmica
Algoritmos bajo dos estándares

Análisis comparativo entre Tik Tok y Douyin como evidencia del doble estándar ético en el diseño algorítmico en la infancia

Por: Karina Vanesa Salierno

1. INTRODUCCIÓN

El surgimiento de las plataformas de vídeo corto de la empresa china ByteDance en su versión TikTok para el mercado global y Douyin para el mercado chino, nos ofrece una oportunidad de análisis que nos permitirá observar a una misma corporación tecnológica o Big Tech desplegando sistemas algorítmicos diseñados en su estructura de forma diferentes según la jurisdicción en la que opera.

ByteDance es una empresa tecnológica con sede en China que desarrolló una plataforma de redes sociales basada en vídeos cortos. Esta plataforma se constituyó en la primera de este tipo y de origen chino en alcanzar popularidad mundial, superando los 1.990 millones de usuarios en 2025. La aplicación se lanzó originariamente en China con el nombre de Douyin y luego hizo lo suyo bajo el nombre de TikTok en su adaptación al mercado internacional; las dos versiones siguen manteniéndose en la actualidad pero para dos tipos de usuarios y mercados distintos. Tanto TikTok como Douyin son plataformas donde se visualizan y comparten vídeos cortos de contenido muy variado, casi ilimitado, y tienen interfaces similares, sin embargo, desde el punto de vista técnico, son aplicaciones totalmente independientes que dan acceso a dos plataformas distintas.

Los usuarios de estas dos plataformas no pueden interactuar entre sí, y tienen procesos de registro, políticas de uso y privacidad y contenidos totalmente diferentes. Esta bifurcación, lejos de constituir una adaptación cultural o lingüística a cada mercado, revela una divergencia profunda en los parámetros de diseño referidos a la protección de usuarios en general y, en particular de niños, niñas y adolescentes (NNA). El fenómeno no sería tan relevante si se tratara únicamente de diferencias de presentación o de contenido local, lo que convierte al caso TikTok-Douyin en un objeto de estudio para el campo de los derechos humanos es que la diferencia en el diseño algorítmico radica en una elección intencional de la empresa de los mecanismos de protección de la infancia: ¿cuánto tiempo pueden usar la plataforma los menores de edad? ¿qué tipo de contenidos les son recomendados? ¿con qué frecuencia se activan notificaciones nocturnas? ¿el sistema prioriza el bienestar de los usuarios o el tiempo de exposición como variable de optimización? ¿el sistema advierte sobre el tiempo en pantalla? ¿el control parental está establecido por defecto en las cuentas de usuarios menores? En el presente trabajo se parte de la hipótesis de que la asimetría de diseño algorítmico entre TikTok y Douyin no es únicamente el resultado de un sistema de gobierno totalitario o de imperativos técnicos o contextos culturales diferenciados, sino de decisiones corporativas deliberadas orientadas a maximizar la rentabilidad en mercados con menor regulación efectiva. Dicha hipótesis tiene consecuencias jurídicas directas en los derechos humanos ya que si se demuestra que la protección por diseño es técnicamente posible, entonces la ausencia de esa variable en TikTok configura una omisión jurídicamente relevante en términos de debida diligencia corporativa en materia de protección. En este trabajo, la perspectiva de derechos humanos y la perspectiva de infancia son los ejes transversales del análisis; ambas se encuentran articuladas en el ordenamiento internacional a través de la Convención sobre los Derechos del Niño (CDN, 1989) y de su Observación General N° 25 (OG 25, 2021), que desarrolla específicamente la aplicación de los derechos de la infancia al entorno digital.

2. MARCO TEÓRICO Y CONCEPTUAL

2.1. Capitalismo de vigilancia y arquitectura de captación

El concepto de capitalismo de vigilancia, acuñado y sistematizado por Shoshana Zuboff, constituye el punto de partida teórico indispensable para comprender la lógica subyacente al diseño algorítmico de las grandes plataformas digitales. Según Zuboff (2019), el capitalismo de vigilancia supone «la reclamación unilateral de la experiencia humana privada como materia prima gratuita para la traducción en datos de comportamiento», que luego son procesados y vendidos como productos de predicción en mercados de futuros conductuales. Este modelo económico tiene una consecuencia directa sobre el diseño de los sistemas de recomendación algorítmica ya que la plataforma en vez de maximizar la satisfacción del usuario explota la predictibilidad de comportamiento. Para ello, el algoritmo debe mantener al usuario en un estado de compromiso continuo o engagement, ya que cuanto más tiempo pasa el usuario en la plataforma, más datos se generan y mayor precisión adquieren los modelos predictivos (Zuboff, 2019) y en el caso específico de las audiencias infantiles y adolescentes, este modelo adquiere dimensiones especialmente preocupantes. La Brown University Public Health Journal señaló en 2021 que TikTok difiere de otras redes sociales porque el flujo de contenido no está basado en elecciones deliberadas del usuario, sino que la inteligencia artificial presenta contenido y usa las reacciones del usuario para determinar qué más mostrarle, «facilitando un ciclo continuo que comienza desde el primer uso y se vuelve cada vez más preciso con el uso repetido» (Andreassen & Pallesen, 2014, citados en Brown University, 2021). Esta arquitectura de captación de la atención se materializa a través de elementos de diseño específicos como el desplazamiento infinito (infinite scroll), la reproducción automática (autoplay), los sistemas de notificaciones push, y los patrones de recompensa variable que activan la liberación de dopamina. Las recompensas, con su consecuente efecto biológico de liberación de dopamina, dentro del marco del diseño algorítmico, son programas de refuerzo variable y constituyen una de las principales razones por las que los usuarios de las redes sociales consultan repetidamente sus pantallas y no pueden dejar de hacerlo.

El jurista Jack Balkin (2020) propone, desde la perspectiva del derecho anglosajón, el concepto de fiduciario informacional para describir la relación entre las plataformas digitales y sus usuarios; según este marco conceptual, las empresas que recopilan y procesan información personal de los usuarios asumen, en virtud de esa relación de confianza y asimetría de información, obligaciones análogas a las de un fiduciario, es decir, deben actuar en interés de los usuarios y no en contra de ellos. En el caso de la infancia, la asimetría informacional nace de la situación de vulnerabilidad estructural en la que se encuentran inmersos los NNA porque carecen de la capacidad cognitiva y el desarrollo neurológico necesario y suficiente para evaluar los efectos nocivos a largo plazo del uso de plataformas diseñadas para la captación de la atención. Esta vulnerabilidad estructural convierte la obligación fiduciaria general en un deber de debida diligencia especial, ya que cuando una plataforma diseña sus algoritmos para maximizar el tiempo de exposición de los menores, con conocimiento de los riesgos que esto implica para su salud mental, viola este estándar de responsabilidad. Este encuadre resulta especialmente interesante cuando lo aplicamos al caso TikTok-Douyin ya que la misma empresa actúa como fiduciario responsable en el mercado chino (donde la regulación estatal lo impone) y como actor extractivo en los mercados occidentales (donde la regulación es más débil o inexistente), lo que pone en evidencia un estándar de debida diligencia diferenciado según el mercado en el que opera la empresa.

2.2. Derechos humanos por diseño

El concepto de derechos humanos por diseño (human rights by design) postula que los sistemas tecnológicos deben incorporar desde su inicio mecanismos que garanticen el respeto de los derechos fundamentales. Este enfoque tuvo recepción en documentos de organismos internacionales, incluyendo los Principios Rectores de las Naciones Unidas sobre Empresas y Derechos Humanos (UNGP, 2011) y la normativa emergente de la Unión Europea en materia de inteligencia artificial (Reglamento IA, 2024). Desde esta perspectiva, un sistema algorítmico que promueve el uso compulsivo de la tecnología, expone a NNA a contenidos inadecuados que exacerban la ansiedad, la depresión o los trastornos alimentarios y que recopila sus datos sin su consentimiento, no es simplemente un “producto defectuoso con efectos secundarios indeseados”, sino que es un sistema que ha sido diseñado intencionalmente bajo valores y parámetros incompatibles con los derechos humanos.

Como señala la OdiseIA (2022), la ética en la inteligencia artificial implica garantizar transparencia, no discriminación y gestión correcta de la privacidad, todos estos componentes constituyen un piso mínimo y no aspiraciones opcionales. En este aspecto, la OG 25 del Comité de los Derechos del Niño (2021) recoge explícitamente esta dimensión al señalar que el entorno digital «crea una cadena de suministro de actividades comerciales y de procesamiento de datos personales que pueden dar lugar a violaciones o vulneraciones de los derechos de los niños, por ejemplo como resultado de características de diseño publicitario que anticipan las acciones del niño y lo guían hacia la búsqueda de contenidos más extremos».

3. El CASO BYTEDANCE Y El DOBLE ESTANDAR ALGORÍTMICO

3.1. TikTok es la arquitectura del engagement en mercados occidentales

TikTok fue lanzado en mercados internacionales en el año 2017 bajo la denominación original de Musical.ly., limitado a la temática musical. En la actualidad se ha convertido en la plataforma de mayor crecimiento en la historia de las redes sociales. Su elemento diferenciador reside en el sistema de recomendación algorítmica, denominado For You Page (FYP) que construye un flujo de contenido personalizado para cada usuario a partir del análisis de patrones de comportamiento como el tiempo de visualización, las interacciones, repeticiones y pausas, y por supuesto, las preferencias explícitas declaradas por el usuario en el momento de su configuración y suscripción de términos y condiciones (Citizen Lab, 2021).

Esta arquitectura, que la Comisión Europea ha calificado en 2026 como «diseño adictivo» en su decisión preliminar bajo el Digital Services Act (DSA), se caracteriza por varios elementos estructurales: (i) el desplazamiento infinito, que elimina los momentos de pausa y decisión consciente entre un vídeo y el siguiente; (ii) la reproducción automática, que reduce la fricción necesaria para continuar consumiendo; (iii) los sistemas de notificaciones push con vibración, diseñados para interrumpir otras actividades; y (iv) los filtros de realidad aumentada que generan estándares de apariencia inalcanzables para los usuarios (The New York Times, 2026). El sistema de recomendación de TikTok opera sobre el principio de que cualquier señal de atención del usuario, incluso negativa (como ver dos veces un vídeo de contenido perturbador antes de desplazarse) alimenta el modelo. Amnesty International (2025) documentó este fenómeno en su informe Dragged into the Rabbit Hole, que demostró experimentalmente cómo usuarios que mostraban interés en contenido vinculado a la salud mental eran arrastrados hacia un «agujero de conejo» (rabbit hole) de contenido que trivializaba o incluso idealizaba la depresión y la autolesión. En materia de protección de menores, las medidas implementadas por TikTok en mercados occidentales han sido fundamentalmente reactivas y se han producido bajo presión regulatoria. Por ejemplo, en el año 2023, la plataforma anunció un límite de tiempo predeterminado de 60 minutos diarios para usuarios menores de 18 años (tiempo que los usuarios mayores de 13 pueden modificar sin supervisión adulta), esta medida contrastaba marcadamente con las restricciones ya vigentes en Douyin desde 2021 (MIT Technology Review, 2023).

3.2. Douyin es el algoritmo controlado para el mercado chino

Douyin, la versión de ByteDance para el mercado chino, comparte con TikTok la base de código y la arquitectura de recomendación general, pero incorpora un conjunto de restricciones específicas que la diferencian de manera sustancial en lo que respecta a los usuarios menores de edad.

El análisis técnico comparativo del Citizen Lab (2021) confirmó que ambas aplicaciones comparten partes significativas del código fuente, lo que implica que ByteDance desarrolla ambas a partir de una base común y aplica «personalizaciones diferentes según las necesidades del mercado». Las medidas implementadas por Douyin para la protección de la infancia incluyen elementos cuya profundidad técnica y regulatoria excede ampliamente las implementadas por TikTok en occidente. En primer lugar, el llamado “modo juvenil” (Youth Mode) fue introducido en 2018 y se convirtió en obligatorio para menores de 14 años en 2021. Bajo este modo se evidencian las siguientes medidas: (i) el tiempo de uso diario está limitado a 40 minutos; (ii) el acceso a la plataforma está bloqueado entre las 22:00 y las 06:00; (iii) el algoritmo recomienda exclusivamente contenido preaprobado de carácter educativo, incluyendo experimentos científicos, visitas virtuales a museos y contenidos históricos; y (iv) se prohíbe a los menores participar en transmisiones en vivo (BBC News, 2021; Business Insider, 2021). En segundo lugar, Douyin implementa verificación de identidad vinculada al número de identificación nacional chino, lo que impide de manera efectiva (aunque no absoluta) que los menores accedan con cuentas de adultos. Según el informe del MIT Technology Review (2023), la plataforma utiliza reconocimiento facial para monitorear la creación de contenido de vídeo en vivo y garantiza que el usuario corresponde a la identidad registrada. En tercer lugar, las reglas de contenido establecidas desde marzo de 2022 prohíben expresamente a los creadores de contenido dirigir o manipular a los menores para realizar compras dentro de la aplicación, y establecen sanciones concretas por violaciones de estas limitaciones que incluyen la suspensión de privilegios de transmisión en vivo (The China Project, 2022). El contraste con las medidas que tomó TikTok es llamativo incluso en el discurso corporativo, cuando ByteDance anunció el modo juvenil de Douyin en 2021, la empresa afirmó ser «la primera empresa de vídeo corto del sector en establecer estos límites» y proclamó: «Sí, somos más estrictos con los adolescentes. Trabajaremos más duro para proporcionar contenido de calidad para que los jóvenes puedan aprender y ver el mundo» (BBC News, 2021). Esta afirmación, realizada para el mercado chino, contrasta con la resistencia corporativa a adoptar medidas similares en mercados internacionales en ausencia de mandato regulatorio explícito y en otros casos en contra de los marcos regulatorios existentes.

3.3. Análisis comparativo estructural

El cuadro comparativo que se presenta a continuación sistematiza las principales diferencias identificadas entre los sistemas algorítmicos de TikTok (mercados occidentales) y Douyin (mercado chino) en lo que respecta a la protección de usuarios menores de edad.
Comparación de mecanismos de protección de menores: TikTok vs. Douyin

Del análisis de la tabla emerge un patrón que permite extraer algunas conclusiones y aproximaciones que van más allá de la mera descripción y que son importantes para el análisis que propongo. En todas las dimensiones analizadas, Douyin presenta restricciones estrictas, en algunos casos difícilmente eludibles y en otros vinculadas a un modelo de verificación de identidad. Esta situación deja ver que las diferencias de diseño algorítmico responden a una política corporativa que aplica distintos estándares según el contexto regulatorio nacional. Como señala el informe de Ranking Digital Rights (2021): «Ambas plataformas aprovechan los mismos principios de capitalismo de vigilancia de recopilación y monetización de datos de comportamiento que han disparado los beneficios de las empresas tecnológicas en EE. UU.», pero aplican lógicas de protección radicalmente diferentes cuando el contexto normativo lo requiere. En realidad, son dos formas de poder, en un caso se trata de capitalismo de vigilancia explícito desarrollado desde el Estado totalitario y en otro, silencioso y soslayado bajo el espectro del poder instrumentario democrático pero con las mismas consecuencias.

4. IMPACTO EN LOS DERECHOS DE LA INFANCIA

4.1. El marco de la CDN y la Observación General N° 25

La Convención sobre los Derechos del Niño (1989), constituye el instrumento de derecho internacional más ampliamente aceptado en materia de derechos de la infancia. Su aplicación al entorno digital ha sido desarrollada de manera específica por la Observación General N° 25 del Comité de los Derechos del Niño (CRC/C/GC/25, 2021), que representa la interpretación autorizada de las obligaciones convencionales en relación con las tecnologías digitales. La OG 25 establece tres principios aplicables al entorno digital que resultan directamente relevantes para el análisis de los sistemas algorítmicos de ByteDance. En primer lugar, el principio de no discriminación que implica que todos los NNA, con independencia de su nacionalidad o localización geográfica, tienen derecho a igual protección frente a los riesgos del ecosistema digital. Desde esta perspectiva, el hecho de que ByteDance ofrezca mayores protecciones a los menores chinos que a los menores de otros países constituye una forma de discriminación basada en la nacionalidad que contradice este principio. En segundo lugar, el principio del interés superior del niño exige que sea éste interés, y no los intereses comerciales de la empresa, el criterio rector en el diseño de los servicios digitales dirigidos o accesibles a NNA. La OG 25 reconoce que las características de diseño publicitario pueden «anticipar las acciones del niño y lo guían hacia la búsqueda de contenidos más extremos», situación que constituye una vulneración activa de este principio. Finalmente, el principio pro-persona o prohomine que en estos escenarios se cristaliza a través de la protección del derecho a la vida, a la supervivencia y al desarrollo sano que se vincula directamente con la evidencia científica acumulada sobre los efectos nocivos del uso compulsivo de plataformas algorítmicas sobre la salud mental de los adolescentes.

4.2. Evidencia empírica

Los estudios basados en análisis de contenido algorítmico han demostrado que el sistema de recomendación de TikTok no es neutral respecto de los contenidos vinculados a la salud mental. Amnesty International (2025), en su investigación Dragged into the Rabbit Hole, documentó cómo usuarios que expresaban interés en contenido relacionado con la salud mental eran progresivamente conducidos por el algoritmo hacia contenido que normalizaba o idealizaba la depresión y la autolesión. La investigación mostró que una madre había observado a su hija ser arrastrada hacia «una espiral de contenido que normalizaba las luchas de salud mental al punto de que los adolescentes construyen una identidad alrededor de estar enfermos», a pesar de haber activado los controles parentales disponibles. La demanda federal presentada en octubre de 2023 ante el Tribunal de Distrito de Oakland (California) por fiscales generales de más de catorce estados de EE.UU. contra TikTok complementa la evidencia disponible. El Fiscal General del Distrito de Columbia calificó el algoritmo de TikTok como «inductor de dopamina» y señaló que fue diseñado para ser «intencionalmente adictivo» con el objetivo de «atrapar a los jóvenes en un uso excesivo», a pesar de que la empresa conocía que estos comportamientos conducirían a «daños psicológicos y fisiológicos profundos, como ansiedad, depresión, dismorfia corporal y otros problemas duraderos» (PBS NewsHour, 2024). En 2026, el Instituto de Tecnología de Georgia inició un estudio de cuatro años sobre el impacto del algoritmo de recomendación de TikTok sobre la salud mental de más de 10.000 adolescentes, financiado con 1,7 millones de dólares por la Huo Family Foundation. La investigadora principal, Munmun De Choudhury, señaló que el objetivo es «aprender los diferentes tipos de exposiciones negativas que los jóvenes experimentan al usar TikTok» y que el trabajo busca caracterizar» lo que están viendo y construir métodos computacionales para entender los comportamientos de consumo de estos participantes y cómo son afectados por el algoritmo» (Georgia Tech, 2026).

En el plano europeo, la Comisión Europea emitió en febrero de 2026 una resolución preliminar bajo el Digital Services Act afirmando que el desplazamiento infinito, la reproducción automática y el sistema de recomendación de TikTok constituyen «diseño adictivo» que infringe el derecho comunitario. La Comisión señaló que TikTok había ignorado indicadores de uso compulsivo, como datos que mostraban el tiempo que los menores pasaban en la aplicación a altas horas de la noche (The New York Times, 2026; CNET, 2026).

4.3. Principio de no regresividad y diseño diferenciado

El principio de no regresividad en materia de derechos humanos establece que los Estados y, por extensión, los actores privados sujetos a deberes de debida diligencia, no pueden adoptar medidas que supongan un retroceso en el nivel de protección de derechos ya alcanzado. En el caso que nos ocupa, este principio adquiere una dimensión nueva y particularmente significativa. La existencia de un modelo algorítmico más protector en Douyin constituye una evidencia de que el nivel superior de protección es alcanzable desde el aspecto técnico. En consecuencia, y desde esta perspectiva, la adopción de un modelo menos protector en mercados occidentales a través de TikTok, implica una regresión deliberada e incluso una intencionalidad exteriorizada de desprotección de la infancia. Si ByteDance puede proteger a los niños chinos del uso compulsivo nocturno bloqueando el acceso a Douyin entre las 22:00 y las 06:00 ¿por qué no lo hace también en TikTok? La ausencia de esa misma protección en TikTok para niños de cualquier otra nacionalidad tiene implicaciones que trascienden el caso particular estudiado en este aporte, porque sienta un precedente de que existe una versión más protectora de un producto digital que no se aplica por decisión corporativa. Este argumento demuestra que los daños derivados de la versión menos protectora eran técnicamente evitables y que la empresa era consciente de los mecanismos necesarios para evitarlos y no tomó ninguna medida para impedir las consecuencias dañosas.

5. EL DOBLE ESTÁNDAR COMO CATEGORÍA JURÍDICA

5.1. Responsabilidad por omisión de diseño

La existencia de modelos algorítmicos de diseño diferenciados evidencia la posibilidad técnica de prevenir daños y refuerza, en consecuencia, la responsabilidad jurídica por no adoptar el estándar más protector de forma universal. Los Principios Rectores de las Naciones Unidas sobre Empresas y Derechos Humanos (UNGP, 2011) establecen que las empresas tienen la responsabilidad de respetar los derechos humanos, lo que implica actuar con debida diligencia para identificar, prevenir, mitigar y rendir cuentas de los impactos negativos sobre los derechos humanos que sus actividades causan o a los que contribuyen. El doble estándar algorítmico de ByteDance es incompatible con este marco porque una empresa que conoce los daños potenciales de un diseño algorítmico determinado, como lo demuestra el hecho de haber implementado restricciones en Douyin y, que no adopta medidas equivalentes en otras jurisdicciones, incumple su deber de diligencia debida. En el derecho de daños esta situación puede encuadrarse como una omisión jurídicamente relevante ya que el agente conocía el riesgo, disponía de los medios para evitar el daño, y deliberadamente optó por no implementarlos. Tanto en la jurisprudencia de EE. UU., donde más de catorce estados han demandado a TikTok en 2024, como en la investigación en curso en la Unión Europea bajo el DSA, se transita el camino de la responsabilidad por diseño adictivo. Cabe plantearse también en este caso, si el doble estándar de ByteDance puede configurar, adicionalmente, una violación al derecho a la igualdad y a la no discriminación. La OG 25 (2021) señala que el principio de no discriminación implica que todos los niños deben beneficiarse del mismo nivel de protección de sus derechos en el entorno digital con independencia de su origen geográfico. Los NNA que utilizan TikTok en Argentina, España o cualquier otro país occidental reciben un nivel de protección algorítmica inferior al que reciben sus pares chinos que utilizan Douyin, por razón exclusiva de su nacionalidad o lugar de residencia.

Las demandas norteamericanas alegan, fundamentalmente, que TikTok diseñó su plataforma para ser adictiva para los niños, recopila datos de menores sin consentimiento parental en violación de la Children’s Online Privacy Protection Act (COPPA), y explota la función LIVE para la producción de contenido sexualmente explícito (PBS NewsHour, 2024; Scripps News, 2024). En la Unión Europea, el Digital Services Act (DSA, 2022) ha proporcionado el marco normativo para la investigación de la Comisión Europea sobre el «diseño adictivo» de TikTok, iniciada formalmente en 2024. La resolución preliminar de febrero de 2026 obliga a TikTok a modificar sustancialmente su algoritmo o enfrentar multas de hasta el 6% de su facturación anual global (CNET, 2026). Esta resolución es relevante también como precedente ya que la Comisión ha fundamentado su decisión en evidencia científica sobre los efectos sobre la salud de los usuarios, elevando el umbral de responsabilidad de las plataformas. En América Latina, el marco regulatorio aplicable es más fragmentado, aunque varios países han iniciado procesos legislativos orientados a la protección de NNA en entornos digitales, la ausencia de normas específicos en la región no implica la inexistencia de obligaciones ya que los estados parte de la CDN tienen la obligación de garantizar la protección de los derechos de la infancia también en el entorno digital, independientemente de la existencia de legislación nacional específica sobre el tema. Como hemos afirmado, urge que progenitores, educadores, empresas, sociedad y Estados aúnen fuerzas por construir «redes de protección de la infancia que los protejan de los efectos nocivos del impacto de la tecnología en el desarrollo de su salud y personalidad».

El análisis desarrollado en este trabajo permite identificar una serie de interrogantes que el avance de la tecnología no ha logrado resolver aún de manera satisfactoria y que configura una agenda relevante para el campo del derecho digital y los estudios de infancia en entornos digitales. En primer lugar, ¿en qué medida las restricciones de Douyin responden a una preocupación genuina por el bienestar de los NNA o son, fundamentalmente, el resultado de la intervención totalitaria del Estado chino con fines de control social y político? Esta pregunta no invalida la tesis central del presente trabajo, ya que la factibilidad técnica de la protección no depende de las motivaciones que la impusieron, pero sí complejiza la argumentación. El modo juvenil de Douyin incluye restricciones de contenido que van más allá de lo necesario para proteger la salud mental, como es la prohibición de contenidos sobre «supersticiones» o «lugares de entretenimiento», lo que sugiere que la pretendida protección de la infancia puede ser puente o instrumento para el logro de otros fines regulatorios que impactan directamente en otros derechos convencionalmente protegidos, como la libertad de expresión, la autodeterminación informativa y la opinión democrática. En segundo lugar, ¿es posible diseñar sistemas algorítmicos que protejan efectivamente a la infancia sin requerir formas de identificación o verificación que comprometan otros derechos fundamentales, como el derecho a la privacidad y al anonimato? El modelo de Douyin basa gran parte de su efectividad en la vinculación del acceso a la plataforma con la identidad nacional del usuario, un mecanismo de control y manipulación inaplicable en los países occidentales por razones de privacidad y protección de datos personales.

Por ello, uno de los desafíos más complejos que enfrentamos en la regulación digital en materia de protección de la infancia es la búsqueda de un diseño protector que no sacrifique la privacidad. En tercer lugar, ¿cómo puede garantizarse el cumplimiento efectivo de las obligaciones de protección algorítmica de la infancia en un contexto de opacidad estructural de los sistemas de inteligencia artificial? Los datos del MIT Technology Review (2023) revelan que incluso ByteDance reconoció, al lanzar el portal de transparencia de Douyin, que los usuarios «a veces sienten que están siendo monitoreados», lo que indica que los propios usuarios no comprenden plenamente cómo opera el sistema que les recomienda contenido. En cuarto lugar, ¿dónde está la voz de los propios niños y adolescentes en el diseño de los sistemas algorítmicos que los afectan? El análisis del caso TikTok-Douyin revela la ausencia de mecanismos de participación infantil en las decisiones de diseño tecnológico; se evidencia una falta de perspectiva de infancia o ausencia del principio child in the loop. Los NNA son el objeto del análisis algorítmico, pero no son sujetos participantes en la gobernanza del sistema, en definitiva no hay participación estructurada de niños en el diseño, ni en la evaluación de impacto, ni en la gobernanza del sistema. Finalmente no podemos dejar de preguntarnos que rol ocupan hoy los Estados en la construcción de la soberanía digital, esto es ¿qué forma debe adoptar la cooperación internacional para garantizar que las empresas tecnológicas no sigan aplicando estándares diferenciados según la capacidad regulatoria de cada jurisdicción?

En este aspecto, la asimetría regulatoria de los países desarrollados y los países en desarrollo, en un contexto donde las mismas plataformas operan globalmente, plantea un problema de equidad estructural que no puede resolverse unilateralmente y que dejaremos para un próximo estudio.

5. 2. La encíclica Magnifica Humanitas

A la incompatibilidad jurídica del doble estándar algorítmico de ByteDance con el principio de no discriminación y el deber de debida diligencia corporativa, resulta pertinente incorporar para el análisis, la visión de la primera encíclica del pontificado de León XIV, Magnifica Humanitas, publicada el 15 de mayo de 2026 y dedicada específicamente a la “custodia de la persona humana en el tiempo de la inteligencia artificial”. El documento se inserta en la trayectoria de la doctrina social de la Iglesia inaugurada por Rerum novarum (1891) y continuada, en lo que respecta al diagnóstico crítico de la técnica, por Laudato Si’ (2015) y Fratelli tutti (2020). El núcleo del aporte para el caso TikTok-Douyin se encuentra en los números 141 y 142 del documento. La encíclica afirma que “a los padres de familia les resulta difícil resistir por sí solos al condicionamiento de modelos de negocio que monetizan la atención y el tiempo” y, por ello, “es necesario oponerse, con decisiones públicas de largo alcance, a los intereses inmediatos de las plataformas, concentradas en pocas manos, cuando estos entran en conflicto con el bien de los menores”. Acto seguido formula una recomendación de política regulatoria de notable precisión técnica, dice al respecto que son oportunas “intervenciones legislativas que establezcan límites de edad, responsabilicen a los proveedores de servicios -sin descargar, sobre las familias, el peso de la limitación- y prevean protecciones específicas contra toda forma de explotación y violencia sexual en internet, de modo que la infancia y la adolescencia se custodien verdaderamente como bienes preciosos confiados a nuestro cuidado”. La denuncia magisterial alcanza también, de modo expreso, a los “algoritmos que amplifican contactos peligrosos”; esto es, a la misma arquitectura de recomendación cuyo despliegue asimétrico entre TikTok y Douyin constituye el objeto de este trabajo. Varias consecuencias normativas se desprenden de esta enseñanza para la tesis de la unificación de diseños. Al establecer que la custodia de la infancia es deber estructural y no solo responsabilidad de los progenitores, la encíclica realiza una traducción ético-antropológica del principio de no discriminación de la Observación General N.º 25, según el cual todo niño, con independencia de su nacionalidad o lugar de residencia, debe gozar de igual protección en el entorno digital. Asimismo, al exigir que la responsabilidad recaiga sobre los “proveedores de servicios” y no sobre las familias, refuerza la lógica de los Principios Rectores de la ONU sobre Empresas y Derechos Humanos, cuya debida diligencia opera “dondequiera que operen” las empresas y resulta incompatible con la fragmentación de estándares según el régimen regulatorio local. Finalmente, al referirse a la infancia y la adolescencia como “bienes preciosos confiados a nuestro cuidado”, dispone una pretensión de universalidad de la protección que opera como cláusula hermenéutica que coincide con el planteo de responsabilidad universal ya desarrollado en mi aporte “Derechos digitales de la infancia”. En definitiva, el estándar de diseño no puede recortarse en función de la jurisdicción donde se desplieguen los algoritmos, porque la dignidad cuya custodia se reclama es una y la misma en cualquier parte del mundo. De este modo, Magnifica Humanitas aporta el fundamento ético-jurídico que convierte a las herramientas de diseño seguro en la infancia, en imperativos morales universalizables y no en opciones de autorregulación corporativa.

La asimetría TikTok-Douyin queda entonces interpelada desde una doble fuente normativa convergente, el derecho internacional de los derechos humanos, que exige debida diligencia uniforme, y la doctrina social de la Iglesia, que reclama la custodia universal de la infancia como “bien precioso”. La encíclica habilita presentar un argumento de unificación que es tanto jurídico (no discriminación, debida diligencia) como antropológico (igual dignidad de toda persona humana), y que descarta cualquier defensa empresarial fundada en la pluralidad o inexistencia de marcos regulatorios.

6. EL DISEÑO CON PERSPECTIVA DE INFANCIA ¿Cómo se logra?

La seguridad desde el diseño se ha convertido en un principio fundamental de la regulación digital, lo que refleja un giro hacia la responsabilidad tecnológica que exige a los servicios digitales evaluar y mitigar los riesgos para los usuarios desde las primeras fases del desarrollo del producto y a lo largo de todo el ciclo de vida del producto o servicio.

Si bien existe un amplio consenso en que la seguridad desde el diseño implica incorporar de forma proactiva medidas de protección en los sistemas y eliminar los riesgos para garantizar la seguridad de los usuarios, sigue habiendo poca claridad en torno a las medidas específicas que deben adoptar las plataformas y cómo estos principios se traducen en la práctica operativa. La Ley de Servicios Digitales de la UE y las directrices del Comisionado de Seguridad Digital de Australia, por ejemplo, hacen hincapié en la responsabilidad, la transparencia, la evaluación y mitigación de riesgos, y la protección de los derechos fundamentales de los usuarios; la Coalición Global para la Seguridad Digital del Foro Económico Mundial aboga por intervenciones de diseño de seguridad digital que se basen en los principios de seguridad desde el diseño y las mejores prácticas para proporcionar un recurso que ayude a las empresas a identificar y reducir eficazmente los riesgos digitales, prevenir daños y promover la confianza y la seguridad. Sin embargo, la aplicación sigue siendo inconsistente, con marcos de supervisión y responsabilidad muy limitados. Por ello, se propone una serie de herramientas basadas en el código de prácticas seguras para la infancia desarrollado por un grupo de ONG entre las que se destaca Internet Watch Foundation como precursora en la defensa de los derechos de la infancia en el ecosistema digital. El diseño seguro es un principio rector del derecho digital que exige que las plataformas identifiquen, evalúen y mitiguen los riesgos para los usuarios desde las primeras fases del desarrollo del producto y a lo largo de todo su ciclo de vida, y nunca como reacción posterior al daño. Su formulación operativa más extendida proviene de la eSafety Commissioner de Australia (2018) y se construye sobre tres ejes; responsabilidad del proveedor del servicio, empoderamiento y autonomía del usuario, y transparencia y rendición de cuentas. Aplicado a la niñez y adolescencia, el principio adquiere una precisión jurídica específica ya que el Comité de los Derechos del Niño de Naciones Unidas, en su Observación General N.º 25 (2021), exigió que los Estados garanticen que la regulación, el diseño y la operación de servicios digitales realicen el interés superior del niño como consideración primordial. Este estándar ético no se reduce a la protección frente a contenidos ilícitos sino que reclama una jerarquía de control que funciona, en orden de prelación, mediante la eliminación del riesgo en la fase de diseño, la sustitución o rediseño de funcionalidades peligrosas, las salvaguardas técnicas, los controles administrativos y, sólo como recurso último, herramientas en manos del propio usuario. Esta inversión de la carga del usuario hacia el proveedor es la marca distintiva del paradigma y la razón por la que, desde una mirada ético-jurídica, resulta incompatible con modelos de seguridad expost o mecanismos de seguridad o control parental que son los predominantes hasta la última década. La traducción material del principio requiere herramientas concretas, agrupables en cuatro fases que veremos a continuación:

6.1. Gobernanza

La fase de gobernanza comprende la supervisión a nivel de dirección empresarial de los riesgos para la infancia, con una persona designada como responsable de la tarea y con la asignación pública, transparente y verificable de responsabilidades por el cumplimiento del estándar; evaluaciones internas periódicas conducidas por equipos con autonomía e idoneidad; reglas de conducta para directivos con deber de diligencia respecto del interés superior del niño y mecanismos de supervisión independiente y rendición de cuentas externa, todo ello en línea con los principios rectores sobre las empresas y los derechos humanos ya analizados.

6. 2. Preparación y desarrollo

La preparación o etapa preliminar del desarrollo implica una serie de actos y conductas que se centralizan en la prevención y mitigación del daño como por ejemplo: (a) evaluaciones de riesgo y de impacto en derechos humanos con foco específico en niñas, niños y adolescentes y en grupos en intersección de vulnerabilidad; (b) aplicación de la jerarquía de control para justificar por qué no se eligió una medida superior; (c) testeo de seguridad y testeo de pre-lanzamiento, incluyendo simulaciones de grooming, de explotación sexual y de inducción al suicidio o autolesión; (d) consulta sustantiva con niños, niñas y adolescentes y con organizaciones especializadas; (e) prohibiciones absolutas sobre prácticas de alto riesgo como patrones oscuros, scroll infinito, play automático y notificaciones intrusivas dirigidas a menores.

6. 3. Despliegue y monitoreo
En la fase de impacto con los usuarios es donde se concentra el mayor número de herramientas y, también donde se presentan las mayores tensiones. Por ejemplo, se deberá trabajar sobre términos de servicio redactados en lenguaje claro, adaptados a la etapa evolutiva y testeados con la población infantil; explicación de cómo el diseño influye en el comportamiento del usuario y de los mecanismos de denuncia. Por otro lado, un tema sensible es el desarrollo de herramientas de control de edad que sean proporcionales al riesgo, con métodos múltiples, compatibles con la Convención sobre los Derechos del Niño y la normativa de protección de datos, sometidos a auditoría externa y evaluados por resultados, no por procesos. Asimismo, se deberán incorporar mecanismos de moderación humana y no únicamente algorítmica; con salvaguardas efectivas de control para usuarios, accesibles, testeadas con niños, niñas y adolescentes y con personas con discapacidad, configuraciones de seguridad activas por defecto y fricción deliberada en interacciones de alto riesgo (contactos por adultos desconocidos, intercambio de imágenes íntimas, transacciones). La transparencia se deberá garantizar a través de informes periódicos públicos con métricas desagregadas por edad, género y otros marcadores de vulnerabilidad, acceso a investigadores independientes y auditorías algorítmicas. Finalmente se deberán elaborar mecanismos de reparación accesibles, con plazos definidos, sanciones y políticas privadas de apoyo a víctimas-sobrevivientes y articulados con autoridades estatales, ONG y servicios especializados.

6. 4. Retiro

Esta fase comprende del desarrollo y presentación de la documentación del cierre de funcionalidades de riesgo identificadas y no remediables, portabilidad y derecho de supresión efectivos para datos de niños y niñas, planes de transición que eviten la desprotección abrupta, preservación de evidencia útil para investigaciones penales o civiles relativas a delitos contra la infancia (grooming, producción de material de abuso sexual infantil).

Este catálogo de herramientas resulta de interés si lo analizamos desde la perspectiva asimétrica del diseño de ByteDance donde una empresa, con la misma infraestructura algorítmica, despliega arquitecturas de protección radicalmente distintas según el régimen regulatorio y la valoración política de la infancia en cada jurisdicción. El caso estudiado nos deja dos aristas para la aplicación del análisis ético-jurídico. Por un lado, nos demuestra que la fortaleza del estándar de diseño seguro no reside solo en su enunciación, sino, y principalmente, en su exigibilidad a través de un marco regulatorio que contemple mecanismos de gobernanza y supervisión y sanciones disuasorias. Por otro lado, el principio de diseño seguro debe complementarse necesariamente con un “diseño justo” que reconozca a la infancia como sujeto de derechos y su rol activo en las diferentes etapas del proceso.

CONCLUSIONES

El análisis comparativo entre los sistemas algorítmicos de TikTok y Douyin permite sostener que la empresa ByteDance aplica estándares de diseño algorítmico diferenciados según el contexto regulatorio en que opera. En China, donde la regulación estatal es más exigente, el algoritmo incorpora restricciones de tiempo, horario, contenido y verificación de identidad y de edad que protegen efectivamente a los menores de edad de los riesgos del uso compulsivo.

En cambio, en mercados occidentales, donde esa regulación es más débil o heterogénea, el algoritmo opera bajo una lógica de maximización del engagement que es nociva para la salud mental de los niños.

Esta asimetría, no puede atribuirse a limitaciones técnicas ya que la misma empresa ha demostrado que es operativamente capaz de implementar en los casos que así lo requieren, el modelo protector. Tampoco puede atribuirse a diferencias culturales porque los efectos del uso compulsivo de plataformas algorítmicas sobre la salud mental adolescente no dependen de los contextos sociales o culturales en los que vivan.
La aplicación de estándares diferenciados responde a una decisión consciente de diseño algorítmico motivada exclusivamente por fines económicos, donde la ausencia de regulación homogénea de los mercados occidentales permite maximizar monetizar la infancia sacrificando la salud de la infancia en vez de trabajar en un programa de diseño seguro.

Desde la perspectiva de los derechos humanos y los derechos de la infancia, esta situación configura una violación activa del principio del interés superior del niño, una forma de discriminación basada en la nacionalidad que contradice el principio de universalidad de los derechos, y una vulneración de las obligaciones de debida diligencia corporativa en materia de derechos humanos establecidas en los Principios Rectores de la ONU. El ejemplo de TikTok-Douyin demuestra que una gran empresa tecnológica puede decidir deliberadamente cuándo aplicar diseño de protección de infancias y cuándo no. El caso ByteDance nos muestra una paradoja: aún en un contexto político de capitalismo de vigilancia y manipulación a máxima escala, el diseño técnico seguro es posible.
El camino hacia la protección efectiva de los derechos digitales de la infancia requiere una combinación de regulación obligatoria, transparencia algorítmica verificable, responsabilidad corporativa efectiva y participación de los propios NNA en los procesos de diseño y gobernanza tecnológica.