El caso “Roblox” y los derechos digitales de la infancia
Análisis del uso de guías éticas en la IA por actores de la Quíntuple Hélice
Autor: Karina Vanesa Salierno
Introducción
A partir de la finalización de la segunda Guerra Mundial, los estados se reunieron para unificar ideas y criterios en defensa de la humanidad luego de la sensación de angustia, vacío e incertidumbre que impregnaron los crímenes de guerra. A partir de allí, los derechos humanos comenzaron a desarrollar un rol fundamental en los sistemas democráticos, como representativos de la dignidad humana e inherentes a todas las personas, sin distinción alguna de raza, sexo, nacionalidad, origen étnico, lengua, religión o cualquier otra condición. En este sentido, indica Ronald Dworkin “la democracia está justificada porque garantiza el derecho de cada persona de ser respetada y cuidada; pero en la práctica, las decisiones de una mayoría democrática pueden violar ese derecho. Ante esta posibilidad, el sistema constitucional prevé disposiciones restrictivas que establecen límites al poder del que dispone la mayoría, y que lejos de poner en riesgo la democracia, son necesarias para generarla”.1
1 RONALD Dworkin, “El Liberalismo”, en Liberalismo, constitución y democracia, Buenos Aires, La Isla de la Luna, 2003, p. 30.
El marco democrático como sustento del sistema de protección de derechos humanos se evidencia en los instrumentos internacionales y regionales “… su inclusión en el seno de los convenios específicos de derechos humanos, en este caso, el CEDH y la CADH, homogeniza de forma vertical, desde el vértice de la estructura en lugar de desde su base, la juridización o normativización del principio, llenando una laguna esencial…ambos textos consagran el principio democrático con las dificultades y las ventajas de la inclusión de una fórmula abierta y flexible que va a obligar a un esfuerzo interpretativo notable…”2. Carlos Nino3 enseña que “los derechos humanos son el mejor invento de nuestra civilización”, a tal punto que los compara con el avance de la tecnología y argumenta que hasta constituyen una herramienta fundamental para contrarrestar y evitar en definitiva la extinción de la humanidad. Nikken expresa que “los derechos humanos, no resultan de una adjudicación o cesión del Estado, cuya función con respecto a ellos es de reconocimiento, respeto y protección, sino de principios morales universales donde basta con ser persona humana para ser titular de los derechos fundamentales. Por ello, su exigibilidad no depende de la consagración legislativa expresa; al contrario, históricamente aparecen como atributos subjetivos que nacen con el hombre porque derivan de su naturaleza y que se han hecho valer contra leyes opresivas que los desconocían o menoscababan”.4 Uno de los conflictos de la sociedad moderna radica en la interrelación simultánea de los derechos fundamentales con la tecnología, partiendo de la base de que todos estos derechos son manifestaciones directas de la dignidad humana, el desafío del intérprete del derecho es ponderarlos, compatibilizarlos y armonizarlos.5
2 AMAYA UBEDA DE TORRES, Democracia y derechos humanos en Europa y en América. Estudio comparado de los sistemas europeo e interamericano de protección de los derechos humanos, Madrid, Reus, 2007, pp. 618-619.
3 Nino Carlos, Ética y derechos humanos, un ensayo de fundamentación, 2ed. ampliada y revisada, Buenos Aires, Astrea, 1989, p. 1.
4 Nikken Pedro, Los sistemas internacionales de protección de los derechos humanos: la perspectiva de acceso a la justicia y la pobreza, en “Ponencia presentada en el XXVI Curso Interdisciplinario en Derechos Humanos, Instituto Interamericano de Derechos Humanos”, San José, Costa Rica, 18 al 29 de agosto de 2008. Puede consultarse en: https://www.corteidh.or.cr/tablas/r23706.pdf.
5 Del Carril Enrique H., “El derecho a la extimidad (la protección constitucional en época de redes sociales)”, en FORUM: Revista del Centro de Derecho Constitucional de la Facultad de Derecho de la Pontificia Universidad Católica Argentina, Nº 11, 2021, p. 31.
- El corpus iuris internacional
Los cimientos de este corpus iuris normativo mundial se encuentran en la Carta de las Naciones Unidas y en la Declaración Universal de los Derechos del Hombre aprobadas por la Asamblea General en 1945 y 1948, respectivamente. Sin embargo, tuvieron que pasar varios años para desarrollar una especificidad de regulación que contemple los derechos de los niños, niñas y adolescentes.
En este proceso lento de reconocimiento de derechos, la Declaración de Ginebra de 1924, precursora de la Declaración Universal de los Derechos del Niño y antecedente inmediato de la Convención sobre los Derechos del Niño, plasma en un texto de validez universal el pensamiento de Eglantyne Jebb, pionera en los estudios e investigaciones sobre los derechos de la niñez, fundadora de Save the Children, y defensora de la infancia como colectivo vulnerable de la humanidad.
En la Declaración de Ginebra se estableció que la humanidad debe dar al niño lo mejor de sí misma, como un deber que se halla por encima de toda consideración de raza, nacionalidad o creencia. Este instrumento internacional es el primer antecedente que reconoce los derechos de la infancia, aunque únicamente como una “obligación moral”, y constituye la base fundamental de la Convención sobre los Derechos del Niño, aprobada por la Asamblea General de Naciones Unidas el 20 de noviembre de 1989 que constituye el eje fundamental para la efectividad de los derechos humanos de niñas, niños y adolescentes6.
6 Es importante tener en cuenta todos los documentos que se aplican a este tema: El Pacto para el Futuro, incluido el Pacto Digital Global (2024); Governing AI for Humanity: Final Report(Gobernanza de la IA para la Humanidad: Informe final) (Órgano Asesor de Alto Nivel sobre InteligenciaArtificial, 2024); CRC-IPU Joint Statement on the Role of Parliaments in the Implementation of the Convention of the Rights of the Child and its Optional Protocols (Declaración conjunta del Comité delos Derechos del Niño y la UIP sobre la función de los parlamentos en la aplicación de la Convenciónsobre los Derechos del Niño y sus Protocolos Facultativos (2022)); Recommendation on the Ethics of Artificial Intelligence (Recomendación sobre la Ética de la Inteligencia Artificial) (UNESCO, 2021); Policy Guidance on AI for Children (Orientaciones políticas sobre IA para la infancia ) (UNICEF, 2021); Resolución78/187 de la Asamblea General de las Naciones Unidas sobre los Derechos del Niño (2023); The Rightto Privacy in the Digital Age (El derecho a la privacidad en la era digital) (Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, 2021); Resolución 79/239 de la Asamblea General de las Naciones Unidas sobre la inteligencia artificial en el ámbito militar y sus implicaciones para la paz y la seguridad internacionales (2024); Resolución 78/265 de la Asamblea General de las Naciones Unidas sobre los avances en la esfera de la información y las telecomunicaciones en el contexto de la seguridad internacional (2023); Resolución 78/213 de la Asamblea General de las Naciones Unidas sobre la promoción y protección de los derechos humanos en el contexto de las tecnologías digitales (2023);Resolución 78/311 de la Asamblea General de las Naciones Unidas sobre el aumento de la cooperación internacional para la creación de capacidad en materia de inteligencia artificial (2024); Resolución 78/265de la Asamblea General de las Naciones Unidas sobre el aprovechamiento de las oportunidades de sistemas seguros y fiables de inteligencia artificial para el desarrollo sostenible (2024); Resolución 79/243de la Asamblea General de las Naciones Unidas sobre el fortalecimiento de la cooperación internacional para la lucha contra determinados delitos cometidos mediante sistemas de tecnología de la información y las comunicaciones y para la transmisión de pruebas en forma electrónica de delitos graves (2024);Resolución 79/460 de la Asamblea General de las Naciones Unidas relativa a la lucha contra la utilización de las tecnologías de la información y las comunicaciones con fines delictivos (2024); The Right to Privacy in the Digital Age (El derecho a la privacidad en la era digital) (Informe de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, 2021); Informe A/79/122 del Relator Especial sobre la venta, la explotación sexual y el abuso sexual de niños (2024); Resolución 56/6 del Consejo de Derechos Humanos sobre la seguridad de la infancia en el entorno digital (2024); Convenio sobre la Edad Mínima,1973 (número 138); Convenio de la OIT sobre las Peores Formas de Trabajo Infantil, 1999 (N.º 182);Informe A/79/520 del Relator Especial sobre el derecho a la educación (2024); Convenios de Ginebra de1949.
- La constitucionalización del derecho privado.
Es en este marco, signado por la internacionalización de los derechos humanos y la consecuente complejización del derecho constitucional, donde se desarrollan los conceptos de “humanización”7 o “constitucionalización del derecho privado”.8 Somos testigos privilegiados del proceso de internacionalización del derecho interno en el cual, las constituciones de los países se ven complementadas por las normas internacionales del bloque constitucional, como sucede en países iberoamericanos como España y Argentina. Este proceso, tiene al menos dos efectos relevantes: en primer lugar, los tratados internacionales de derechos humanos poseen mayor jerarquía que las normas legales internas que se someten al control de constitucionalidad y convencionalidad concentrado o difuso, y, en segundo lugar, los derechos reconocidos y protegidos por las normas internacionales pueden ser invocados a través de acciones nacionales (constitucionales u ordinarias) destinadas a tutelar derechos. En el marco de la Unión Europea, la Convención Europea de Derechos Humanos (CEDH) llamado el Convenio de Roma, firmado el 4 de noviembre de 1950, y sus protocolos facultativos, han sido considerados “el sistema internacional de protección de derechos humanos que mejor ha funcionado, situándose por encima de cualquier otro, tanto de alcance universal como regional”,9 proclamándose como el estándar mínimo de protección de los derechos humanos en Europa. Conforme lo explica Santolaya Machetti “existen diversos modelos de recepción de las sentencias del Tribunal Europeo en el derecho interno de los estados comunitarios”,10 uno como fuente constitucional directa, es el caso de Austria que en 1964, elevó al CEDH a fuente de rango constitucional con efectos retroactivos; un segundo modelo de aplicación como fuente auxiliar, es el caso de Alemania, a partir de la sentencia del Tribunal Constitucional del 14 de enero de 1960, Bélgica e Italia, y finalmente el caso Español donde la utilización del CEDH resulta impuesto por el propio texto constitucional. El artículo 10.2 de la CE, dispone: “Las normas relativas a derechos fundamentales y a las libertades que la Constitución reconoce, se interpretarán de conformidad con la Declaración Universal de Derechos Humanos y los tratados y acuerdos internacionales sobre las mismas materias ratificados por España”.
7 Muchas mutaciones han operado en el derecho de familia, pero sin dudas una de las más importantes es el impacto y la presión que ejercen sobre los principios jurídicos las convenciones internacionales de derechos humanos, especialmente las CEDH y la CIDH.
8 El término “constitucionalización del derecho de familia” ha sido acuñado por Aída Kemelmajer de Carlucci en la publicación titulada “Derechos Humanos y Familia”, en André-Jean Arnaud y otros, Aspectos Constitucionales y Derechos Fundamentales de la Familia, Bogotá, Universidad Externado de Colombia, 2001, P. 60. En cambio, el término “humanización” lo tomo de Germán Bidart Campos en su publicación sobre “Familia y Derechos Humanos” en Las transformaciones constitucionales en la posmodernidad, Buenos Aires, Ediar, 1999, p. 85 y ss.
9 ÁNGEL Rodríguez, Integración europea y derechos fundamentales, Madrid, Civitas, 2001, p. 100.
10 Santolaya Machetti Pablo, El derecho a la vida familiar de los extranjeros, Valencia, Institut de Pret Public, 2004, p. 67 y ss.
- La Convención de los Derechos del Niño
En la primera mitad del siglo XXI la niñez comenzó a vislumbrarse como una preocupación en algunos convenios de la Organización Internacional del Trabajo (OIT), en la creación del Instituto Americano del Niño (1927) durante el transcurso de la Segunda Conferencia Panamericana del Niño, en el surgimiento a partir de 1946 de “United Nations International Chlidren´s Emergency Fund” (UNICEF) en el marco de la Organización de las Naciones Unidas (ONU), y en redacción de diversos instrumentos internacionales específicamente dedicados a la niñez (la Carta de la Casa Blanca de 1930, la Carta de la infancia en tiempos de guerra de 1942, la Carta de la infancia para el mundo de posguerra de 1942, la declaración de oportunidades reconocidas al niño por el Congreso Panamericano de la Infancia de 1942, la Declaración de Caracas sobre la Salud del Niño). Como lo expresa Gil Domínguez “(…) no fue sino hacia 1959, mediante la Declaración de los Derechos del Niño, aprobada por la ONU, cuando los niños obtuvieron por primera vez un documento universal”.11 En el camino del reconocimiento de derechos, la Convención sobre los derechos del Niño (CDN) significó un hito histórico para el tratamiento jurídico de la infancia y la adolescencia, que inaugura una nueva relación entre el derecho y los niños, denominada por la doctrina como el modelo o paradigma de la “protección integral de derechos”.12
11 Gil Domínguez Andrés, Famá María Victoria, y Herrera Marisa, Derecho Constitucional de Familia, T. I, Buenos Aires, Ediar, 2012.
12 BELOFF Mary, Presentación al libro Derecho, infancia y familia, Barcelona, Gedisa, 2000, pág. 11.
La “doctrina de la protección integral de derechos” de modo abstracto y genérico abarca, todas las dimensiones de la vida y del desarrollo de los niños, promoviendo la unificación de propósitos y acciones entre desarrollo socioeconómico y protección jurídica de la infancia. La doctrina de la protección integral de derechos ha tenido una influencia importante en Latinoamérica. Como ejemplo cabe mencionar el “Estatuto del Niño y Adolescentes” Brasil (1990); el “Código de la Niñez y la Adolescencia” de Honduras (1996); el “Código del Niño” en Uruguay (2004); La Ley 26.061 de Protección Integral de los Derechos de los Niños, Niñas y Adolescentes” de Argentina de 2005, entre otras.
El interés superior del niño es uno de los principios troncales de la CDN, pero no es un concepto nuevo.13 En efecto, es anterior a la CDN. Se consagró en la Declaración de los Derechos del Niño, de 1959 (párr. 2) y en la Convención sobre la eliminación de todas las formas de discriminación contra la mujer (arts. 5º b. y 16, párr. 1d.), así como en instrumentos regionales y numerosas normas jurídicas nacionales e internacionales. A lo largo de los años, se ha proclamado su doble naturaleza como derecho subjetivo y como principio, y se ha generalizado su aplicación a ámbitos materiales distintos de aquellos que le vieron nacer y en cuyo seno se ha desarrollado. El artículo 3º de la CDN dispone que “en todas las medidas concernientes a los niños que tomen las instituciones públicas o privadas de bienestar social, los tribunales, las autoridades administrativas o los órganos legislativos, una condición primordial a la que se atenderá será el interés superior del niño”.
13 El interés superior del niño se tuvo en cuenta en la sentencia Blissets, a finales del siglo XVIII (1774), que afirmaba «if the parties are disagreed, the Court will do what shall apear best for the child» por lo que no se puede decir que resulte un principio novedoso.
- La vulnerabilidad de la infancia frente al desarrollo tecnológico
La necesidad de protección especial de la niñez, se justifica en la fragilidad de la infancia y la vulnerabilidad en razón de su edad. Como lo expresa Cillero Bruñol, “La CDN es el instrumento internacional que permitió la ciudadanía a la infancia, ya que reconoce que todos los niños, niñas y adolescentes, tienen derechos ante el estado y la comunidad, y que los Estados partes deben adoptar todas las medidas administrativas, legislativas y de otra índole para dar efectividad a los derechos reconocidos en la presente Convención (art. 4)”.14
14 MIGUEL CILLERO BRUÑOL, “Los derechos del niño: de la proclamación a la protección efectiva”, en Justicia y Derechos del Niño, Nº 3, UNICEF, Buenos Aires, 2001, pág. 50.
En la actualidad, debe darse una interpretación dinámica de la Convención que responda a las nuevas circunstancias sobre las que debe proyectarse y, sobre todo, que atienda a las necesidades modernas del niño como verdadero sujeto de derecho y no solo como objeto de protección.
El avance tecnológico puso de manifiesto carencias sociales y jurídicas para afrontar la vinculación de la infancia con el ecosistema digital, que representa un espacio en donde se desarrollan funciones sociales, educativas, los servicios gubernamentales y de comercio.
Las relaciones intersubjetivas han mutado de lugar, las plataformas digitales y las redes sociales invaden absolutamente todas las relaciones sociales. Este mundo les proporciona una aparente libertad de acceso, de pensamiento, de opinión, de elección y de expresión, pero también les presenta un ámbito de manipulación y perfilamiento, que carece de regulación integral, que cambia de lugar las relaciones sociales y jurídicas que adquieren un carácter universal y potencialmente ilimitado, sin fronteras políticas o geográficas. La era digital representa una amenaza al desarrollo de la infancia, por ello la adopción de medidas gubernamentales para regular el ecosistema digital deberá tener como horizonte el principio del interés superior del niño por sobre los intereses comerciales y económicos de las empresas monopólicas que lideran la virtualidad. La expansión de la inteligencia artificial (IA) en entornos digitales utilizados por niños, niñas y adolescentes ha transformado la arquitectura de la socialización, el aprendizaje y el entretenimiento infantil.
La mayoría de las herramientas y aplicaciones basadas en IA, junto con sus modelos, técnicas y sistemas subyacentes no tienen como centro el principio del interés superior del niño y su bienestar. En consecuencia, se hace necesario prestar atención a la edad de la emancipación digital y a los efectos que produce la tecnología en el desarrollo cognitivo, emocional y psicosocial de los niños, en particular en los primeros años de vida, cuanto la plasticidad del cerebro es máxima y su entorno es fundamental para el desarrollo de su personalidad, así como la sociabilización con sus pares y el intercambio con la naturaleza.
El caso de estudio
Con más de 85 millones de usuarios activos diarios en 2024 y una base de usuarios donde aproximadamente el 40% tiene menos de 13 años, Roblox es uno de los entornos digitales más frecuentados por la infancia a escala global.
Roblox constituye un caso paradigmático de estudio ya que se trata una plataforma híbrida que combina interacción social, creación de contenido por usuarios (UGC), economía virtual y sistemas de moderación algorítmica a gran escala.
El presente trabajo analiza el caso Roblox desde el marco de la Quíntuple Hélice y evalúa su alineación con la normativa internacional en materia de protección integral de los derechos de niños, niñas y adolescentes en entornos digitales y en particular la declaración conjunta sobre IA y Derechos del Niño emitida recientemente por la Unión Internacional de Telecomunicaciones (UIT), Comité de los Derechos del Niño, Fondo de las Naciones, Unidas para la Infancia (UNICEF), Organización Internacional del Trabajo (OIT), Unión Interparlamentaria (UIP), Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), Instituto Interregional de las Naciones Unidas para Investigaciones sobre la Delincuencia y la Justicia (UNICRI), Oficina de Asuntos de Desarme de las Naciones Unidas (UNODA), Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Representantes Especiales del Secretario General de las Naciones Unidas para la cuestión de los Niños y los Conflictos Armados y sobre la Violencia contra los Niños, Relator Especial de las Naciones Unidas sobre la venta, la explotación sexual y el abuso sexuales de niños, Safe Online. Para este enfoque se utilizarán también la recomendación del Consejo de la OCDE sobre IA15, el marco de cinco principios éticos para la IA16 y el modelo de Quádruple Helix17. En el presente trabajo sostengo que la plataforma Roblox presenta una arquitectura de gobernanza ética formalmente desarrollada, pero estructuralmente tensionada que genera altos riesgos de vulneración de los derechos fundamentales de la infancia.
15 OECD. (2019/2023). Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449).
16 Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review.
17 Carayannis, E. G., & Campbell, D. F. J. (2009). ‘Mode 3’ and ‘Quadruple Helix’: Toward a 21st century fractal innovation ecosystem. International Journal of Technology Management, 46(3/4), 201–234.
- Marco normativo internacional aplicable: Declaración conjunta sobre IA y derechos del niño
Como vimos, la Convención de los Derechos del Niño (CDN) es el tratado internacional troncal en esta materia. Asimismo, el Comité de los derechos del niño ha emitido ya hace unos años la Observación General 25 (2021)18 que interpreta los principios de la convención a la luz del avance tecnológico. En este camino, la declaración conjunta sobre IA de UNICEF y otros, establece que los Estados y las empresas deben garantizar que la IA sea diseñada y gobernada conforme a los derechos del niño como titulares autónomos de derechos¹. Entre sus exigencias se establecen pautas que tienen que ver con el diseño ético de las herramientas de IA, como por ejemplo, un sistema robusto de evaluaciones de impacto en los derechos del niño, niña o adolescente; la protección reforzada contra violencia y explotación digital; la transparencia comprensible para menores; un mecanismos de denuncia adaptados a la edad y una debida diligencia empresarial conforme a los Principios Rectores sobre Empresas y Derechos Humanos. Este estándar no exige únicamente evitar el daño, sino promover activamente el bienestar infantil. Asimismo, la OCDE19 establece cinco principios fundamentales (2019-2024) que también se aplican a la infancia: 1. crecimiento inclusivo y bienestar, 2. valores centrados en el ser humano y equidad; 3. transparencia y explicabilidad; 4.robustez, seguridad y protección; 5. Responsabilidad. El principio de accountability es especialmente relevante en entornos donde los sistemas operan de forma parcialmente autónoma. Este escenario debe complementarse con el marco ético de Floridi, el que en plataformas infantiles como Roblox, merece especial atención por la tensión que se genera entre la personalización algorítmica y la autonomía evolutiva del menor de acuerdo al principio de autonomía progresiva.
La Declaración Conjunta constituye el texto normativo más articulado producido hasta la fecha en materia de IA y derechos de la infancia. Su relevancia radica no solo en el contenido sustantivo de sus 11 recomendaciones, sino en la amplitud de su consorcio signatario, que le confiere una legitimidad político-normativa inusualmente elevada para un instrumento de soft law. Desde el punto de vista ético, el documento opera sobre tres grandes ejes:
- Protección frente a daños directos e indirectos de los sistemas de IA sobre la infancia (sección 4).
- Garantía de condiciones de ejercicio de derechos: privacidad, no discriminación, participación, interés superior (secciones 5, 6, 7 y 8).
- Creación de capacidades y alfabetización como condición de habilitación de agencia individual (secciones 10 y 11).
La declaración presenta una arquitectura normativa sólida en varios aspectos. La exigencia de que las empresas realicen evaluaciones de impacto en derechos de la infancia (ENIA) antes del lanzamiento y periódicamente durante el ciclo de vida del producto (sección 3.e) va más allá de los marcos voluntarios anteriores. La referencia explícita a los deepfakes, algoritmos de recomendación dirigidos a menores y la vinculación emocional malsana con IAs de interacción humana (sección 4.f) demuestra una comprensión actualizada de los riesgos tecnológicos específicos.
19 https://www.oecd.org/en/topics/ai-principles.html
Arquitectura de la plataforma
Roblox ejecuta múltiples sistemas algorítmicos, desde la moderación automática de texto e imágenes mediante IA, la recomendación personalizada de experiencias, la detección de contenido inapropiado hasta la supervisión de la economía virtual (robux). Roblox utiliza sistemas de moderación automatizada de contenido, de detección de comportamiento abusivo, de recomendación personalizada y de clasificación de usuarios según cumplimiento de normas.
Análisis desde la Quíntuple Hélice
- Gobierno
Roblox Corporation es una empresa estadounidense de desarrollo de videojuegos cuya sede principal se encuentra en San Mateo, California. Fue fundada en 2004 por David Baszucki y Erik Cassel, y se especializa en la plataforma de juegos en línea del mismo nombre, lanzada en 2006. A nivel mundial opera bajo múltiples marcos regulatorios20, COPPA (EE.UU.), GDPR (UE) y Ley de Servicios Digitales (DSA, Reglamento (UE) 2022/2065), AI Act (UE), UK Online Safety Act (2023), UK Age Appropriate Design Code (Children’s Code). La plataforma utiliza sistemas de moderación automatizada, sistemas de recomendación y herramientas de detección automática de comportamiento que podrían encuadrarse en sistemas de “alto riesgo” conforme el esquema de la AI Act, porque optimiza engagement de un grupo vulnerable, incentiva su permanencia y explota la vulnerabilidad evolutiva. Roblox presenta numerosas áreas estructurales de tensión regulatoria que, bajo una interpretación estricta orientada a derechos fundamentales de la infancia, requiere la formalización de mecanismos de gestión de riesgos robustos, transparencia adaptada, reportes periódicos y supervisión humana efectiva. En este sentido nos preguntamos ¿Roblox publica una evaluación estructurada de impacto en derechos fundamentales conforme al estándar europeo? Hasta donde es público, no existe un child fundamental rights impact assessment formal conforme AI act.
20 Véase Principios Rectores sobre las Empresas y los Derechos Humanos (Oficina del Alto Comisionado de las Naciones Unidas para los derechos Humanos, 2011).
- Marcos Regulatorios y Obligaciones de Diseño Algorítmico para Roblox.
| Marco regulatorio / Código | Obligación concreta de diseño algorítmico o de seguridad | Fundamento normativo o guía | Aplicación práctica a Roblox |
|
COPPA (EE. UU.) |
Consentimiento verificable parental para menor de 13 años antes de recolectar datos personales. |
Ley de Protección de la Privacidad en Línea para Niños (COPPA):
consentimiento parental verificable antes de cualquier recolección de datos personales de menores <13 años. |
Roblox debe implementar controles de consentimiento parental verificable antes de recolectar o procesar datos de usuarios <13 años (inclusive en IA de moderación y verificación de edad). |
|
GDPR + Age Appropriate Design Code (Reino Unido) |
Privacidad por defecto y mínima recolección de datos, sin técnicas de diseño manipuladoras para menores; DPIs fuertes en servicios con usuarios <18 años. |
Age Appropriate Design Code
(Children’s Code) exige privacidad máxima por defecto, datos estrictamente necesarios y restricción de técnicas de “nudge” que debiliten privacidad. |
Roblox debe asegurar que sus sistemas algorítmicos no recolecten ni compartan datos infantiles en exceso, que los parámetros de recomendación no usen técnicas listas para “engagement” sin opt-in, y que todas las funciones estén en “high privacy”
por defecto. |
| Marco regulatorio / Código | Obligación concreta de diseño algorítmico o de seguridad | Fundamento normativo o guía | Aplicación práctica a Roblox |
|
UE Digital Services Act (DSA) |
Gestión de riesgos, transparencia de algoritmos y seguridad específica para menores. |
DSA obliga a plataformas a publicar métricas, mecanismos de apelación y medidas apropiadas de protección de menores basadas en riesgos. | Roblox debe tener sistemas de evaluación continua de riesgos para menores (especialmente en moderación y recomendación algorítmica) y procedimientos explicativos y apelables adaptados a infancia. |
|
Guías de la Comisión Europea sobre protección de menores online (DSA) |
Métodos de verificación de edad robustos, no discriminatorios, proporcionales y no intrusivos. |
Guías de la CE alambradas bajo Artículo 28(1) DSA recomiendan age assurance fiable y ético, respetando derechos del niño. | Cualquier sistema de verificación de edad (IA o biométrico) usado por Roblox debe ser proporcional, no discriminatorio, seguro y con control de privacidad adecuado. La crítica pública reciente muestra fallos en esta materia. |
|
UK Online Safety Act |
Obligación de supervisión de contenido dañino y protección de menores frente al riesgo de material dañino. | Online Safety Act 2023 crea deber de diligencia para plataformas accesibles a menores con evaluación de riesgos y medidas húmedas de protección. | Roblox deberá implementar medidas específicas para bloquear contenido dañino y contactos peligrosos (hateful, sexual explícito, autolesión), y optimizar sus algoritmos para minimizar exposición. |
|
Ley de Enmienda de Seguridad en Línea (Australia) |
Medidas razonables para evitar que menores accedan a plataformas sin controles de edad. |
Amendments impone obligación de evitar que menores <16 años tengan cuentas activas sin mecanismos. |
Roblox está adaptando sus sistemas para cumplir con estos requisitos en ciertos países; esto incluye age gating mínimo, controles para cuentas verificadas y limitaciones de funciones si no se verifica edad. |
| Tendencias regulatorias | Prohibir feeds personalizados | La OCDE indica que algunos países | Roblox podría necesitar rediseñar su algoritmo de |
| Marco regulatorio / Código | Obligación concreta de diseño algorítmico o de seguridad | Fundamento normativo o guía | Aplicación práctica a Roblox |
| (OECD
ageassurance) |
excesivos para menores; asegurar edad antes de suministro de contenido de riesgo. | consideran prohibir contenido o feeds algorítmicos a menores sin age assurance fuerte. | recomendación para que no mantenga a menores en feeds personalizados sin robusta verificación de edad o controles específicos. |
- Industria
Roblox en sus documentos declara aplicar “safety by design”, lo cual no parece tener eficacia en la práctica en virtud de las numerosas denuncias de usuarios y ONGs relacionadas con situaciones violentas, lesivas y delictuales.
Con relación a su reglamentación interna Roblox ha publicado varios papers, entre ellos: Roblox Comunisty Standards21; Safety & Civility Initiative22; Transparency Reports (semestrales)23; herramientas de control parental24 y sistemas automatizados de moderación25, a los que se le suman el actual sistema de identificación biométrica de control de edad26. En sus documentos públicos, Roblox afirma utilizar sistemas de IA combinados con revisión humana para detectar grooming, discurso de odio y contenido sexual. No obstante, no publica evaluaciones completas de impacto en derechos del niño comparables a los estándares exigidos por UNICEF. En el último tiempo se han presentado una cataratas de problemas vinculados con conductas inapropiadas, contenido ilícito y hasta la comisión de delitos27. Asimismo, la OCDE exige accountability basada en el rol del actor en el ciclo de la vida del sistema, y Roblox cumple formalmente pero en la práctica esta eficacia es discutible. El aspecto más problemático del modelo de negocio de Roblox desde una perspectiva ética es la combinación de economía virtual (Robux), sistemas de loot box y diseño de interfaz orientado a maximizar la permanencia y el gasto.
21 https://about.roblox.com/community-standards
22 https://en.help.roblox.com/hc/en-us/articles/4407444339348-Safety-Civility-at-Roblox
23 https://about.roblox.com/transparency
24 https://en.help.roblox.com/hc/es/articles/30428310121620-Resumen-de-los-controles-parentales
25 https://en.help.roblox.com/hc/es/articles/21416271342868-Moderaci%C3%B3n-de-contenido-en-Roblox
26 https://en.help.roblox.com/hc/es/articles/4407282410644-Verificaci%C3%B3n-de-identificaci%C3%B3n
27 https://www.infobae.com/sociedad/2025/09/04/alerta-por-los-casos-de-grooming-en-roblox-el-no-converses-con-extranos-no-es-suficiente/?gad_source=1&gad_campaignid=20993778607&gbraid=0AAAAADmqXxQM9m8kOlS_2hvxGb 8g6K9YY&gclid=CjwKCAiAnoXNBhAZEiwAnItcG_6fU_XDsAAHtGhMwK-bAfa8cXmI3J2ww1GbwG4bZGqJQaYrSAGKDxoC1m0QAvD_BwE
- Academia
La investigación académica ha documentado los riesgos asociados a Roblox como plataforma de juego en la infancia. Los riesgos están relacionados con la posibilidad de comisión del delito de grooming, el impacto de economías virtuales en el comportamiento infantil que pueden llevar a la adicción así como las dinámicas de monetización infantil digital. La academia cumple un rol muy importante en la defensa de los derechos de la infancia en el ecosistema digital, pero con relación a Roblox las advertencias ex -post han llegado demasiado tarde. A partir de la elaboración doctrinaria de documentos donde se ponen en evidencia los peligros que significan las redes sociales en la infancia se está comenzando a trabajar en la elaboración de guías de prevención o buenas prácticas para que la intervención ex -ante y garantice la seguridad de los niños, niñas y adolescentes en el ecosistema digital28. “Roblox is not just a game; it is a datafied one… behavioral profile-based content recommendations… lack of explainability in moderation can violate GDPR’s transparency principles…” 29 “The vulnerability of children in digital environments requires that their data and interactions be governed with special safeguards… commercial profiling must prioritize children’s best interests.”30 “Persistent concerns about unmoderated interactions, cyberbullying, and abuse show that automated systems often fail to adequately protect young users.” 31
28 https://www.researchgate.net/publication/391173687_AI_Moderation_and_Legal_Frameworks_in_Child-
Centric_Social_Media_A_Case_Study_of_Roblox https://arxiv.org/abs/2405.02050?
31 https://www.mdpi.com/2075-471X/14/3/29
- ONGs
El rol de las ONG en el caso de Roblox ha sido muy importante para concientizar y denunciar casos de grooming32, explotación económica infantil, ciberacoso, deficiencias en la moderación y exposición a contenido inapropiado. Su rol es estructural ya que visibiliza el daño, trabaja en campañas preventivas y tracciona políticas públicas para convertirlas en propuestas normativas. Existen numerosas organizaciones que promueven la seguridad en Internet para niños, niñas y adolescentes, como Familiy Online Safety Institute (FOSI), Children International, Insafe, ChilsafeNet, Grooming Argentina, Child Online Protection Initiative (COP); Children Online Protection Lab; entre otras. Estas organizaciones trabajan identificando y promoviendo buenas prácticas, herramientas y métodos para proteger a los menores en entornos digitales. Grooming Argentina33 por ejemplo, desempeña un rol fundamental en el país y en América latina, en la prevención y abordaje de la violencia sexual contra niñas, niños y adolescentes en el entorno digital, mediante el desarrollo de programas, acciones y herramientas orientadas a su protección integral. A través de capacitaciones, campañas de concientización, desarrollo tecnológico y articulación con organismos públicos, instituciones educativas y actores del sector tecnológico, la organización impulsa una respuesta sistemática destinada a reducir los riesgos, fortalecer la prevención y proteger los derechos de niñas, niños y adolescentes en el ecosistema de Internet. También ha participado activamente señalando vacíos y brechas en la protección que plataformas como Roblox no están cubriendo adecuadamente. Grooming Argentina ha participado, por ejemplo en el diseño de la guía sobre seguridad en plataformas digitales para familias y comunidades argentinas 34.
32 https://www.lanacion.com.ar/comunidad/es-un-secuestro-emocional-como-operan-los-pedofilos-que-captan-ninos-en-los-juegos-en-red-nid14112025/?gad_source=1&gad_campaignid=21130556370&gbraid=0AAAAAqsW-fr9X3GUCUcd8biesUZSRu449&gclid=CjwKCAiAnoXNBhAZEiwAnItcG2BRm0I8Qs13LTU_qvXGkV7z Ckw7NNzraOmnPDKQZuJQqzm3x1ukwxoC6Q0QAvD_BwE
33
34 https://www.groomingarg.org/wp-content/uploads/2025/02/GUIA-ROBLOX%E2%80%93GROOMING-ARGENTINA.pdf
- Individuo (niño)
En roblox el niño, niña o adolescente es simultáneamente usuario, productor de contenido, consumidor y objeto de perfilado. La normativa internacional mencionada y en particular la declaración conjunta que trabajamos, exigen que los sistemas no fomenten vinculaciones emocionales no sanas con la IA. En la plataforma la dinámica de gamificación y monetización generan incentivos conductuales muy fuertes. En la infancia y la adolescencia la hiperconectividad es una causa importante de estrés y dependencia digital. Cada día se les hace más difícil descansar sus mentes, relajar sus cuerpos y dedicar tiempo a actividades recreativas al aire libre. El exceso y la periodicidad ilimitada de notificaciones impacta negativamente en el desarrollo neuronal, ya que la atención dividida en múltiples tareas modifica la capacidad de concentración para el análisis y comprensión de textos. Entonces, comienzan a desarrollarse, en donde antes no existían, trastornos de estrés y ansiedad en la vida de los niños y adolescente, quienes sienten angustia al estar “off line”, a no ser reconocidos por sus pares en el ecosistema digital o a tener “miedo a perderse algo”. Cuando existe un abuso en el uso de la tecnología, de forma que puede afectar la salud y perder la conexión con el mundo real, es necesario advertir la presencia de una posible patología de adicción e intervenir de forma urgente. Como tal, resulta complejo que el adicto a las redes se considere como tal y pida ayuda, por lo cual los progenitores y referentes afectivos deberán estar alertas a las señales de riesgo que indiquen que se está en presencia de una posible adicción, como por ejemplo fracaso escolar, trastornos de conducta, pérdida de la capacidad de control, rechazo de la imagen corporal, déficit de atención o hiperactividad, fobia social u hostilidad social. La adicción se basa en la satisfacción inmediata y constante de la sensación de placer por la gratificación inmediata.
Problemas éticos identificados y principios comprometidos
|
Problema identificado |
Descripción estructural del problema | Principios de la Declaración sobre IA y Derechos del Niño comprometidos |
Principios OCDE
comprometid os |
Principios éticos (Floridi) comprometid os | Nivel de riesgo ético estimad o |
| Grooming y explotación infantil | Limitaciones de los sistemas automatizados | Protección frente a violencia y | Robustez, seguridad y | No maleficencia. | Alto |
|
Problema identificado |
Descripción estructural del problema | Principios de la Declaración sobre IA y Derechos del Niño comprometidos |
Principios OCDE
comprometid os |
Principios éticos (Floridi) comprometid os | Nivel de riesgo ético estimad o |
| de moderación frente a conductas evasivas, contacto adulto-menor y manipulación en entornos persistentes. | explotación; interés superior del niño. | protección;
accountability. |
|||
|
Economía virtual infantil |
Incentivos económicos (robux) que pueden fomentar dinámicas de trabajo digital temprano, monetización de creatividad infantil y exposición a presión competitiva. |
Protección frente a explotación económica; desarrollo integral del niño. |
Crecimiento inclusivo y bienestar. |
Justicia; beneficencia. |
Medio–Alto |
|
Opacidad algorítmica en sanciones |
Falta de explicabilidad adaptada a la edad sobre bloqueos, suspensiones o restricciones derivadas de decisiones automatizadas. |
Transparencia accesible al niño; mecanismos de recurso efectivos. |
Transparencia y explicabilidad; |
Explicabilidad y autonomía. |
Medio |
| Sesgo en sistemas de moderación | Posible penalización desproporcionad a de expresiones culturales o
lingüísticas no |
No discriminación; igualdad de trato. | Human-centred values and fairness. |
Justicia. |
Medio |
|
Problema identificado |
Descripción estructural del problema | Principios de la Declaración sobre IA y Derechos del Niño comprometidos |
Principios OCDE
comprometid os |
Principios éticos (Floridi) comprometid os | Nivel de riesgo ético estimad o |
| mayoritarias debido a datasets limitados o mal calibrados. | |||||
|
Agregación de sanciones automatizada s |
Efectos acumulativos de bloqueos y restricciones que pueden generar exclusión estructural sin evaluación proporcional individualizada. |
Debido proceso adaptado a menores; proporcionalida d. |
Accountability y gestión de riesgos. |
Justicia; autonomía. |
Medio |
|
Recomenda-ción optimizada por engagement |
Algoritmos diseñados para maximizar permanencia y participación, con posible explotación de vulnerabilidad evolutiva infantil. |
Protección frente a explotación de vulnerabilidades por edad. |
Bienestar; valores centrados en el ser humano. |
No maleficencia; autonomía. |
Medio–Alto |
|
Asimetría estructural de poder |
Menores perfilados algorítmicamen-te sin capacidad real de comprensión, impugnación o participación significativa en decisiones que les afectan. |
Participación significativa del niño; protección reforzada. |
Accountability; equidad. |
Autonomía. |
Medio |
- Clasificación analítica por tipo de riesgo en la gobernanza algorítmica de Roblox
| Tipo de riesgo | Manifestación en la plataforma | Naturaleza del riesgo | Actor principal involucrado (Quíntuple Hélice) | Tensión normativa central |
| Riesgo de seguridad física | Grooming y contacto adulto-menor | Directo | Industria + Gobierno | Protección reforzada de la
infancia |
| Riesgo psicológico | Incentivos de engagement persistente | Indirecto | Industria | Explotación de vulnerabilidad |
| Riesgo económico | Monetización de
contenido creado por menores |
Sistémico | Industria | Justicia distributiva |
| Riesgo procedimental | Opacidad en decisiones automatizadas | Estructural | Industria | Transparencia y debido proceso |
| Riesgo de discriminación | Sesgo lingüístico o cultural | Estadístico | Industria + Academia | Igualdad y no discriminación |
| Riesgo de normalización algorítmica | Interiorización de métricas y adaptación estratégica | Cultural | Todos los actores | Autonomía evolutiva |
| Riesgo de gobernanza | Ausencia de evaluación pública formal de impacto en derechos del niño | Regulatorio | Gobierno + Industria | Gestión estructurada del riesgo |
Recomendaciones
Luego del análisis de las políticas internas de la plataforma Roblox y de la normativa internacional de protección de la infancia en el ecosistema digital y de las normas de soft law relacionadas con la aplicación de IA en la infancia, podemos concluir que en la plataforma analizada en su diseño con cumple con el enfoque basado en los derechos del niño.
No existen evaluaciones, auditorias e informes periódicos que representen un compromiso ético serio con la protección de la infancia por parte de Roblox. La economía virtual que propone la plataforma introduce fuertes tensiones estructurales, la protección depende fuertemente de automatizaciones imperfectas que no ponen el foco en la protección de los derechos de la infancia. La evidencia demuestra35 que Roblox ha fallado en sus herramientas de supuesta protección y moderación de contenido.
Asimismo, con relación a la verificación de la edad de los niños para acceder a las plataformas existe una tensión no resuelta entre la protección de menores y el derecho a la privacidad (uso de datos biométricos para verificar edad), que las normas internacionales reconocen pero no resuelven operativamente. El método de utilización de datos biométricos de Roblox que se ofreció como solución a la catarata de críticas por los sucesos de violencia sexual que tuvieron lugar en la plataforma no resuelve la tensión.
Como recomendación también se sugiere la implementación de publicación semestrales de Child Rights Impact Assessments, incorporar el principio del interés superior del niño como criterio jerárquico en el diseño algorítmico a los efectos de priorizar la seguridad y el bienestar de la infancia por sobre engagement en modelos de recomendación; establecer métricas de bienestar infantil, no solo métricas de retención.
En este caso se pueden establecer alertas de tiempo de juego en línea o recomendaciones de tiempo en pantalla, auditorías externas independientes para evaluar el impacto psicológico del diseño gammificado, supervisión humana reforzada, comunicación directa e inmediata de situaciones dudosas donde se pueda dar intervención a los organismos estatales correspondientes o bien a través de las ONG´s que articulan como canales de denuncia, y participación infantil en gobernanza para conocer tácticas y estrategias que manejan como lenguaje del juego. Asimismo, se pueden incorporar salvaguardas para garantizar entradas y salidas apropiadas para la edad, la implementación de clasificadores de contenido dañino y la verificación de casos de uso específico para niños, incluso mediante pruebas adversas.36
En este último caso resulta fundamental garantizar el acceso a una justicia rápida y adaptada a la infancia que brinde recursos efectivos para reparar las violaciones de los derechos de los niños, niñas y adolescentes resultante de actividades realizadas dentro de la plataforma.37
35 https://www.bbc.com/news/uk-england-gloucestershire-68616730
https://defensoriacatamarca.com.ar/noticias/grooming-roblox https://medios.unne.edu.ar/2025/11/11/41487-szuxbc/ https://agencia.unq.edu.ar/?p=32446
https://elpais.com/opinion/2025-08-23/roblox-patio-de-juegos-de-depredadores-sexuales.html
36 Método para evaluar sistemáticamente un modelo de aprendizaje automático con el fin de saber cómo se comporta cuando se le proporciona información perjudicial para la privacidad, seguridad y toda la gama de los derechos del niño.
37 Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (2024).
Finalmente, las plataformas como Roblox operan globalmente mientras que la regulación es nacional, creando asimetrías que las empresas pueden explotar.
Roblox aplica controles más estrictos en Europa (bajo el DSA) que en otras regiones lo que produce una fragmentación regulatoria que contradice directamente el espíritu universalista de la Declaración UNICEF/ONU y todo el conjunto de normativa internacional aplicable y favorece la continuidad del negocio sin considerar el bienestar de la infancia.
Conclusiones
Roblox representa un caso paradigmático de gobernanza algorítmica blanda en entornos infantiles. La ética no fracasa por la complejidad técnica, sino cuando la coherencia entre los actores de la hélice se debilita. En plataformas infantiles, la IA no es solo tecnología, la responsabilidad de las empresas tecnológicas de respetar los derechos del niño es un puente para lograr resultados de bienestar en el desarrollo de la infancia dentro del ecosistema digital. El uso de la tecnología implica un salto de calidad en las relaciones intersubjetivas porque permiten exponenciar las capacidades de desarrollo, innovación y superación.
La tecnología desarrolla una capa más de vulnerabilidad en los grupos ya pertenecientes a minorías protegidas. Los niños, niñas y adolescentes deben ser reconocidos como un grupo hipervulnerable frente al desarrollo tecnológico y deben desarrollarse mecanismos de tutela efectiva y diferenciada para el acceso a la justicia y a la garantía de la satisfacción de sus derechos fundamentales en condiciones de igualdad y libertad. Los niños, niñas y adolescentes experimentan en internet un lugar donde desarrollar sus habilidades sociales, educacionales, culturales y de ocio. No todos los niños, niñas y adolescentes tienen el mismo derecho de acceso a la herramienta tecnológica en virtud de las barreras existentes en la sociedad Argentina que impide que todos los niños gocen en forma igualitaria del acceso al desarrollo científico. Asimismo, el ecosistema digital constituye una red de riesgos y amenazas latentes para los niños, que se encuentran en pleno desarrollo de su personalidad.
La criminalidad cambió de lugar y hoy se expande en el ecosistema digital como una sombra al acecho de los niños, niñas y adolescentes. El uso intensivo de juegos en línea, redes sociales u aplicaciones en internet podría desarrollar patologías adictivas y daños a la salud física e intelectual. Timidez exagerada, baja autoestima, rechazo de la imagen corporal, trastornos psiquiátricos, depresión, déficit de atención, hiperactividad, insomnio, fobia social u hostilidad. Los responsables de cuidado de los niños, niñas y adolescentes deben cumplir el rol activo de supervisión y de alfabetización digital para un uso responsable y sano del ecosistema digital. La CDN es el marco convencional de referencia para que el Estado priorice el interés superior del niño para el diseño de las políticas públicas de prevención y eliminación de todas las formas de violencia digital contra los niños, niñas y adolescentes. El sistema educativo es el eslabón fundamental para empoderar a los niños con las herramientas necesarias para conocer riesgos y beneficios, detectar alarmas, comprender situaciones, y lograr desarrollar herramientas de reacción temprana frente a las situaciones de peligro y violencia. La industria tecnológica tiene la responsabilidad de desarrollar productos y servicios que garanticen la protección de los niños mediante contenidos, permisos, controles y supervisión parental, filtros, consentimientos y programas de concientización sobre el uso responsable de las TICs.
Reconocer los derechos digitales de la infancia es construir herramientas de interpretación para proteger y garantizar los derechos fundamentales de los niños. En síntesis, así como los crímenes de guerra incentivaron el desarrollo de instrumentos internacionales de derechos humanos vinculantes en el S XX, el avance de la IA requiere el consenso universal y la elaboración de nuevas normas mundiales que vinculen a los países de forma generalizada reconociendo derechos digitales que de forma trasversal no dependan de regulaciones internas o regionales.
Roblox representa el arquetipo de empresa que adopta el lenguaje ético corporativo sin transformar sus modelos de negocio fundamentales, ilustrando el riesgo del ethics washing en la gobernanza de la IA. La fragmentación regulatoria entre jurisdicciones genera arbitraje normativo que las empresas globales pueden explotar, contradiciendo los principios de universalidad consagrados en la Convención sobre los Derechos del Niño. La participación infantil en el diseño y gobernanza de sistemas de IA permanece en la fase más declarativa e incipiente, representando simultáneamente la mayor brecha y el mayor potencial transformador del marco normativo.
Con relación a los Estados es imprescindible trabajar en Adoptar legislación sectorial que convierta las principales recomendaciones de la Declaración UNICEF/ONU en obligaciones jurídicas vinculantes, con sanciones proporcionales al daño y a la capacidad económica de las empresas. Por otro lado, también es imperante desarrollar marcos de cooperación regulatoria internacional que prevengan el arbitraje normativo entre jurisdicciones, utilizando como modelo la colaboración entre la FTC y la Comisión Europea en materia de privacidad. Finalmente, se deberá financiar investigación independiente sobre los efectos de los algoritmos de recomendación sobre la salud mental infantil, eliminando la asimetría de información que actualmente beneficia a las empresas frente a reguladores y sociedad civil. Todos los actores de la Quíntuple Hélice somos responsables de construir una red de protección y contención de la infancia y una labor continua de acompañamiento y educación, que permita el desarrollo sano de la personalidad del niño en el ecosistema digital. Asumir la responsabilidad preventiva universal es una obligación impuesta por la propia humanidad que reconoció en la infancia la llave misma de su propia existencia38.
38 Salierno, Karina V. Derechos digitales de la infancia, Ed. Astrea, Buenos Aires, 2024.
Referencias bibliográficas:
Alpa, Guido, “I problemi giuridici di Internet”, coordinado por Emilio Tosi, Giuffrè, 1999. Arnaud, André-Jean y otros, Aspectos Constitucionales y Derechos Fundamentales de la Familia, Bogotá, Universidad Externado de Colombia, 2001, p. 60.
Aylward, Carol, “Intersectionality: Crossing the Theoretical and Praxis Divide”, en Journal of Critical Race Inquiry, Vol 1, Nº 1
Bahareh, Keith, Department of Pediatrics, University of Florida College of Medicine, Gainesville Randall Children’s Hospital at Legacy Health, Portland, Oregon, Center on Children and Families, University of Florida Levin College of Law, Gainesville, disponible en https://jamanetwork.com/journals/jamapediatrics/article-abstract/2613405
Basterra, Marcela I., Derecho a la información vs. Derecho a la intimidad, Santa Fe, Rubinzal-Culzoni, 2012.
Beloff, Mary, Presentación al libro Derecho, infancia y familia, Barcelona, Gedisa, 2000, p. 11.
Bidart Campos, Germán J., Manual de la Constitución reformada, T. I, y T. II, 1ra reimp., Buenos Aires, Ediar, 1998.
Bidart Campos, Germán J., “Familia y Derechos Humanos” en Las transformaciones constitucionales en la posmodernidad, Buenos Aires, Ediar, 1999, p. 85 y ss.
Bidart Campos, Germán J., Tratado elemental de Derecho Constitucional argentino, Buenos Aires, Ediar, 2001, t. I-B, p. 51.
Borda, Guillermo A., Tratado de Derecho Civil, T. 1, 20 ed. Buenos Aires, Abeledo- Perrot, 2006.
Bourzac, Katherine, “Sacando provecho del poder de la persuasión”, MIT Technology Review, disponible en https://www.technologyreview.es//s/1468/sacando-provecho-del-poder-de-la-persuasion.
Cardona Llorens, Jorge, “La Convención de los derechos del niño: significado, alcance y nuevos retos” en Nuria González Martín (Coord.), Temas de actualidad jurídica sobre la niñez, Porrúa, México, 2012, p. 2.
Castells, Manuel, La era de la información, Vol. I: “La sociedad Red”, México DF, Siglo XXI, 2002.
Cifuentes, Santos, Derechos personalísimos, 2da ed. Buenos Aires, Astrea, 1995.
Cillero Bruñol, Miguel, “Los derechos del niño: de la proclamación a la protección efectiva”, en Justicia y Derechos del Niño, Nº 3, UNICEF, Buenos Aires, 2001, p. 50.
Cobo, Cristóbal, Acepto las condiciones. Usos y abusos de las tecnologías digitales, Madrid, Fundación Santillana, 2019, p. 39.
De Cucco Alconada, María del Carmen, El derecho a la imagen y las redes sociales, 12 de Marzo de 2018, www.saij.gob.ar, Sistema Argentino De Información Jurídica, Id SAIJ: DACF180045, disponible en http://www.saij.gob.ar/maria-carmen-cucco-alconada-derecho-imagen-redes-sociales-dacf180045-2018-03-12/123456789-0abc-defg5400-81fcanirtcod.
De J. Finkelstein, traducido por Mikel Salazar González, basado en File: Maslow's hierarchy of needs.svg, de J. Finkelstein, CC BY-SA 3.0, https://commons.wikimedia.org/w/index.php?curid=2696674
Del Carril, Enrique H., “El derecho a la extimidad (la protección constitucional en época de redes sociales)”, en FORUM: Revista del Centro de Derecho Constitucional de la Facultad de Derecho de la Pontíficia Universidad Católica Argentina, Nº 11, 2021, pp. 27-68.
Domínguez, Andrés Gil, Fama, María Victoria, Herrera, Marisa, Derecho Constitucional de Familia, T. I y II, Buenos Aires, Ediar, 2012.
Dworkin, Ronald, “El Liberalismo”, en Liberalismo, constitución y democracia, Buenos Aires, La Isla de la Luna, 2003, p. 30.
Faliero, Johanna C., El derecho al anonimato: revolucionando el paradigma de protección en tiempos de la posprivacidad, Buenos Aires, Ad-Hoc, 2019.
Fernández Sessarego, Carlos, Derecho a la identidad personal, Buenos Aires, Astrea, 1992, P. 113.
Gil Domínguez, Victoria Famá, Andrés, María y Herrera, Marisa, Derecho Constitucional de Familia, T. I, Buenos Aires, Ediar, 2012.
Giones-Valls, Serrat-Brustenga, textos universitaris de biblioteconomia i documentació. Recuperado el 22 de febrero de 2017, de http://bid.u b.edu/24/ gione s2.htm (junio de 2010). Góngora Mera, Manuel Eduardo, “Derecho a la salud y discriminación interseccional: Una perspectiva judicial de experiencias latinoamericanas,” en Laura Clérico, Liliana Ronconi y Martín Aldao (eds.), Tratado de Derecho a la Salud, Buenos Aires, Abeledo Perrot, 2013, ps. 133-159.
González García, Erika y Martínez Heredia, Nazaret, “Personas mayores y TIC: oportunidades para estar conectados, Facultad de Ciencias de la Educación de la universidad de Granada”, en https://eduso.net/res/revista/24/miscelanea/personas-mayores-y-tic-oportunidades-para-estar-conectados
Grosman, Cecilia O., “Significado de la Convención sobre los Derechos del Niño”, LL 1993-B-109.
Grosman, Cecilia P (dir.), videtta, Carolina A., (coord.) Los derechos personalísimos de niñas, niños y adolescentes. En especial sus derechos a la salud y al cuidado de su propio cuerpo. T.I y II, Rubinzal Culzoni, Santa Fe, 2019.
Grosman, Cecilia P (dir.), videtta, Carolina A., (coord.) Responsabilidad Parental. Derecho y realidad. Una perspectiva psico-socio-jurídica, Santa Fe, Rubinzal-Culzoni, 2020.
Hernández Sampieri, Roberto, Fernández-Collado, Carlos, y Baptista Lucio Pilar, Metodología de la investigación, México, McGraw Hill, 2006, pp. 3, 33 y 523.
Herrera, Marisa, “Ensayo para pensar una relación compleja: sobre el régimen jurídico de la capacidad civil y representación legal de los niños, niñas, adolescentes desde el principio de autonomía progresiva en el derecho argentino”, en Justicia y Derechos del Niño, Buenos Aires, Nº 11, p. 107.
Himitian, Evangelina, “Desvelados: por las series, casi el 75% de los porteños le quita horas a su descanso”, disponible en https://www.lanacion.com.ar/sociedad/desvelados-por-las-series-casi-el-75-de-los-portenos-le-quita-horas-a-su-descanso-nid2049892/.
Kelmelmajer de carlucci, Aída, Molina de Juan Mariel, F. (coord.) Paradigmas y desafíos del derecho de las familias y de la niñez y adolescencia, Santa Fe, Rubinzal- Culzoni, 2019. Kemelmajer de carlucci, Aída, Borrillo, Daniel A., Rodríguez, Jesús F. (coord.), Nuevos Desafíos del Derecho de Familia, Santa Fe, Rubinzal-Culzoni, 2014.
Kemelmajer de Carlucci, Aída, Herrera, Marisa, Lloveras, Nora (dir.), Tratado de Derecho de Familia según el Código Civil y Comercial de 2014, T. II, Santa Fe, Rubinzal-Culzoni, 2014.
Krasnow, Adriana N., Iglesias, Mariana, Familia y Sucesiones contexto jurisprudencial y doctrinario del Código Civil y Comercial, Buenos Aires, Thomson Reuters-La Ley, 2017. Lasarte Álvarez, Carlos, “La capacidad de obrar del menor”, en La capacidad de obrar: edad y emancipación de menores, María Paz Pous de la Flor, Rosa Lonsegui, Guillot A., Fátima Yañez Vivero (coords), p. 10.
Levi Straus, Claude, La identidad, España, Ediciones Petrel, 1891, p. 7.
Luengo, J. A., Ciberbullying. Prevenir y actuar. Madrid, Colegio Oficial de Psicólogos de Madrid, 2014, p. 54.
Martínez Pérez, María Dolores, Derecho a la propia imagen en redes sociales: fotografías y vídeos personales, en https://sinderiza.com/derecho-a-la-propia-imagen/.
Mayor del Hoyo, María Victoria (dir.), El nuevo régimen jurídico del menor, la reforma legislativa de 2015, Ed. Thomson Reuters, Aranzadi, Pamplona, 2017.
Medina, Graciela, “artículos 401 a 723”, en Código Civil y Comercial de la Nación Comentado, Julio César Rivera, Graciela Medina (dir.) y Mariano Esper (coord.), T. II, Buenos Aires, Thomson Reuters-La Ley, 2014, p. 502.
Mender Bini, Susana Eloísa, “Privacidad y protección de datos personales. Tratamiento de sus vulnerabilidades en los Estados Unidos, Argentina y la Unión Europea (sesgos, fortalezas y similitudes en su legislación y jurisprudencia)”, en El Derecho Diario, T. 288, 2020, ED-CMXXI-637.
Mosset Iturraspe, Jorge y Piedracasas, Miguel, Código Civil anotado. Responsabilidad Civil, Santa Fe, Rubinzal-Culzoni, 2005, p. 65.
Nieto, María Bibiana, Derecho a la intimidad del niño, Buenos Aires, El Derecho, 2020. Nikken, Pedro, Los sistemas internacionales de protección de los derechos humanos: la perspectiva de acceso a la justicia y la pobreza, en “Ponencia presentada en el XXVI Curso Interdisciplinario en Derechos Humanos, Instituto Interamericano de Derechos Humanos”, San José, Costa Rica, 18 al 29 de agosto de 2008. En: https://www.corteidh.or.cr/tablas/r23706.pdf.
Nino, Carlos, Ética y derechos humanos, un ensayo de fundamentación, 2ed. ampliada y revisada, Buenos Aires, Astrea, 1989, p. 1.
Novella Camara, Ana María, “La participación infantil: concepto dimensional en pro de la autonomía ciudadana”, en TESI, Teoría de la Educación. Educación y Cultura en la Sociedad de la información, 2012-13 (2), pp. 380-403.
Nussbaum, Martha Craven, Crear capacidades. Propuesta para el desarrollo humano. Ed. Paidós, Barcelona, 2012.
Prensky, Marc, “Nativos e inmigrantes digitales”, adaptación al castellano del texto original “Digital Natives, Digital Immigrants”, en www.marcprensky.com
Rajmil, Alicia, Derechos humanos de los niños, niñas y adolescentes. Capacidad de ejercicio. Los derechos personalísimos. Derecho al propio cuerpo. Ponencia en “IV Congreso Argentino Latinoamericano de Derechos Humanos: Diálogos pluriculturales para la equidad”, Rosario, mayo 2013.
Rivera, Julio Cesar, “Derechos Personalísimos”, en Instituciones de Derecho Civil. Parte General, Buenos Aires, Abeledo Perrot, 2010, p. 125.
Rodríguez, Ángel, Integración europea y derechos fundamentales, Madrid, Civitas, 2001, p. 100.
Rosatti, Horacio, Derechos Humanos en la jurisprudencia de la Corte Suprema de Justicia de la Nación (2003-2013), Santa Fe, Rubinzal-Culzoni, 2013, p. 55.
Sales, Nancy Jo, American Girls Social Media and the Secret Lives of Teenagers, Vintange Books, Penguin Random House, New York, 2017, p. 9-10.
Salvioli, Fabián, El Sistema Interamericano de Protección de los Derechos Humanos. Instrumentos, órganos, procedimiento y jurisprudencia, México, Instituto de Estudios Constitucionales de Estado de Querétano, 2020, p. 14.
Sambrizzi, Eduardo A., Derecho de Familia. Responsabilidad Parental, Thomson Reuters, Buenos Aires, La Ley, 2017.
Santolaya Machetti, Pablo, El derecho a la vida familiar de los extranjeros, Valencia, Institut de Pret Public, 2004, p. 67 y ss.
Sunstein, Cass R., Choosing not to choose, understanding the value of choice, Oxford, Oxford University Press, 2015.
Tapscott, Don y Alex, La Revolución Blockchain, Barcelona, Planeta, 2017.
Tello, Lucía, “Intimidad y extimidad en las redes sociales. Las demarcaciones éticas de Facebook”, en Comunicar, Nº 41, v. XXI, Madrid, 2013, pp. 205-213.
Toller, Fernando M., “El carisma universitario en la promoción de los derechos fundamentales de la persona”, en Auctoritas Prudentium, Nº 5, Guatemala, 2011, pp. 5-29. Tomeo, Fernando, “Las redes sociales y su régimen de responsabilidad civil”, Buenos Aires, LL online, 2010, C, 1025, AR/DOC/3468/2010.
Ubeda de Torres, Amaya, Democracia y derechos humanos en Europa y en América. Estudio comparado de los sistemas europeo e interamericano de protección de los derechos humanos, Madrid, Reus, 2007, pp. 618-619.
Urra Portillo, Javier, “Niños y jóvenes sujetos de derechos y de deberes”, en La Declaración Universal de los Derechos Humanos en su 50 aniversario, Centro Internacional de Estudios Políticos, Bosch, Barcelona, 1998, p. 657.
Vaninetti, Hugo A., “Difusión no consentida de imágenes íntimas en Internet y las TIC. Acerca del revenge porn”, LL online, 2019-B-777.
Villagrasa alcaide, Carlos y Ravetllat Ballesté, Isaac (coords.) Los derechos de la infancia y de la adolescencia. Congresos mundiales y temas de actualidad, Ariel, Barcelona, 2009.
Warren, Samuel D. y Brandeis, Louis D., “The right to privacy”, en Harvard Law Review, vol. 4, Nº 5 del 15-12-1890, ps. 193-220.
Women´s rights Online: Translating Access into Empowerment, World Wide Web Foundation, 2015. https//webfoundation.org/research/womens-rights-online-2015/
World Economic Forum, The global Gender Gap Index 2015, World Economic Forum, 2015, http//wef.ch/1Mkpfot
Zuboff, Shoshana, “Big other: surveillance capitalism and the prospects of an information civilization”. Springer Link, Journal of Information Technology 30, Nº 1 (2015): 75-89. En https://link.springer.com/article/10.1057/jit.2015.5.
Zysman, María, Ciberbullying. Cuando el maltrato viaja en las redes, Buenos Aires, Paidós, 2017.
