Big Tech, diseño algorítmico y neuroderechos.
La demanda federal contra Meta desde la gobernanza ética de la IA
Karina Vanesa Salierno.
Porque si algo deja claro este caso es que el problema no es que las máquinas piensen, sino que nosotros dejamos de hacerlo de forma crítica.
Introducción
La demanda federal contra Meta constituye un hito jurídico que evidencia la crisis estructural de la gobernanza tecnológica contemporánea. El caso revela un modelo de negocio orientado a la maximización de la atención de NNA mediante diseños algorítmicos potencialmente adictivos y manipuladores1. Este escenario obliga a repensar el rol de las Big Tech no solo como actores económicos, sino como arquitecturas invisibles de poder cognitivo. Desde la perspectiva del derecho de la infancia, el problema no se limita a daños individuales, sino que remite a una vulnerabilidad estructural agravada por el entorno digital afecta directamente la autonomía progresiva del niño2.
Gobernanza ética y poder estructural de las Big Tech
La gobernanza ética de la IA, en términos de Floridi (2013), exige analizar los sistemas digitales como infraestructuras morales que configuran el entorno en el que se ejercen los derechos. Sin embargo, el caso Meta evidencia un fenómeno de cumplimiento formal de estándares sin modificación sustantiva del diseño. Como advierte el enfoque crítico del capitalismo de vigilancia (Zuboff, 2019), este modelo transforma la experiencia humana en materia prima para la predicción y modificación del comportamiento. En este contexto, la demanda demuestra que los sistemas de recomendación no son neutrales, sino que operan como dispositivos de ingeniería conductual, orientados a maximizar el engagement mediante refuerzos variables, notificaciones y personalización extrema .
Diseño algorítmico y afectación de la autonomía cognitiva
El eje central del conflicto reside en el diseño algorítmico. Los sistemas de Meta, al priorizar la retención de la atención, afectan los procesos cognitivos de los usuarios, especialmente en etapas de desarrollo. Desde la perspectiva de los neuro derechos (Yuste et al., 2021), estas prácticas pueden implicar riesgos sobre la libertad cognitiva, la privacidad mental y la identidad personal. Los algoritmos de recomendación determinan no solo qué contenidos se consumen, sino también la frecuencia y la intensidad de la exposición, configurando la experiencia digital del niño. Este fenómeno se vincula con la noción de “captura” identificada en el Children and AI Design Code3, donde el diseño digital explota la incapacidad de autorregulación de los niños.
Infancia, derechos humanos y vulnerabilidad estructural
La Observación General N.º 25 del Comité de los Derechos del Niño4 establece que los Estados deben garantizar que el entorno digital respete el interés superior del niño y no priorice intereses comerciales. Asimismo, advierte que el diseño de plataformas puede inducir comportamientos perjudiciales mediante notificaciones, perfilamiento y contenidos dirigidos. En el caso analizado, se configura una triple vulnerabilidad: a) biológica en razón del desarrollo neurológico en curso; b) cognitiva por la limitada capacidad crítica que posee el usuario y c) digital por la exposición a entornos diseñados para manipular.
Gobernanza colaborativa multisectorial y quíntuple hélice
El análisis desde la perspectiva de la gobernanza colaborativa multisectorial y de la quíntuple hélice nos permite identificar y distribuir responsabilidades: empresas (Big Tech), son las que deben implementar diseño ethics by design y evaluaciones de impacto; el Estado es el que debe regular y supervisar eficazmente con normativa que supere las recomendaciones de soft law; la sociedad civil, actúa mediante litigio estratégico (como la demanda contra Meta); la academia que produce marcos críticos neutrales y herramientas como el enfoque “child in the loop”5; finalmente, los individuos que requieren alfabetización digital que les permita desarrollar el pensamiento crítico frente a los avances de la tecnología.
Responsabilidad preventiva y vigilancia ética
El caso Meta refleja el fracaso de un modelo de responsabilidad expost. Desde el enfoque internacional de responsabilidad preventiva6 se impone la necesidad de evaluaciones ex ante de impacto en los derechos humanos, auditorías algorítmicas y supervisión humana continua. La vigilancia ética multisectorial se presenta como un mecanismo imprescindible para controlar sistemas de alto impacto, especialmente cuando afectan derechos fundamentales de niños y adolescentes.
Conclusión: Big Tech y neuroderechos
La demanda contra Meta pone sobre la mesa una nueva frontera jurídica la necesaria protección de la autonomía cognitiva en entornos digitales. La conexión entre Big Tech y neuro derechos es directa porque el diseño algorítmico afecta procesos mentales, la personalización extrema condiciona decisiones y el perfilamiento limita la construcción de identidad. Como advierte Balkin (2018), las plataformas digitales operan como “gobiernos privados” con capacidad de estructurar la libertad. En el caso de la infancia, esta capacidad adquiere una gravedad particular, el desafío es reconfigurar las herramientas del derecho para proteger la mente humana frente al poder algorítmico.
Referencias y notas:
1 Salierno, Karina V., (2024)Adicciones sin sustancias. A propósito de la demanda contra Meta. ¿EE.UU se despierta del letargo de la monstruosa creación?. Argentina. El Derecho, Derecho, Innovación y Desarrollo Sustentable, Número 17- Febrero 2024, Cita Digital: ED-V-CCCXLIL-708.
2 Salierno, Karina V. (2024) Derechos digitales de la infancia, Astrea, Buenos Aires.
3 5Rights Foundation (2025). Children and AI Design Code
4 United Nations Committee on the Rights of the Child (2021). General Comment No. 25
5 El Children’s Manifesto for the Future of AI evidencia que los propios niños demandan transparencia, regulación y participación en el diseño de sistemas que los afectan .
6 Este enfoque surge en teoría tanto de la la IA Act europea como de todas las normativas mosaico-internacionales.
Balkin, J. (2018). Free Speech in the Algorithmic Society. Yale Law Journal. https://openyls.law.yale.edu/entities/publication/c0cda4ec-a5a8-420f-9787-42cd70194016
Floridi, L. (2013). The Ethics of Information. Oxford University Press. https://academic.oup.com/book/35378
Salierno, K. V. (2024). Adicciones sin sustancias. A propósito de la demanda contra Meta. ¿EE. UU. se despierta del letargo de la monstruosa creación? Derecho, Innovación & Desarrollo Sustentable, 17(LXIII), 15-22. Cita digital: ED-V-CCCXLIX-708. https://www.elderechodigital.com.ar
UNICEF (2021). Policy Guidance on AI for Children. https://www.unicef.org/innocenti/media/1341/file/UNICEF-Global-Insight-policy-guidance-AI-children-2.0-2021.pdf
United Nations Committee on the Rights of the Child (2021). General Comment No.25 https://www.ohchr.org/en/documents/general-comments-and-recommendations/general-comment-no-25-2021-childrens-rights-relation
5Rights Foundation (2025). Children and AI Design Code. https://5rightsfoundation.com/resource/children-ai-design-code/
The Alan Turing Institute (2024). Children’s Manifesto for the Future of AI. https://www.turing.ac.uk/news/publications/childrens-manifesto-future-ai
Yuste, R., et al. (2021). NeuroRights Initiative. It´s time for Neuro Rights https://www.jstor.org/stable/48614119
Zuboff, S. (2019). The Age of Surveillance Capitalism. https://www.hbs.edu/faculty/Pages/item.aspx?num=56791
Salierno, K. V (2024). Derechos digitales de la infancia. Astrea
