El imperio de los datos sintéticos
Diez aspectos éticos de la inteligencia artificial generativa de video y los deepfakes sexuales en la infancia
Por: Karina Vanesa Salierno
Introducción
La inteligencia artificial generativa de video constituye la expresión más reciente y disruptiva del aprendizaje profundo. A partir de una instrucción textual o de una sola fotografía produce secuencias audiovisuales verosímiles que simulan personas y hechos inexistentes que denominamos datos sintéticos. Herramientas como Sora (OpenAI) o Veo (Google DeepMind), y aplicaciones de nudificación como la examinada en el caso UndressHer.app, democratizaron una capacidad tecnológica que antes estaba reservada a especialistas1. Cuando esa potencia tiene efectos negativos sobre niñas, niños y adolescentes (NNA) en forma de deepfakes sexuales no consentidos y de material de explotación sexual infantil sintético (CSAM), la disrupción tecnológica deja de ser meramente técnica para volverse, ante todo, ética y riesgosa para la infancia. UNICEF advierte que entre los daños ya experimentados por la infancia figuran los deepfakes explícitos generados por IA, “a veces basados en imágenes de niños reales”2. Este ensayo identifica los diez aspectos éticos más relevantes de esta tecnología, leídos desde una perspectiva de derechos humanos y atravesados por el principio rector del interés superior del niño3. Se trata de un mapa de tensiones donde cada principio convive con sus propios límites. Técnicamente, los deepfakes combinan deep learning y falsificación mediante redes generativas antagónicas (GANs) y modelos de difusión que, entrenados con grandes volúmenes de imágenes, generan datos sintéticos indistinguibles de lo real. Su rasgo disruptivo no es solo el realismo, sino, como vimos su accesibilidad. McLuhan recordaba que “el medio es el mensaje”, la herramienta, por su mera existencia y facilidad de uso, reconfigura las prácticas sociales4. Que cualquier adolescente pueda “desnudar” a una compañera con un clic transforma cualitativamente el riesgo y de cierta forma lo vuelve exponencial. Hoy el material de explotación sexual infantil encontró una herramienta que facilita no solo su distribución sino su producción en cuestiones de segundos.
1 Sobre la arquitectura técnica y estas herramientas, K. V. Salierno y G. E. Bielli, Deepfakes y explotación sexual infantil. El imperio de los datos sintéticos. 2025. https://escribaniasalierno.com.ar/2025/07/05/deepfakes-explotacion-sexual-infantil/
2 UNICEF, Guidance on AI and Children 3.0, diciembre de 2025, Introduction.
3 Convención sobre los Derechos del Niño, art. 3; Comité de los Derechos del Niño, Observación General N.º 25 (2021) sobre los derechos de los NNA en relación con el entorno digital.
4 M. McLuhan, Understanding Media: The Extensions of Man, 1964.
Los diez aspectos éticos
Dignidad humana y cosificación. El primer principio involucrado en este tipo de generación o dato sintético es la dignidad como valor humano que no permite intercambio. Tratar a la persona como mero medio, como por ejemplo sucede cuando se reduce la imagen de una niña a un cuerpo sexualizado fabricado para consumo de terceros, niega su condición de fin en sí mismo5. El deepfake sexual cosifica sin tocar el cuerpo, la nudificación cosifica la identidad de la infancia. Incluso la objeción que se puede plantear acerca de que “no hay víctima real porque la imagen es falsa” confunde el soporte con el bien jurídico; lo lesionado es la dignidad y la autopercepción, no la integridad del píxel.
Consentimiento: su imposibilidad estructural en la infancia. Toda la arquitectura ética del dato descansa en el consentimiento libre e informado, pero en estos casos el NNA no consintió ni el uso de su imagen para alimentar el modelo ni la generación del contenido. Además, considerando su situación de vulnerabilidad relacionada con su pertenencia a un grupo especialmente protegido por el derecho en general, su hipotético consentimiento es, jurídicamente limitado y evolutivo de acuerdo a los principios de autonomía progresiva que se derivan de la Convención de los derechos del niño6. Incluso el material subido voluntariamente (como por ejemplo en el caso del sexting o el sharenting) puede ser capturado y reprocesado, lo que demuestra que el consentimiento puntual no equivale a una prestación de ese consentimiento para todo uso futuro ilimitado.
5 I. Kant, Fundamentación de la metafísica de las costumbres, 1785 (segunda formulación del imperativo categórico).
6 Take It Down Act (EE. UU., 2025), sobre imágenes íntimas no consentidas y deepfakes. La Take It Down Act estadounidense define el consentimiento como autorización “afirmativa, consciente y voluntaria, libre de coerción”.
Identidad, imagen y autodeterminación. El derecho a la propia imagen y a la identidad protege la facultad de decidir cómo, cuándo y a quién mostrar el propio cuerpo. El Tribunal Supremo español sostuvo que el entorno digital la lesión a la libertad de autodeterminación sexual de los NNA se intensifica7. En estos casos la identidad sintética crea una especie de “doble o gemelo” que el sujeto no controla, lo que obliga a preguntarse si en estos casos no existe un derecho a la integridad de la propia identidad frente a su recreación algorítmica.
Privacidad e integridad contextual de los datos. Para Nissenbaum, la privacidad no es secreto sino integridad contextual y la violación ocurre cuando un dato fluye fuera del contexto en que fue compartido8. Por ejemplo, una foto escolar reutilizada para generar un desnudo rompe radicalmente con ese flujo. Por su parte Zuboff y Crawford añaden a este punto la dimensión extractiva porque los modelos se nutren de datos tomados de la web sin consentimiento9. En este punto persiste la tensión de este riesgo a derechos fundamentales con la débil tutela de los derechos ARCO y la ausencia, por ejemplo, en países como Argentina, de un derecho al olvido consolidado10.
Verdad, autenticidad y confianza epistémica11. El deepfake erosiona la confianza en la imagen como prueba. Chesney y Citron describieron esta situación como “dividendo del mentiroso” (liar’s dividend) y se da cuando en el ecosistema digital todo puede ser falso, entonces también lo verdadero se vuelve negable12. En estos casos, para la víctima el daño es independiente de la verdad, es decir, la sola circulación, verdadera o aun sabida falsa, estigmatiza, pero la indistinguibilidad respecto de lo real agrava su indefensión y su situación de vulnerabilidad estructural.
7 Tribunal Supremo de España, Sala de lo Penal, sentencia N.º 447/2021, 26 de mayo de 2021.
8 H. Nissenbaum, Privacy in Context: Technology, Policy, and the Integrity of Social Life, 2010.
9 S. Zuboff, The Age of Surveillance Capitalism, 2019; K. Crawford, Atlas of AI, 2021.
10 Salierno, K. V (2024) Derechos digitales de la infancia. Astrea, Buenos Aires. En este libro planteo la necesidad de avanzar sobre el derecho al olvido para niños, niñas y adolescentes, justamente para aplicarlos a estos casos.
11 Con relación a la simplificación del mundo y la violencia epistémica tuve oportunidad de profundizar en el trabajo presentado en el Máster para la materia Ética, conciencia y libertad.
12 R. Chesney y D. Citron, “Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, California Law Review, 107, 2019. https://scholarship.law.bu.edu/faculty_scholarship/640/
No maleficencia y daño psicosocial real. El daño psicológico, reputacional y social es real aunque la imagen sea ficticia13 por ello, el principio de no maleficencia, sumado al precautorio, exige actuar ante el riesgo aun sin certeza plena de su alcance. En estos casos es donde se pone en quiebre la tesis de la neutralidad tecnológica acuñada por las Big Tech porque la evidencia del daño impone una ética del diseño, y no solo del uso14.
13 Grooming LATAM, Guía Regional de Prevención: violencia sexual contra NNA mediante IA en América Latina, 2026 (impacto psicosocial y nudificación digital).
14 Para profundizar sobre este tema ver mi trabajo presentado para este Máster para la materia Big Tech y derechos humanos. “Informe sobre Big Tech, diseño algorítmico y neuroderechos. La demanda federal contra Meta desde la gobernanza ética de la IA”
Justicia, género e interseccionalidad. La distribución del daño tampoco es neutra porque la inmensa mayoría de las víctimas son niñas y mujeres15. En este aspecto, Crenshaw mostró cómo género, edad y otras opresiones se superponen, sumando la tecnología “una capa más de vulnerabilidad”16 desde un criterio interseccional. En definitiva este uso riesgoso de esta tecnología disruptiva reproduce y asume un carácter exponencial de las desigualdades culturales históricas.
15 ONU Mujeres, informe 2024; CEDAW, Recomendación General N.º 35 (2017), que integra la violencia de género en entornos digitales.
16 K. Crenshaw, “Mapping the Margins: Intersectionality, Identity Politics, and Violence against Women of Color”, Stanford Law Review, 43, 1991. https://blogs.law.columbia.edu/critique1313/files/2020/02/1229039.pdf
Responsabilidad y el problema de las “muchas manos”. Frente a la pregunta sobre
¿Quién responde en los casos de deepfakes o pornfakes? ¿El creador del dato original, quien desarrolla el modelo, la plataforma que lo aloja o el usuario que lo genera?, las respuestas se vuelven opacas. Thompson llamó a esto el “problema de las muchas manos”, es decir que cuando muchos intervienen en la cadena de producción del daño, nadie se siente responsable17. La opacidad de la titularidad de aplicaciones como UndressHer.app, que no divulgan a sus responsables, agrava la impunidad18. En estos casos, la responsabilidad difusa reclama atribuciones objetivas y deberes de diligencia ex ante de las plataformas, como propone por ejemplo la Take It Down Act con el retiro de la imagen en 48 horas o plataformas de denuncia rápida como la que utiliza InHope19.
17 D. F. Thompson, “Moral Responsibility of Public Officials: The Problem of Many Hands”, American Political Science Review, 74, 1980.
18 Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres (Corrientes), “Cortés, Rafael Alejandro y otros s/ Acciones derivadas protección niñez y adolescencia”, 21 de mayo de 2025.
19 La red mundial contra el material de abuso sexual infantil en Internet. Si encuentra material sospechoso de abuso sexual infantil, presente una denuncia anónima. Encuentre su línea directa local a través del menú desplegable o el mapa. https://www.inhope.org/es/
Transparencia, trazabilidad y auditoría algorítmica. Sin marcas de agua, procedencia verificable ni explicabilidad, el contenido sintético es indetectable y sus sistemas, inauditables. La guía de auditoría algorítmica adversarial de ÉTICAS demuestra que la rendición de cuentas exige inspeccionar las cajas negras.20 O’Neil advirtió que la opacidad convierte a los algoritmos en “armas de destrucción matemática”21. Por ello, en estos casos la transparencia aunque es una condición necesaria, no es suficiente ya que conocer cómo se generó el daño no lo repara ni le devuelve tranquilidad a la víctima si faltan vías efectivas y rápidas de supresión del contenido sintético.
Perpetuidad del daño y derecho al olvido. El daño digital es un daño que tiende a incorporarse en una mecánica de círculo infinito ya que la posibilidad de bloquear el contenido o la aplicación o la página en donde ese contenido se comparte no significa eliminarlo ya que internet es un entorno en donde la información persiste y se replica. Un fallo reciente de una localidad de la Provincia de Corrientes en la República Argentina ordenó a ENACOM como medida urgente bloquear la página UndressHer.app, pero reconoció que el contenido no desaparece de la red. El verdadero desafío ético-jurídico es garantizar mecanismos de supresión real y un derecho al olvido operativo para NNA, hoy inexistente en Argentina.
20 ÉTICAS, Adversarial Algorithmic Auditing Guide, 2023. https://www.edpb.europa.eu/system/files/2024-06/ai-auditing_checklist-for-ai-auditing-scores_edpb-spe-programme_en.pdf
21 C. O’Neil, Weapons of Math Destruction, 2016.
Conclusión
Estos diez aspectos no operan de forma aislada sino que convergen en el interés superior del niño como principio transversal que debe gobernar el diseño tecnológico, el mercado digital y la educación. La respuesta no puede ser únicamente la prohibición absoluta (como algunos países así lo han hecho22) ni la permisión total, sino una perspectiva de infancia incorporada desde el diseño (ethics y safety by design), acompañada de reformas legislativas, como por ejemplo en la República Argentina lo hizo la Ley Olimpia (Ley 27.736) sobre violencia digital y el proyecto de Ley Belén23 y de alfabetización digital y algorítmica en valores24.
23 Proyecto de “Ley Belén”, que tipifica los porn deepfakes en el Código Penal argentino. https://www4.hcdn.gob.ar/dependencias/dsecretaria/Periodo2024/PDF2024/TP2024/1123-D-2024.pdf
24 Ley 27.736 (“Ley Olimpia”), que incorpora la violencia digital a la Ley 26.485.
