AUDITORÍA DE ÉTICA POR DISEÑO EN SISTEMAS COGNITIVOS
Portal de comercio electrónico con IA generativa para personalización de ofertas Amazon EU

Autora: Karina Vanesa Salierno

Introducción y delimitación del objeto de estudio

Contextualización del problema

La integración de modelos de inteligencia artificial generativa en plataformas de comercio electrónico ha transformado radicalmente el paradigma de la personalización digital. Los sistemas como los desplegados por Amazon emplean arquitecturas de aprendizaje automático de gran escala (LLMs) y motores de recomendación híbridos, para construir entornos de experiencia de usuario adaptativos que maximizan métricas de conversión y retención.

Este fenómeno no es epistemológicamente neutro. La arquitectura persuasiva resultante puede comprenderse, en los términos de Zuboff (2019), como una forma de capitalismo de vigilancia: un régimen económico que transforma la experiencia humana en datos de comportamiento y estos, a su vez, en predicciones comercializables. En este camino, el diseño de la interfaz no es ya un simple canal de comunicación entre usuario y servicio, sino un dispositivo activo y consciente de modulación conductual.

La gobernanza ética de estos sistemas constituye uno de los desafíos normativos centrales del presente decenio. La Unión Europea ha respondido con un corpus regulatorio de notable ambición: el Reglamento General de Protección de Datos (RGPD, 2016), la Directiva de Servicios Digitales (DSA, 2022), y el Reglamento de Inteligencia Artificial (AI Act, Reglamento UE 2024/1689). No obstante, la eficacia de este marco depende de su aplicación práctica y concreta mediante instrumentos de auditoría y evaluación de conformidad y sanciones reales en caso de incumplimiento.

Justificación de la elección del caso

Amazon.es constituye un caso paradigmático por varias razones. En primer lugar por su escala, posee en la actualidad más de 300 millones de cuentas activas a nivel global y presencia determinante en el mercado europeo, las decisiones de diseño de sus interfaces tienen impacto sobre decenas de millones de usuarios en el espacio económico europeo. Asimismo, es interesante analizar su plataforma por su complejidad técnica, ya que el sistema combina IA generativa para descripción de productos, motores de recomendación basados en filtrado colaborativo y análisis de secuencias de comportamiento, sistemas de precios dinámicos y programas de fidelización de arquitectura opaca. Finalmente, es importante destacar su relevancia regulatoria. Amazon ha sido objeto de investigaciones por parte de la Comisión Europea bajo el Reglamento de Mercados Digitales y el RGPD, lo que permite anclar el análisis técnico en precedentes concretos.

Objetivos de la auditoría

1. Identificar y clasificar patrones oscuros de diseño de interfaz (dark patterns) presentes o potencialmente implementados en el sistema auditado.
2. Evaluar la conformidad del sistema con el marco regulatorio europeo aplicable, con especial atención al AI Act y el RGPD.
   
3. Analizar los impactos del sistema sobre la autonomía cognitiva del usuario y los neuroderechos emergentes.
4. Formular propuestas de rediseño ético fundamentadas en la metodología value sensitive design y los estándares ISO relevantes.
5. Elaborar una lista de verificación operativa de cumplimiento ético-técnico.

Marco metodológico

La auditoría adopta la metodología tripartita, en primer lugar se realiza un análisis técnico de la capa de interfaz mediante el modelo Input-Process-Output (IPO), luego se formula una evaluación jurídica de conformidad regulatoria, para finalizar con la aplicación del VSD (value sensitive design) como marco normativo de rediseño. Esta triangulación metodológica permite superar los límites de los enfoques unidireccionales y ofrece una perspectiva integrada sobre los vectores de riesgo ético. También se tuvo en cuenta el enfoque de la quíntuple hélice de la IA, ya que aporta un marco sistémico de análisis de la innovación, una perspectiva multi-actor, una base interdisciplinaria, herramientas para analizar gobernanza tecnológica, y la posibilidad de derivar recomendaciones regulatorias y éticas. Esta metodología, permite comprender que las tecnologías no son solo artefactos técnicos, sino sistemas socio-institucionales donde interactúan múltiples actores con responsabilidades compartidas. De esta forma es posible entender que cualquier caso práctico deberá analizarse desde una perspectiva de ecosistema de poder, conocimiento y responsabilidad. A nivel de estándares técnicos, la auditoría se apoya en las normas ISO 9241 (ergonomía de la interacción persona-sistema), específicamente en las partes 110 (principios de diálogo), 210 (diseño centrado en el ser humano) y 220 (procesos para el diseño centrado en el ser humano); así como en la norma ISO/IEC 42001:2023 (sistema de gestión de la IA), que establece los requisitos organizativos para el desarrollo responsable de sistemas de IA.

Fundamentación teórica

Interacción persona-computadora y diseño de interfaces

La disciplina de la Interacción Persona-Computadora (Human-Computer Interaction, HCI) surge en los años 1980 como campo interdisciplinario que integra ciencias de la computación, psicología cognitiva y diseño. Su objeto de estudio es la relación dinámica entre usuarios humanos y sistemas computacionales, con especial atención a los factores que determinan la usabilidad, la experiencia de usuario (UX) y la accesibilidad.

El modelo IPO (Input-Process-Output) constituye un esquema conceptual fundamental: el usuario genera inputs mediante dispositivos de entrada (teclado, ratón, pantalla táctil), el sistema los procesa mediante algoritmos y genera outputs que se manifiestan en la interfaz. La calidad de la interacción depende de la adecuación de este ciclo a las capacidades y expectativas del usuario. La norma ISO 9241-110 formaliza ocho principios de diálogo que operacionalizan esta calidad: adecuación a la tarea, autodescriptividad, conformidad con las expectativas del usuario, capacidad de aprendizaje, controlabilidad, tolerancia al error, adecuación a la personalización y accesibilidad.

El diseño centrado en el ser humano (ISO 9241-210) establece que los sistemas deben desarrollarse iterativamente incorporando la perspectiva del usuario desde las etapas más tempranas del proceso de diseño. Este principio implica la realización de investigaciones de contexto de uso, la generación y evaluación de prototipos con participación de usuarios reales, y la validación continua frente a criterios de usabilidad definidos.

Patrones oscuros: taxonomía y fundamento psicológico

El concepto de dark pattern fue introducido por Harry Brignull en 2010 para denominar aquellos elementos de interfaz diseñados deliberadamente para inducir a los usuarios a realizar acciones no deseadas o contrarias a sus intereses.

Los patrones oscuros son decisiones que se toman en el diseño de las interfaces que hacen que se activen sesgos cognitivos que tenemos en donde efectivamente somos más vulnerables a ciertas prácticas. Gray et al. (2018) desarrollaron una taxonomía sistemática de estos patrones, identificando cinco categorías principales: nagging (molestia persistente), obstruction (obstrucción), sneaking (inserción subrepticia), interface interference (interferencia de interfaz) y forced action (acción forzada). Mathur et al. (2019), en uno de los estudios empíricos más amplios sobre manipulación de interfaces, analizaron 11.000 sitios de comercio electrónico y detectaron 1.818 instancias de dark patterns presentes en 1.254 páginas web, clasificadas en quince categorías de diseño manipulativo.

Este trabajo es relevante porque demuestra empíricamente la dimensión estructural de los dark patterns. No se trata de errores aislados de diseño, sino de estrategias sistemáticas de manipulación de decisiones de consumo. Esto nos conecta directamente con el problema jurídico de la manipulación algorítmica, la arquitectura de las decisiones y los vicios del consentimiento en el ecosistema digital.Sus hallazgos demuestran que estos mecanismos no son accidentales sino que responden a decisiones de diseño sistemáticas orientadas a maximizar métricas de negocio a expensas del bienestar del usuario.

El fundamento psicológico de los dark patterns reside en la explotación de heurísticas y sesgos cognitivos descritos por la psicología del comportamiento. Kahneman (2011) distingue entre el Sistema 1 (pensamiento rápido, automático, heurístico) y el Sistema 2 (pensamiento lento, deliberativo, analítico). Los dark patterns operan precisamente sobre el Sistema 1, capturando la atención del usuario antes de que el Sistema 2 pueda intervenir con una evaluación consciente. Cialdini (2009) describe seis principios de influencia —reciprocidad, compromiso, prueba social, autoridad, afinidad y escasez— que los sistemas digitales explotan de manera algorítmica y personalizada.

Value sensitive design: fundamentos y metodología

El value sensitive design (VSD) es un enfoque teórico-metodológico para el diseño de tecnología que incorpora valores humanos de manera proactiva durante todo el ciclo de vida del desarrollo (Friedman & Hendry, 2019). Surgido en la década de 1990 en la Universidad de Washington bajo el liderazgo de Batya Friedman, el VSD propone que los sistemas tecnológicos no son axiológicamente neutros: incorporan valores de manera explícita o implícita, y estos valores tienen consecuencias reales sobre los usuarios y la sociedad. La metodología VSD se articula en tres tipos de investigación interdependientes: (i) investigación conceptual, que identifica los valores en juego y sus posibles conflictos; (ii) investigación empírica, que estudia cómo los usuarios comprenden, valoran e interactúan con el sistema; y (iii) investigación técnica, que examina cómo las características concretas del sistema apoyan o erosionan los valores identificados. Esta triangulación permite desarrollar soluciones que integran consideraciones éticas en la arquitectura del sistema, no como añadidos externos sino como propiedades intrínsecas del diseño.

El enfoque VSD es especialmente relevante en el marco de gobernanza ética de la inteligencia artificial, porque propone integrar valores como la dignidad humana, la equidad, la transparencia y la responsabilidad desde el diseño tecnológico, lo que se alinea con los principios de IA confiable promovidos por organismos internacionales como la OCDE, que enfatizan la transparencia, la equidad y la rendición de cuentas en el desarrollo de sistemas de IA. En este sentido, el VSD constituye una estrategia de “ética por diseño”, orientada a traducir valores como la autonomía, la equidad o la privacidad en decisiones concretas de arquitectura tecnológica (Manders-Huits, 2011) y es uno de los antecedentes conceptuales directos de lo que hoy en regulación europea se llama “ethics by design” o “trustworthy AI”.

El enfoque de value sensitive design (VSD) propone incorporar valores humanos de manera sistemática en el diseño de tecnologías digitales, integrando consideraciones éticas como la autonomía, la equidad o la privacidad desde las primeras fases del desarrollo tecnológico (Friedman & Hendry, 2019). Sin embargo, la proliferación de dark patterns en plataformas digitales muestra cómo el diseño de interfaces también puede utilizarse para manipular decisiones del usuario. Estudios empíricos han identificado miles de instancias de estas prácticas en sitios de comercio electrónico, evidenciando su carácter estructural en la economía digital (Mathur et al., 2019). En este contexto, los dark patterns constituyen la inversión normativa del VSD: mientras este busca alinear la arquitectura tecnológica con valores humanos, aquellos explotan sesgos cognitivos para influir en el comportamiento del consumidor, lo que plantea desafíos significativos para la protección del consentimiento y los derechos del usuario en entornos digitales.

Neuroderechos y autonomía cognitiva

El marco de los neuroderechos, desarrollado inicialmente por Marcello Ienca y Roberto Andorno (2017) y posteriormente incorporado en la legislación de Chile (2021) y en los trabajos del Consejo de Europa, identifica un conjunto de derechos fundamentales específicamente vinculados a la protección de la actividad cognitiva y neural del ser humano. Estos incluyen: el derecho a la privacidad mental, el derecho a la integridad mental, la libertad cognitiva, la continuidad psicológica y la equidad mental. Aunque en su formulación original los neuroderechos estaban concebidos para sistemas de interfaz cerebro-computadora (BCI), Livanis et al. (2024) argumentan que la manipulación cognitiva no requiere acceso directo al cerebro para ser éticamente relevante.

Los sistemas de personalización algorítmica avanzada pueden interferir estructuralmente en los procesos de deliberación y toma de decisiones sin mediar ningún dispositivo de lectura neural. Esta extensión conceptual resulta crucial para el análisis de plataformas de comercio electrónico con IA generativa.

Análisis de patrones oscuros y sesgos cognitivos

Descripción técnica del sistema auditado

Amazon.es integra una arquitectura de IA multicapa para la generación y personalización de la experiencia de compra. A nivel técnico, el sistema combina:

1. modelos de lenguaje de gran escala (LLMs) para la generación y adaptación dinámica de descripciones de producto y mensajes promocionales;
2. motores de recomendación basados en filtrado colaborativo (collaborative filtering) y análisis de secuencias de comportamiento (sequence-aware recommendation);
3. sistemas de precios dinámicos que ajustan el precio en tiempo real en función de variables de demanda, comportamiento del usuario y estrategia competitiva; y
4. el ecosistema Amazon Prime, que combina fidelización, ventajas logísticas y servicios de entretenimiento bajo una estructura de suscripción.

Desde la perspectiva HCI, el modelo IPO se configura de la siguiente manera en este sistema: los inputs del usuario (búsquedas, clics, tiempo de permanencia, historial de compras, movimientos del cursor, incluso velocidad de escritura) son capturados y procesados por los algoritmos de IA, que generan outputs personalizados en la interfaz (productos recomendados, precios adaptados, mensajes de urgencia, disposición de elementos visuales). Este ciclo se retroalimenta continuamente, configurando un entorno de experiencia adaptativo que se optimiza en tiempo real hacia objetivos de conversión.

Identificación y análisis de patrones oscuros

Patrón 1: Continuidad forzada (forced continuity)
La suscripción Amazon Prime emplea una arquitectura de adhesión/cancelación profundamente asimétrica. La incorporación al servicio puede realizarse con un único clic desde cualquier página de producto, frecuentemente durante el flujo de compra de un artículo no relacionado. La cancelación, en contraste, requiere navegar a través de un flujo de cuatro a seis pantallas con múltiples llamadas a la acción discrepantes (confirmación, pausa de la suscripción, oferta de descuento de retención) y formuladas deliberadamente de manera confusa respecto a su efecto real. Desde la perspectiva ISO 9241-110, este diseño viola los principios de controlabilidad (el usuario no puede controlar con facilidad el inicio y el cierre de la relación contractual) y de autodescriptividad (el sistema no informa de manera clara sobre las implicaciones de cada acción). Conforme a la taxonomía de Gray et al. (2018), constituye un patrón de obstruction (obstrucción) que crea barreras artificiales para las acciones que el usuario desea realizar y que no son de interés comercial para el operador.

El sesgo cognitivo explotado es la inercia temporal: una vez adquirida la suscripción, el coste psicológico de cancelar (navegar por el flujo, confrontar mensajes disuasorios, asumir la pérdida del servicio) supera con frecuencia el coste económico percibido de la renovación automática. Este mecanismo capitaliza el efecto de dotación (endowment effect) descrito por Kahneman y Thaler (1991): los usuarios valoran más lo que ya poseen que lo que podrían adquirir, y la cancelación se percibe como una pérdida activa.

Patrón 2: Escasez artificial y urgencia inducida
Amazon emplea de manera sistemática mensajes de urgencia e indicadores de escasez: “Solo quedan 3 en stock”, “Oferta válida por: 02:34:17”, “Precio bajó un X% hace 48 horas”. Estos mensajes son generados dinámicamente por el sistema de IA en función del perfil del usuario y de las métricas de conversión históricas del producto. La investigación de Mathur et al. (2019) identificó la urgencia artificial como uno de los dark patterns más prevalentes en el comercio electrónico. El mecanismo psicológico subyacente es la heurística de escasez descrita por Cialdini (2009): los seres humanos atribuyen mayor valor a los recursos percibidos como escasos o limitados temporalmente. La urgencia artificial activa el Sistema 1 de procesamiento (Kahneman, 2011) reduciendo el tiempo disponible para la deliberación del Sistema 2. La aversión a la pérdida (Kahneman & Tversky, 1979) amplifica este efecto: el usuario teme perder una oportunidad que percibe como única, aunque la escasez sea ficticia o exagerada.

Desde la perspectiva técnica, este patrón constituye un caso de interface interference: la interfaz incluye elementos que, en el contexto de una decisión de compra, no describen objetivamente el estado del producto sino que modulan activamente el estado emocional del usuario para reducir su deliberación. Esto viola el principio de adecuación a la tarea de la ISO 9241-110, que exige que el sistema soporte al usuario en la realización eficiente de sus objetivos sin introducir cargas cognitivas no pertinentes.

Patrón 3: Roach Motel en gestión de privacidad
El denominado Roach Motel (Gray et al., 2018) describe un patrón de diseño de interfaz en el cual la entrada a una determinada relación contractual o funcional resulta sencilla para el usuario, mientras que su cancelación o abandono se ve deliberadamente dificultado. En el ámbito digital significa que el usuario puede suscribirse, registrarse o aceptar un servicio con pocos clics, pero cuando intenta cancelar, darse de baja o terminar la relación contractual, el sistema introduce fricciones deliberadas. En el contexto de Amazon, este patrón se manifiesta en la gestión de las preferencias de privacidad y el perfilado publicitario.

La activación del perfilado completo está habilitada por defecto (opt-out) y puede producirse como consecuencia de una única aceptación de cookies al crear la cuenta. La desactivación, en contraste, requiere acceder a múltiples secciones de configuración dispersas: preferencias de publicidad de Amazon, gestión de cookies, configuración de Alexa si el usuario utiliza el ecosistema de voz, y preferencias de la cuenta de seller si aplica.

Este patrón opera sobre el sesgo de omisión (omission bias): los usuarios tienden a mantener la configuración predeterminada del sistema, percibiendo las acciones de modificación como más costosas que la inacción. La arquitectura opt-out capitaliza este sesgo para maximizar el volumen de datos capturados. Desde la perspectiva jurídica, el Roach Motel afecta varios principios centrales del derecho del consumidor, en primer lugar, la vulneración del consentimiento libre. El consentimiento contractual exige que el consumidor pueda entrar y salir del contrato con la misma facilidad y las plataformas suelen ocular o dificultar el acceso a información sobre cancelación, lo que vulnera también el principio de transparencia.

El Roach Motel muestra que el poder en la economía digital no siempre se ejerce mediante prohibiciones, sino mediante arquitectura de decisiones. El usuario cree que elige libremente pero la puerta de salida está escondida detrás del pasillo más largo del hotel. Esto recuerda el estudio de Susstein, Choosing not to choose, donde el autor argumenta sobre la falsa sensación de libertad cuando elegimos impulsados por la manipulación algorítmica. En términos de la norma ISO 9241-110, viola el principio de conformidad con las expectativas del usuario (el usuario espera un nivel de privacidad equivalente al que activamente ha elegido, no al que resulta por defecto del diseño del sistema).

Patrón 4: Hiperpersonalización generativa
La IA generativa permite adaptar en tiempo real los contenidos de la interfaz al perfil psicológico del usuario. Las descripciones de producto, los mensajes de recomendación y los argumentos de venta son generados dinámicamente para maximizar su resonancia con las características cognitivas y emocionales específicas de cada usuario.

Un usuario identificado como sensible al precio verá mensajes centrados en el ahorro; uno identificado como orientado al estatus, descripciones que enfatizan la exclusividad. Este mecanismo constituye una forma de perfilado o micro-targeting psicológico que Gray et al. (2018) denominarían sneaking (inserción subrepticia): el usuario no es consciente de que el contenido que consume ha sido diseñado específicamente para sus vulnerabilidades cognitivas. El sistema explota el sesgo de confirmación (confirmation bias): al mostrar argumentos perfectamente alineados con las predisposiciones previas del usuario, reduce la probabilidad de evaluación crítica y aumenta la propensión a la compra.

Patrón 5: Privacy zuckering en consentimiento de datos
El privacy zuckering consiste en diseñar interfaces de consentimiento que inducen al usuario a compartir más datos de los que desearía si dispusiera de información completa. En Amazon, este patrón se manifiesta a través de los textos de consentimiento excesivamente extensos y redactados en lenguaje técnico-jurídico no accesible para usuarios no especializados; jerarquías visuales que destacan el botón de aceptación completa sobre las opciones de gestión granular de preferencias; y ausencia de resúmenes claros sobre qué datos se recogen, con qué finalidad y durante cuánto tiempo.

Este diseño vulnera el principio de información comprensible del considerando 39 RGPD1, que exige que los avisos de privacidad sean transparentes, comprensibles y de fácil acceso. Desde la óptica ISO 9241-110, viola el principio de autodescriptividad: el sistema no informa suficientemente al usuario sobre las implicaciones de sus elecciones de consentimiento.

1 https://gdpr-info.eu/recitals/no-39/

Tabla resumen de patrones oscuros identificados

Patrón Oscuro	Tipo (Gray et al.)	Sesgo Cognitivo	Norma ISO Vulnerada	Severidad
Continuidad Forzada	Obstruction	Inercia temporal / Efecto dotación	ISO 9241-110 P3, P6	Alta

Urgencia e Escasez Artificial	Interface Interference	Heurística de escasez / Aversión a la pérdida	ISO 9241-110 P1, P2	Alta
Roach Motel (Privacidad)	Obstruction	Sesgo de omisión / Status quo bias	ISO 9241-110 P2, P5	Alta
Personalización Generativa	Sneaking	Sesgo de confirmación / Anclaje	ISO 9241-110 P2, P7	Media-Alta
Privacy Zuckering	Forced Action / Sneaking	Sobrecarga cognitiva / Omisión	ISO 9241-110 P2	Alta

Nota: P1=Adecuación a la tarea; P2=Autodescriptividad; P3=Conformidad con expectativas; P4=Capacidad de aprendizaje; P5=Controlabilidad; P6=Tolerancia al error; P7=Adecuación a la personalización; P8=Accesibilidad.

Evaluación de riesgos y marco regulatorio europeo

Clasificación bajo el Reglamento (UE) 2024/1689 AI Act

Marco general de clasificación de riesgos

El Reglamento (UE) 2024/1689, AI Act, establece un sistema de clasificación de sistemas de IA en cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo. Esta clasificación determina el régimen de obligaciones aplicable al proveedor y el despliegue del sistema en el mercado europeo. Los sistemas de riesgo inaceptable (artículo 52) están prohibidos con carácter general. Incluyen, entre otros: sistemas de puntuación social por autoridades públicas, manipulación conductual subliminal, explotación de vulnerabilidades de grupos específicos, y sistemas de identificación biométrica remota en tiempo real en espacios públicos. Los sistemas de alto riesgo (artículo 6 y Anexo III) están sujetos a obligaciones de evaluación de conformidad, registro, supervisión humana y transparencia reforzada. Los sistemas de riesgo limitado (artículo 50) requieren únicamente cumplir con obligaciones de transparencia. Los de riesgo mínimo no están sujetos a obligaciones adicionales.

2 https://artificialintelligenceact.eu/es/article/5/

Clasificación del sistema Amazon.es con IA generativa

El sistema de recomendación comercial con IA generativa de Amazon.es se clasifica prima facie como sistema de riesgo limitado, dado que no figura entre los casos de alto riesgo enumerados en el Anexo III del AI Act. No obstante, esta clasificación formal no agota el análisis. Hay casos en donde es difícil encasillar un sistema en una tipología normativa dura.

Por ello se hace necesario y visible la perspectiva interdisciplinaria y el marco normativo completo para entender la dinámica del sistema de IA generativa de Amazon.es.

En este sentido, vemos como el artículo 5.1(a) del AI Act prohíbe como riesgo inaceptable los sistemas que utilizan técnicas subliminales que trascienden la conciencia humana para distorsionar sustancialmente el comportamiento de una persona, causándole o pudiendo causarle perjuicio. El sistema auditado plantea una cuestión jurídicamente relevante: ¿puede la hiperpersonalización algorítmica constituir una técnica subliminal en el sentido del artículo 5? (ver Considerando 29)3.

3 https://artificialintelligenceact.eu/es/recital/29/

La doctrina mayoritaria distingue entre influencia legítima (publicidad, recomendación) e influencia ilegítima (manipulación subliminal). La clave reside en si el usuario es consciente de que está siendo influido y si puede ejercer un juicio autónomo sobre esa influencia. El sistema auditado opera en una zona gris: la personalización es visible para el usuario (ve recomendaciones y mensajes de urgencia), pero el mecanismo de generación, es decir, qué datos, qué modelo psicológico, qué vectores de influencia, es completamente opaco. Este déficit de transparencia puede hacer que la influencia trascienda, de facto, la conciencia crítica del usuario.

Criterio de Clasificación	Evaluación del Sistema Auditado
Nivel de riesgo formal (AI Act)	Riesgo LIMITADO (art. 50) — sistema de recomendación comercial
Tensión con art. 5.1(a)	PRESENTE: Potencial manipulación subliminal mediante personalización psicográfica opaca
Obligaciones de transparencia	Aplicables: información al usuario sobre interacción con IA (art. 50.1)
Registro en base de datos UE	No obligatorio para riesgo limitado, pero recomendable
Evaluación de conformidad	Autoevaluación; no se requiere organismo notificado

Vulnerabilidad estructural: perfil de consumidor

Asimismo, y más allá de la clasificación técnica del riesgo, lo cierto es que la plataforma explota vulnerabilidades de usuarios que pertenecen a un colectivo que de hecho presenta dificultades para identificar barreras (consumidores electrónicos). Los contratos de compraventa y de servicios en línea (online), la compraventa de productos a través de tiendas virtuales es una de las aplicaciones más comunes de la contratación electrónica. Estos contratos se caracterizan por la oferta de productos a través de catálogos en línea, la aceptación de la oferta por parte del consumidor mediante un clic o una acción similar, y el pago a través de medios electrónicos. Además de la intervención de comercios y tiendas tradicionales, el entorno digital ha propiciado la aparición de intermediarios que facilitan la contratación a distancia, así como plataformas especializadas en distintos rubros, lo que evidencia la consolidación de la modalidad electrónica en la mayoría de los procesos de compraventa y de servicios. Esta dinámica implica una adaptación constante tanto de las prácticas comerciales como de la normativa aplicable, ya que la contratación electrónica demanda especial atención a la protección de los consumidores, quienes muchas veces se enfrentan a desafíos tecnológicos o a la asimetría de información propia del entorno virtual. Además de los comercios y tiendas tradicionales, existen los intermediarios (por ej., Mercado Libre, Tiendamía, Amazon, etc.). No menos relevantes son las plataformas destinadas a la locación de inmuebles (Airbnb, Booking.com, etc.) o al turismo en general (Despegar, Almundo, etc.), cuya modalidad es claramente electrónica. Contratos de prestación de servicios en línea (online) La contratación de servicios informáticos como el alojamiento web, el software en la nube, etc., como de otros rubros como la consultoría en línea, la educación a distancia, el entretenimiento digital, las finanzas (tanto Fintech como la banca tradicional), los seguros, el transporte, el bienestar, etc., se llevan a cabo a través de plataformas electrónicas. Estos contratos suelen incluir cláusulas sobre el nivel de servicio, la responsabilidad de las partes y la protección de los datos personales (Negri, 2025).En el contexto del comercio electrónico y de la adquisición de bienes inmuebles promovidos mediante publicidad digital, la celebración de contratos a distancia no solo está jurídicamente aceptada sino que exige una protección reforzada del consumidor, dado el impacto de la tecnología en la asimetría informativa y el riesgo de indefensión para la parte más débil de la relación contractual.

Los contratos celebrados por medios electrónicos son vehículo de relaciones de consumo que pueden implicar graves consecuencias para el consumidor si no se implementan salvaguardias adecuadas, como la obligación de información clara, mecanismos de resolución de disputas y el deber de respeto a la voluntad del consumidor. La publicidad digital y las plataformas de oferta de bienes y servicios pueden intensificar las desigualdades entre oferentes y consumidores, quienes pueden carecer de conocimientos técnicos o no percibir riesgos asociados a la transacción. La enorme mayoría de los contratos de adhesión electrónicos que los usuarios digitales celebran con los proveedores son, efectivamente, contratos electrónicos suscriptos mediante la tecnología de firma electrónica.

Dentro de este orden de ideas, resulta necesario hacer referencia a lo que se ha denominado la “aceptación mediante un click” o la “aceptación on-line” por parte del usuario o consumidor. La tendencia actual en los portales web de e-commerce, es obtener el consentimiento del usuario o consumidor, a través del correspondiente enlace o link con la expresión “aceptar”, los cuales son utilizados en la mayoría de los portales web, al momento de que una persona se registra como usuario o adquiere cualquier bien o servicio. Esto implica la manifestación de la voluntad expresa del usuario o consumidor, aceptando los términos y condiciones, así como la política de privacidad del portal web respectivo, y en algunos casos, cualquier tipo de contrato u otro documento que le sea presentado por vía electrónica para su aceptación. Cabe recordar, que todos los documentos mencionados revisten mayormente la forma contratos de adhesión, no sujetos a discusión o modificación por parte del consumidor. Sobre lo anterior, la jurisprudencia de otras latitudes se ha pronunciado sobre la plena validez y eficacia jurídica de los contratos aceptados a través de un “clic” a la opción “aceptar” en el correspondiente portal web15, lo cual se ha denominado “click wrap agreement” e implica que el usuario o consumidor da su consentimiento expreso al proveedor respectivo, aceptando su oferta y el respectivo contrato electrónico, mediante una pulsación o cliqueo a través de su dispositivo

(Bielli-Ordoñez 2023). La formación de estos contratos puede perfeccionarse con unos pocos clics o un mensaje de audio. La confianza entre las partes y la seguridad del medio son cruciales para su adecuado funcionamiento. En el ámbito del comercio electrónico, es fundamental proteger los derechos de los consumidores, que suelen ser la parte más débil en la relación contractual, por ello es necesario establecer normas claras sobre la información precontractual, el derecho de arrepentimiento, la garantía de los productos y servicios y la responsabilidad de los proveedores.

Evaluación de conformidad con el RGPD

Bases jurídicas del tratamiento y consentimiento

El Reglamento General de Protección de Datos (RGPD, Reglamento UE 2016/679) establece los principios que rigen el tratamiento de datos personales en la Unión Europea. El artículo 5 consagra los principios de licitud, lealtad y transparencia; limitación de la finalidad; minimización de datos; exactitud; limitación del plazo de conservación; integridad y confidencialidad; y responsabilidad proactiva (accountability). El sistema auditado trata datos de comportamiento del usuario (historial de navegación y compras, patrones de búsqueda, datos de dispositivo, geolocalización, datos de interacción con la interfaz) sobre la base del consentimiento del interesado (artículo 6.1.a) y del interés legítimo del responsable (artículo 6.1.f). La dependencia de la base del interés legítimo para el tratamiento de datos de perfilado publicitario es objeto de controversia regulatoria: el Comité Europeo de Protección de Datos (CEPD) ha emitido directrices restrictivas sobre su aplicabilidad para tratamientos de alto impacto en los derechos del interesado.

Perfilado automatizado y artículo 22 RGPD

El artículo 22 RGPD reconoce el derecho del interesado a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar. La cuestión es si la hiperpersonalización algorítmica de la oferta comercial alcanza el umbral de ‘afectación significativa’. La AEPD, en sus directrices sobre elaboración de perfiles (WP251 rev.01, 2018)4, señala que la afectación significativa puede producirse cuando el tratamiento: influye en las circunstancias de la persona, su comportamiento o sus elecciones; tiene efectos duraderos en la persona; o provoca discriminación u otras consecuencias graves. La personalización psicográfica avanzada puede cumplir estos criterios, especialmente cuando genera entornos de oferta diferenciados que llevan a usuarios con perfiles de vulnerabilidad a adquirir productos a precios inflados o a contraer obligaciones financieras no deseadas.

4 https://www.aepd.es/documento/wp251rev01-es.pdf

Evaluación de impacto relativa a la protección de datos personales

El artículo 35 RGPD impone la obligación de realizar una evaluación de impacto relativa a la protección de datos cuando el tratamiento, pueda entrañar un alto riesgo para los derechos y libertades de las personas físicas. La AEPD y el Comité Europeo de Protección de Datos han elaborado guías interpretativas del art. 35 RGPD que identifican situaciones en las que la evaluación de impacto es obligatoria. Entre los supuestos más relevantes se encuentran: el tratamiento masivo de datos personales; el perfilado sistemático de usuarios; los tratamientos basados en algoritmos o inteligencia artificial, el seguimiento del comportamiento de los individuos y el uso de datos para toma de decisiones automatizadas.

El sistema auditado debería haber realizado una evaluación de impacto que debería evaluarse, adicionalmente, con los criterios del “Algoritmic Impact Assessment” (Metcalf et al., 2021)5 y en las guías del Parlamento Europeo, que incluyen dimensiones de fairness, accountability y explicabilidad no plenamente capturadas por la evaluación de impacto estándar del RGPD.

5 Algorithmic impact assessments (AIAs) are an emergent form of accountability for organizations that build and deploy automated decision-support systems. They are modeled after impact assessments in other domains. Our study of the history of impact assessments shows that «impacts» are an evaluative construct that enable actors to identify and ameliorate harms experienced because of a policy decision or system. Every domain has different expectations and norms around what constitutes impacts and harms, how potential harms are rendered as impacts of a particular undertaking, who is responsible for conducting such assessments, and who has the authority to act on them to demand changes to that undertaking.

Directiva de Servicios Digitales (DSA) y obligaciones aplicables

El Reglamento (UE) 2022/20656 digital services act (DSA), clasifica a Amazon como very large online platform (VLOP) al superar los 45 millones de usuarios mensuales en la UE. Esta clasificación impone obligaciones adicionales, como las siguientes: realización anual de evaluaciones de riesgo sistémico (artículo 34); adopción de medidas de mitigación razonables (artículo 35); auditoría independiente anual (artículo 37); y acceso a datos para investigadores (artículo 40). El artículo 26 DSA prohíbe la publicidad basada en perfilado que utilice datos de menores y la publicidad basada en datos sensibles. El artículo 34.1 exige identificar los riesgos sistémicos asociados a los sistemas de recomendación algorítmica, incluyendo efectos sobre la salud mental, los derechos fundamentales y el comportamiento de los usuarios.

6 https://www.boe.es/buscar/doc.php?id=DOUE-L-2022-81573

Evaluación de impacto en neuroderechos

Los neuroderechos, en su formulación más amplia, protegen la integridad de los procesos cognitivos del ser humano. El sistema auditado no accede a datos neurales en sentido estricto; sin embargo, Livanis et al. (2024) argumentan que la interferencia estructural en los procesos de deliberación cognitiva tiene relevancia neuroética aunque se produzca exclusivamente a través de la interfaz digital. La hiperpersonalización psicográfica puede erosionar la libertad cognitiva del usuario en tres dimensiones: (i) libertad de pensamiento, al construir entornos informacionales que refuerzan predisposiciones previas (cámaras de eco comerciales); (ii) integridad mental, al generar estados emocionales de urgencia o miedo a la pérdida que alteran la calidad de la deliberación; y (iii) autonomía decisional, al reducir el conjunto de opciones efectivamente disponibles para el usuario a través de la arquitectura del sistema de recomendación.

La erosión de estos derechos no requiere técnicas subliminales en el sentido estricto del artículo 5 del AI Act; se produce como consecuencia acumulativa de la exposición prolongada a un entorno de interfaz diseñado para optimizar métricas de conversión a expensas de la calidad deliberativa del usuario. Esta perspectiva abre una dimensión de evaluación ética que trasciende el marco regulatorio existente y apunta hacia la necesidad de instrumentos normativos específicos para la protección de la autonomía cognitiva en entornos digitales.

Propuesta de rediseño ético mediante VSD

Investigación conceptual: identificación de valores en tensión

El primer paso de la metodología VSD consiste en identificar los valores humanos relevantes para el sistema y las tensiones entre ellos. En el caso auditado, se identifican los siguientes valores nucleares:

Valor	Descripción en contexto	Tensión con interés comercial
Autonomía	Capacidad del usuario para tomar decisiones libres e informadas	Maximización de conversión mediante reducción de deliberación
Privacidad	Derecho a controlar los propios datos y su uso	Maximización de datos para personalización
Transparencia	Comprensión del funcionamiento del sistema	Opacidad algorítmica como ventaja competitiva
No-manipulación	Protección frente a influencia ilegítima	Arquitectura persuasiva como modelo de negocio
Equidad	Ausencia de discriminación por perfil psicológico	Precios dinámicos diferenciados por perfil

Investigación empírica: evaluación de la percepción de los usuarios

La investigación empírica en el marco VSD implica estudiar cómo los usuarios reales comprenden, valoran e interactúan con el sistema. Para el caso auditado, se proponen los siguientes instrumentos de investigación empírica como parte del programa de rediseño:

• Estudios de comprensión del consentimiento: evaluación experimental de si los usuarios comprenden efectivamente qué datos se recogen y cómo se utilizan, mediante protocolos de think-aloud y cuestionarios de comprensión posterior a la aceptación de la política de privacidad.
  
• Evaluación de percepción de manipulación: encuestas estructuradas para medir si los usuarios perciben los mensajes de urgencia y escasez como indicadores objetivos del estado del producto o como técnicas de presión comercial.
• Estudios de seguimiento ocular (eye-tracking): análisis de los patrones de atención visual en las páginas de producto para determinar si los elementos de urgencia capturan la atención de manera que interrumpe la evaluación deliberativa.
• Auditorías de accesibilidad cognitiva: evaluación del grado en que los textos de consentimiento y los avisos de privacidad son comprensibles para usuarios con distintos niveles de alfabetización digital.

Investigación técnica y propuestas de rediseño

Rediseño del sistema de suscripción: simetría de adhesión y cancelación

El principio de simetría de interfaz exige que el flujo de adhesión y el flujo de cancelación sean equivalentes en términos de número de pasos, prominencia de las opciones y claridad de la información. Conforme a la ISO 9241-110 (principio de controlabilidad) y a la reciente propuesta de enmienda del AI Act para plataformas en línea, la cancelación de una suscripción debe poder realizarse en el mismo número de pasos que la adhesión inicial. Para ello se propone implementar un panel de gestión de suscripción accesible desde la página de inicio de la cuenta (un único clic), con un único botón de cancelación prominente y un proceso de confirmación en no más de dos pasos, equivalente al proceso de alta. La oferta de retención puede mantenerse, pero debe presentarse de manera que no confunda al usuario sobre el efecto de sus elecciones.

Rediseño de los indicadores de urgencia y escasez

Los indicadores de urgencia y escasez solo deben emplearse cuando reflejen condiciones reales y verificables del inventario o la disponibilidad temporal de la oferta. La IA generativa no debe generar mensajes de urgencia de manera autónoma con el objetivo de maximizar la conversión; debe operar sobre datos objetivos de inventario con un umbral de verificación auditado. En virtud de este problema detectado se propone:

1. implementar un sistema de verificación que vincule los mensajes de urgencia a datos de inventario en tiempo real, con umbral mínimo de 10 unidades para activar el mensaje ‘pocas unidades disponibles’;
2. prohibir el uso de contadores de tiempo regresivos vinculados a ofertas que se renuevan automáticamente;
3. incluir junto a cualquier indicador de escasez un hipervínculo a la política de stock que explique la metodología de verificación.

Panel de control de perfilado y explicabilidad algorítmica

El principio de transparencia del RGPD (artículo 5.1.a) y los requisitos de explicabilidad del AI Act para sistemas que generan perfiles (considerando 47) exigen que los usuarios tengan acceso a información comprensible sobre cómo sus datos configuran la experiencia que reciben. El VSD operacionaliza este principio en un panel de control de perfilado. Para lograr este fin se propone implementar un panel de transparencia algorítmica accesible desde la cuenta

del usuario, que incluya: (i) una descripción comprensible (lenguaje B1) de qué categorías de datos se utilizan para las recomendaciones; (ii) la posibilidad de visualizar y editar el perfil de preferencias inferido por el sistema; (iii) controles de granularidad para activar/desactivar categorías específicas de personalización (por precio, por categoría de producto, por comportamiento histórico); y (iv) un registro de las últimas 10 decisiones de recomendación con explicación simplificada de los factores determinantes.

Rediseño del flujo de consentimiento: honest design

El honest design (Hansen & Jespersen, 2013) propone aplicar los principios del nudging de manera ética: dirigir las opciones predeterminadas hacia los intereses del usuario, no hacia los del operador. En el contexto de la privacidad, esto implica adoptar una arquitectura opt-in como configuración predeterminada para el tratamiento de datos de perfilado con fines publicitarios. En este caso la propuesta implica rediseñar el flujo de consentimiento inicial con opciones equivalentes en tamaño, color y prominencia visual para aceptación completa y configuración granular; implementar un resumen ejecutivo de privacidad en no más de 200 palabras, en lenguaje B1, que preceda al aviso legal completo; adoptar configuración predeterminada de privacidad máxima (opt-in para perfilado publicitario) e implementar recordatorios anuales de revisión de preferencias de privacidad.

Estándares ISO aplicables al rediseño

El rediseño propuesto se alinea con los siguientes estándares internacionales:

Norma ISO	Título	Aplicación al rediseño
ISO 9241-110:2020	Principios de diálogo	Simetría, controlabilidad, autodescriptividad en flujos de suscripción y cancelación
ISO 9241-210:2019	Diseño centrado en el ser humano	Marco iterativo para el rediseño con participación de usuarios
ISO 9241-220:2019	Procesos para DcH	Investigación de contexto, prototipado y validación de las propuestas de rediseño
ISO/IEC 42001:2023	Sistema de Gestión de IA	Marco organizativo para la gobernanza responsable del sistema de IA auditado
ISO/IEC 25010:2023	Calidad del producto software	Criterios de usabilidad, seguridad y fiabilidad del sistema rediseñado
ISO/IEC TR 24368:2022	Consideraciones éticas en IA	Marco de valores para la evaluación de fairness, transparencia y accountab.

Lista de verificación de cumplimiento ético-técnico

Dimensión I: Transparencia e Información

• ¿Informa el sistema al usuario, antes de iniciar la interacción, de que está siendo asistido por un sistema de IA? (AI Act art. 50.1)
• ¿Existe un aviso de privacidad en lenguaje claro (máximo B1) de no más de 300 palabras antes del aviso legal completo?
• ¿Se informa de manera comprensible qué categorías de datos se recogen, con qué finalidad y durante cuánto tiempo?
• ¿Existe un panel de transparencia algorítmica que muestre al usuario los factores principales de sus recomendaciones personalizadas?
• ¿Son los indicadores de urgencia y escasez verificables y se vinculan a datos objetivos de inventario?

Dimensión II: Consentimiento y Control

• ¿Está la configuración predeterminada de privacidad ajustada al nivel máximo de protección (opt-in para perfilado publicitario)? (art. 25 RGPD)
• ¿Ofrecen las opciones de aceptación y configuración granular de privacidad la misma prominencia visual?
• ¿Puede el usuario revocar el consentimiento con la misma facilidad con que lo otorgó? (considerando 42 RGPD)
• ¿El flujo de cancelación de suscripción es simétrico al flujo de alta en términos de número de pasos?
• ¿Existe un mecanismo de portabilidad de datos accesible y funcional? (art. 20 RGPD)

Dimensión III: Minimización y Seguridad de Datos

• ¿Trata el sistema únicamente los datos estrictamente necesarios para cada finalidad declarada? (principio de minimización, art. 5.1.c RGPD)
• ¿Se han implementado técnicas de anonimización o seudonimización para los datos de entrenamiento del sistema de IA?
• ¿Existe una política de retención de datos documentada y aplicada técnicamente?
• ¿Se han implementado mecanismos de seguridad técnica (cifrado en tránsito y en reposo, control de acceso basado en roles) adecuados al nivel de sensibilidad de los datos?
• ¿Se han realizado pruebas de penetración periódicas en el sistema?

Dimensión IV: No-Discriminación y Equidad Algorítmica

• ¿Se han realizado auditorías de fairness sobre el sistema de recomendación para detectar sesgos discriminatorios por género, edad, origen o nivel socioeconómico?
• ¿Aplica el sistema precios diferenciados basados en el perfil del usuario? En caso afirmativo, ¿está esta práctica declarada explícitamente en la política de precios?
• ¿Existe supervisión humana significativa sobre las decisiones del sistema con mayor impacto sobre usuarios en situación de vulnerabilidad?
• ¿Se ha evaluado el riesgo de discriminación indirecta mediante las variables proxy utilizadas por el sistema de IA?

Dimensión V: Evaluación y Mejora Continua

• ¿Se ha realizado una evaluación de impacto relativa a la protección de datos actualizada? (art. 35 RGPD)
• ¿Existe un registro de actividades de tratamiento actualizado? (art. 30 RGPD)
• ¿Se realizan auditorías independientes periódicas del sistema de IA?
• ¿Existe un mecanismo de reclamación y recurso efectivo para los usuarios afectados por decisiones automatizadas?
• ¿Se ha nominado un delegado de protección de datos (DPD) y está accesible su información de contacto?
• ¿Dispone la organización de un sistema de gestión de IA certificable conforme a ISO/IEC 42001:2023?

Análisis de brechas y plan de acción

La auditoría permitió identificar las siguientes brechas entre el estado actual del sistema y el estado de conformidad objetivo:

Brecha Identificada	Norma / Estándar	Medida de Mitigación	Prioridad
Ausencia de transparencia algorítmica comprensible	AI Act art. 50; RGPD art. 5.1.a	Panel de perfilado explicable (Bloque III §5.3.3)	Alta — Inmediata
Asimetría flujo suscripción/cancelación	ISO 9241-110 P5; DSA art. 25	Rediseño simétrico de flujos (§5.3.1)	Alta — 3 meses
Urgencia artificial no verificable	AI Act art. 5.1(a); ISO 9241-110 P1	Vincular a datos reales de inventario (§5.3.2)	Alta — 3 meses
Configuración opt-out para perfilado publicitario	RGPD art. 25; CEPD Guidelines 05/2020	Migrar a opt-in por defecto (§5.3.4)	Alta — 6 meses
Ausencia de DPIA documentada pública	RGPD art. 35; DSA art. 34	Elaborar y publicar resumen ejecutivo DPIA	Media — 6 meses
Ausencia de auditoría de fairness del sistema de IA	ISO/IEC TR 24368; DSA art. 37	Auditoría algorítmica independiente anual	Media — 12 meses
Textos de consentimiento en lenguaje no accesible	RGPD considerando 39; ISO 9241-210	Redacción en lenguaje B1, resumen ejecutivo (§5.3.4)	Media — 3 meses

Conclusiones

La auditoría de ética por diseño realizada sobre el sistema de Amazon.es con IA generativa revela un patrón sistemático de diseño persuasivo que, si bien no constituye formalmente manipulación subliminal en el sentido prohibido por el artículo 5 del AI Act, opera en una zona de riesgo ético que requiere atención regulatoria y técnica urgente. La clasificación formal del sistema como riesgo limitado bajo el AI Act no debe interpretarse como ausencia de riesgo ético real ya que la estructura rígida de la AI Act requiere su complementación interdisciplinaria. El análisis demuestra que la hiperpersonalización algorítmica, combinada con patrones oscuros de diseño de interfaz, puede erosionar la autonomía cognitiva del usuario de manera acumulativa y estructural, afectando dimensiones de la libertad humana que el derecho regulatorio europeo aún no ha capturado plenamente en categorías operativas precisas. Las cinco propuestas de rediseño articuladas mediante la metodología VSD —simetría de flujos, verificación de urgencia, panel de perfilado, flujo de consentimiento honesto y supervisión humana significativa— no son antagónicas al modelo de negocio de la plataforma. Existe evidencia empírica creciente (Acquisti et al., 2016; Athey et al., 2022) de que el diseño ético puede coexistir con la rentabilidad empresarial, y que la transparencia algorítmica puede generar confianza del usuario con efectos positivos sobre la fidelización a largo plazo.

La ética por diseño es una condición de legitimidad democrática del desarrollo tecnológico en sociedades que han decidido que los derechos fundamentales de los ciudadanos prevalecen sobre la optimización de las métricas de conversión.

El presente informe constituye una contribución metodológica a la práctica emergente de la auditoría ética de sistemas de IA. La combinación de herramientas analíticas que se utilizaron: taxonomía de dark patterns, marco regulatorio europeo, neuroderechos, VSD y estándares ISO, ofrece un modelo replicable para la evaluación de conformidad ética de plataformas digitales avanzadas que puede ser adaptado a otros casos de estudio en el ecosistema de la IA generativa. La gobernanza ética de la IA es, en última instancia, una cuestión de arquitectura de poder: qué tipo de sujeto queremos que produzcan nuestros sistemas digitales, y qué capacidades humanas de autodeterminación estamos dispuestos a proteger frente a la racionalidad instrumental del capitalismo de plataformas.

REFERENCIAS BIBLIOGRÁFICAS

AboBakr, A., & Azer, M. A. (2017). IoT Ethics Challenges and Legal Issues. 2017 12th International Conference on Computer Engineering and Systems (ICCES). https://doi.org/10.1109/ICCES.2017.8275325

Acquisti, A., Brandimarte, L., & Loewenstein, G. (2016). Privacy and human behavior in the age of information. Science, 347(6221), 509–514. https://doi.org/10.1126/science.aaa1465

Abubakar Wakili, S., & Bakkali, S. (2024). Internet of Things in healthcare: An adaptive ethical framework for IoT in digital health. Clinical eHealth, 7, 92–105. https://doi.org/10.1016/j.ceh.2024.07.001

Bielli, G. E., & Ordoñez, C. J. (2023). Contratos electrónicos. Teoría general y cuestiones procesales (2ª ed.). Buenos Aires: Thomson Reuters – La Ley.

Cialdini, R. B. (2009). Influence: Science and practice (5ª ed.). Pearson Education.

Comité Europeo de Protección de Datos [CEPD]. (2018). Guidelines on automated individual decision-making and profiling for the purposes of Regulation 2016/679 (WP251 rev.01). https://edpb.europa.eu

Friedman, B., & Hendry, D. G. (2019). Value Sensitive Design: Shaping Technology with Moral Imagination. MIT Press. https://doi.org/10.7551/mitpress/7585.001.0001

Gray, C. M., Kou, Y., Battles, B., Hoggatt, J., & Toombs, A. L. (2018). The dark (patterns) side of UX design. Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems, 534. https://doi.org/10.1145/3173574.3174108

Hansen, P. G., & Jespersen, A. M. (2013). Nudge and the manipulation of choice: A framework for the responsible use of nudge approach to behaviour change in public policy. European Journal of Risk Regulation, 4(1), 3–28.

Ienca, M., & Andorno, R. (2017). Towards new human rights in the neurotechnology age. Life Sciences, Society and Policy, 13(5). https://doi.org/10.1186/s40504-017-0050-1

ISO. (2019). ISO 9241-210:2019 — Ergonomics of human-system interaction — Part 210: Human-centred design for interactive systems. International Organization for Standardization.

ISO. (2020). ISO 9241-110:2020 — Ergonomics of human-system interaction — Part 110: Interaction principles. International Organization for Standardization.

ISO/IEC. (2022). ISO/IEC TR 24368:2022 — Information technology — Artificial intelligence — Overview of ethical and societal concerns. ISO/IEC.

ISO/IEC. (2023). ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system. ISO/IEC.

Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.

Kahneman, D., & Tversky, A. (1979). Prospect theory: An analysis of decision under risk. Econometrica, 47(2), 263–292. https://doi.org/10.2307/1914185

Livanis, E., Voultsos, P., Vadikolias, K., Pantazakos, P., & Tsaroucha, A. (2024). Understanding the Ethical Issues of Brain-Computer Interfaces (BCIs): A Blessing or the Beginning of a Dystopian Future? Cureus, 16(4), e58243. https://doi.org/10.7759/cureus.58243

Manders-Huits, N. (2011). What values in design? The challenge of incorporating moral values into design.

Science and Engineering Ethics, 17(2), 271–287.

Mathur, A., Acar, G., Friedman, M. J., Lucherini, E., Mayer, J., Chetty, M., & Narayanan, A. (2019). Dark patterns at scale: Findings from a crawl of 11K shopping websites. Proceedings of the ACM on Human-Computer Interaction, 3(CSCW). https://doi.org/10.1145/3359183

Metcalf, J., Moss, E., Watkins, E. A., Singh, R., & Elish, M. C. (2021). Algorithmic impact assessments and accountability: The co-construction of impacts. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 735–746.

Mittelstadt, B. (2017). Ethics of the health-related Internet of Things: A narrative review. Ethics and Information Technology, 19, 157–175. https://doi.org/10.1007/s10676-017-9426-4

Negri, Nicolás Jorge. Contratación electrónica: un análisis en el contexto de la sociedad digital en Anales de la Universidad Notarial Argentina | N° 2 abril 2025 | Electrónica ISSN 3072-6948. file:///C:/Users/marce/Downloads/4+ESTUDIO+-+NEGRI(Num.+2)%20(2).pdf

Nussbaum, M. C. (2006). Frontiers of Justice: Disability, Nationality, Species Membership. Harvard University Press.

Parlamento Europeo y Consejo de la Unión Europea. (2016). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales (RGPD). Diario Oficial de la Unión Europea, L 119/1.

Parlamento Europeo y Consejo de la Unión Europea. (2022). Reglamento (UE) 2022/2065 relativo a un mercado único de servicios digitales (DSA). Diario Oficial de la Unión Europea, L 277/1.

Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act). Diario Oficial de la Unión Europea.

Stahl, B. C., Timmermans, J., & Mittelstadt, B. D. (2016). The ethics of computing: A survey of the computing-oriented literature. ACM Computing Surveys, 48(4). https://doi.org/10.1145/2871196

Thaler, Richard and Sunstein, Cass, Nudg – Improving Decisions about Health, Wealth and Happiness (New Haven, CT: Yale University Press 2008)Google Scholar

Thaler, Richard H. and Sunstein, Cass R., “Libertarian Paternalism is not an oxymoron”, 70 The University of Chicago Law Review (2003), pp. 1159–1202.Google Scholar

Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Public Affairs.