INTELIGENCIA ARTIFICIAL AGÉNTICA EN LA PRAXIS LEGAL

Responsabilidad profesional y doble control en el uso de agentes autónomos

Gastón Enrique Bielli[1] y Karina Vanesa Salierno[2]

 

Thomson Reuters Argentina | LEGAL, del 31 de agosto de 2026. Cita: TR LALEY AR/DOC/2317/2026

 

Sumario: 1. Introducción: del texto a la acción. 2. ¿Qué es un agente de inteligencia artificial? Aproximación conceptual y técnica y escala jurídico-funcional. 3. Agentes de IA: la metáfora del “nuevo socio” y los riesgos de la inteligencia no humana. 4. El marco de la responsabilidad profesional en el derecho argentino y su proyección sobre lo agéntico. 5. El doble control humano especializado (SICURA-JUS) frente a la IA agéntica. 6. Aplicaciones en la actividad profesional del abogado: casuística y estándares de conducta. 7. La función jurisdiccional: el agente que “redacta la sentencia”. 8. La función notarial: el agente que “arma la escritura”. 9. Hacia un estatuto de los agentes: autonomía concedida, imputación graduada y responsabilidad concurrente. 10. Conclusiones.

 

1. Introducción: del texto a la acción

La reflexión jurídica sobre la inteligencia artificial generativa (IAGen) se ha construido, hasta aquí, sobre un presupuesto implícito que asume que la máquina produce un contenido y el operador humano decide qué hacer con él. En un trabajo anterior sostuvimos que los modelos lingüísticos de gran escala (large language models o LLM) generan lenguaje plausible, pero no conocimiento jurídicamente validado, y que su empleo sin controles adecuados compromete los deberes profesionales de diligencia, competencia, lealtad y confidencialidad. Sobre esa base propusimos un modelo de doble control humano especializado, denominado SICURA-JUS, que ordena la intervención del jurista en dos momentos críticos: la confección responsable de la instrucción o control de inputs y la auditoría exhaustiva del resultado o control de outputs.[3]

Ese esquema conserva plena vigencia pero resulta insuficiente para captar el salto cualitativo introducido por la denominada inteligencia artificial agéntica. Un agente de IA puede dejar de limitarse a elaborar un borrador y pasar a navegar por la web, consultar repositorios, completar formularios, utilizar herramientas externas, ingresar a portales, preparar comunicaciones, emitir comprobantes, encadenar tareas y ejecutar acciones instrumentales para cumplir un objetivo formulado en términos generales. El objeto del control deja entonces de ser un texto estático y pasa a ser una conducta desplegada en el tiempo, con múltiples pasos intermedios, accesos a datos y efectos potencialmente externos.

Ese desplazamiento del texto a la acción motiva este nuevo aporte donde afirmamos que la IA agéntica amplía la eficiencia pero también la superficie de riesgo. Por ello, no desplaza la responsabilidad del profesional sino que cuanto mayor sea la capacidad conferida al sistema para actuar sobre terceros, datos, plazos, patrimonio o procedimientos, mayor deberá ser la justificación del despliegue y más intensas las medidas de configuración, autorización, trazabilidad e interrupción. Sobre esta hipótesis nos proponemos: a) delimitar qué es un agente de IA y por qué su autonomía operativa altera la ecuación de la responsabilidad; b) demostrar que el marco argentino de responsabilidad civil, protección de datos y deontología profesional no solo resulta aplicable sino que exige controles proporcionales al grado de autonomía concedido; c) extender el modelo SICURA-JUS para gobernar procesos dinámicos; y d) trasladar el análisis a la práctica cotidiana del abogado, del juez y del notario.

2. ¿Qué es un agente de inteligencia artificial?

2.1. De los modelos generativos a los agentes

Un LLM es, en su base, un modelo entrenado para estimar distribuciones de probabilidad sobre secuencias de unidades lingüísticas y generar la continuación más plausible de un contexto. Esa descripción técnica, sin agotar todas las capacidades emergentes de la IA, encuentra su límite natural: la fluidez verbal no equivale a comprensión jurídica, verdad factual ni actualización normativa[4]. Su producto típico es un contenido que el profesional puede leer, contrastar, corregir, incorporar o descartar. En la metáfora que hemos empleado, dentro del estudio jurídico se asemeja a un “pasante digital” extraordinariamente rápido y elocuente, pero falible y carente de criterio profesional propio.

Según la Agencia Española de Protección de Datos, en su documento Inteligencia artificial agéntica desde la perspectiva de protección de datos (versión 1.2, febrero de 2026), “un agente de IA es un sistema de inteligencia artificial que utiliza modelos de lenguaje[5] para cumplir un objetivo. Un agente de IA actúa de manera adecuada según sus circunstancias y sus objetivos, es flexible ante entornos y metas cambiantes, aprende de la experiencia y toma decisiones apropiadas dadas sus limitaciones perceptivas y computacionales[6]. Para ello, descompone tareas complejas en subtareas, que se ejecutan de forma planificada creando una cadena de razonamiento, cada una de ellas implementada con distintas herramientas y que perciben el entorno mediante el acceso a servicios internos y externos”[7].

El agente de IA suele construirse sobre uno o más modelos generativos y añadirles, al menos, tres capacidades; la primera es la planificación operativa donde el sistema descompone un objetivo general en subtareas y selecciona una secuencia de pasos, la segunda es el uso de herramientas (tool use), es decir que puede invocar un navegador, una base documental, un gestor de correo, una API, un sistema de facturación o una plataforma de gestión; y, la tercera es la ejecución iterativa porque observa el resultado de una acción, lo incorpora como nuevo contexto y elige el paso siguiente sin requerir autorización humana en cada eslabón.

El término “decide” aplicado al agente debe entenderse desde una perspectiva funcional, evitando atribuirle características propias de los seres humanos. El sistema selecciona acciones conforme a objetivos, reglas, datos, permisos y probabilidades, pero no posee discernimiento, conciencia de las consecuencias ni responsabilidad moral. Sin embargo, esa selección funcional puede producir consecuencias jurídicas reales. La diferencia relevante es, entonces, que el LLM genera un insumo, mientras que el agente puede ejecutar una conducta, por ejemplo, remitir una comunicación, modificar un registro, iniciar un trámite, preparar una presentación, emitir un comprobante o realizar un pago. El problema y el riesgo radican en que, una vez ejecutados y exteriorizados, algunos de esos actos no se neutralizan mediante un simple “deshacer”. Por ello, cuando hablamos de IA agéntica, el análisis del riesgo se desplaza hacia el nivel de autonomía concedida al agente.

2.2. La autonomía como continuo: tres escalas disponibles

¿Qué nivel de autonomía tiene el agente y cuál es la incidencia de la conducta humana? La autonomía no se limita a ser algo que se tiene o no sino que es un aspecto gradual que puede evaluarse de distintas maneras, dependiendo del criterio seleccionado. Tres aportes recientes resultan especialmente útiles para el jurista porque miden dimensiones complementarias del grado de autonomía de los agentes.

La primera escala ordena la interacción según el rol que conserva el usuario. Los autores afirman que “… en lugar de considerar la autonomía como una consecuencia inevitable del aumento de las capacidades de los agentes, esta puede ser una decisión de diseño deliberada tomada por sus desarrolladores. Es decir, dado un conjunto fijo de capacidades y un entorno operativo definido, los desarrolladores pueden tomar decisiones intencionadas sobre el nivel de autonomía con el que opera un agente y guiar su diseño en función de dichas decisiones” y distinguen cinco niveles de autonomía: operador, colaborador, consultor, aprobador y observador[8]. En el extremo inicial, la persona planifica, decide y ordena cada acción; en el extremo final, el sistema opera con amplia autonomía y la persona audita a posteriori o interviene solo ante una emergencia. Su valor jurídico consiste en desplazar la atención desde la capacidad abstracta del producto hacia la posición concreta del ser humano que lo utiliza.

La segunda escala, elaborada desde la perspectiva de la protección de datos, formula cuatro posiciones: el agente propone y el humano opera; ambos colaboran; el agente opera y el humano es consultado o aprueba; y el agente opera mientras el humano observa. La Agencia Española de Protección de Datos destaca que el nivel de autonomía no es una cualidad inmutable del producto sino que constituye una decisión de diseño del responsable, que debe justificarse sobre evidencias y documentarse[9].

La tercera escala, desarrollada por IALAB y CAF, ordena cinco niveles de automatización: software tradicional sin IA; automatización con IA generativa sin autonomía; workflow agéntico de baja autonomía; flujo de autonomía moderada orquestado mediante rutas fijadas por personas; y workflow agéntico de elevada autonomía[10]. Su aporte es práctico y la base de la escala se enquista en el principio de proporcionalidad vs eficacia: es decir que la solución debe ser proporcional al problema. En este sentido afirman que no corresponde resolver mediante un agente autónomo aquello que un automatismo determinista, más simple y auditable puede ejecutar con menor costo y riesgo. Analizadas las tres perspectivas, las escalas propuestas no se contradicen sino que se complementan. En este sentido la primera mide el rol del usuario; la segunda, el reparto de la operación; la tercera, la sofisticación del flujo, no obstante, ninguna de las tres responde por sí sola a la pregunta específicamente jurídica: ¿qué ocurre cuando la acción del sistema produce efectos externos, irreversibles o capaces de comprometer derechos fundamentales?

2.3. Una escala jurídico-funcional propia de cuatro grados de agencia

Proponemos una escala propia de cuatro grados de agencia construida sobre tres criterios jurídicos fundamentales[11]. El primero es el reparto entre consentimiento y ejecución. No interesa atribuir al sistema una voluntad humana inexistente, sino determinar quién consiente el curso de acción y quién ejecuta materialmente cada acto. Mientras la persona conserva la ejecución final, la imputación es relativamente directa y la dificultad aumentará cuando el sistema ejecuta sobre la base de una configuración previa y sin aprobación singular.

El segundo criterio es la reversibilidad. Una acción es reversible cuando puede deshacerse antes de producir consecuencias jurídicas o materiales relevantes y a contrario sensu, es irreversible o por lo menos de reversión imperfecta, cuando consume un plazo, comunica información, modifica un registro, genera un pago, perfecciona una aceptación o expone datos a terceros.

El tercero es el alcance externo. Una operación interna del estudio, del juzgado o de la escribanía suele admitir corrección antes de su utilización pero una acción que trasciende hacia el cliente, el requirente, la contraparte, el tribunal, un registro, una autoridad fiscal o un proveedor ya puede haber producido efectos independientes de la intención posterior del profesional.

De la combinación de esos tres criterios jurídicos elaboramos una escala de cuatro grados de autonomía donde los grados describen de manera ascendente despliegues de capacidades con independencia del sistema utilizado. Esto significa que una misma aplicación puede operar en grado I para investigar y en grado III si recibe credenciales y permisos de ejecución. Asimismo, es importante destacar que la autonomía del agente es, desde el punto de vista jurídico autonomía concedida, es decir, alguien selecciona la herramienta, define el objetivo, habilita accesos, fija límites y decide si existe o no aprobación humana. Esa decisión constituye el punto inicial de la imputación de responsabilidad que desarrollaremos más adelante.

Grado I. Agente instrumental. El agente procesa información, ordena, busca, resume, compara, sugiere o prepara, pero la acción externa la ejecuta siempre la persona. Sus resultados son internos y, en principio, reversibles: buscadores semánticos, indexadores de prueba, correctores de estilo, generadores de líneas de tiempo y asistentes de clasificación. La decisión y la ejecución permanecen mediadas por un control humano previo.

Grado II. Agente asistencial con proyección externa. El agente interactúa con terceros o prepara actuaciones destinadas a exteriorizarse, aunque los actos jurídicamente relevantes requieren todavía una validación humana final. Puede responder preguntas frecuentes, informar el estado de un trámite, proponer una agenda o elaborar una comunicación. Aparece aquí el deber de transparencia relacional y un riesgo informativo o precontractual que no existe en la misma medida en el grado I.

Grado III. Agente ejecutivo. El agente ejecuta acciones externas dentro de parámetros preconfigurados y sin aprobación humana acto por acto: envía, notifica, factura, paga, acepta condiciones, renueva servicios o modifica registros. La voluntad del profesional se expresa en la configuración inicial, pero no necesariamente en cada resultado concreto y entonces, el foco de la diligencia se desplaza hacia la arquitectura de permisos, los límites, los puntos de detención y los registros de actividad.

Grado IV. Agente orquestador. El agente planifica secuencias complejas, coordina plataformas y puede delegar subtareas en otros agentes. A la irreversibilidad y al alcance externo se añaden la opacidad de la planificación, la dependencia de múltiples servicios y los errores compuestos: un dato incompleto alimenta una inferencia defectuosa que, a su vez, desencadena una acción equivocada.

3. Agentes de IA: la metáfora del “nuevo socio” y los riesgos de la inteligencia no humana

3.1. La seducción de la metáfora del “socio” y sus límites

La industria del legaltech ha popularizado la imagen del agente como “nuevo socio” del estudio que se traduce en un colaborador incansable que trabaja de manera continua, recuerda los expedientes, consulta bases y ejecuta tareas en segundos. La retórica comercial llegó a prometer que una herramienta convertía “horas o días de trabajo legal en segundos”, en el contexto del uso de IA durante el juicio penal seguido contra Prakazrel Michel. La posterior discusión judicial mostró la distancia que puede existir entre el marketing y la confiabilidad forense de una herramienta[12].

La metáfora resulta atractiva, pero es jurídicamente equívoca, ya que un socio humano es un centro de imputación, tiene capacidad, patrimonio, matrícula, deberes deontológicos, responsabilidad profesional y, eventualmente, seguro. En cambio, un agente de IA no reúne ninguna de esas condiciones bajo el derecho vigente. Es software o un sistema compuesto, es decir, un bien inmaterial y un instrumento utilizado por personas u organizaciones, y su eventual capacidad de actuar no lo transforma en sujeto de derecho. Por ello, conviene reformular la metáfora: si el LLM para el estudio jurídico era un pasante digital cuyo trabajo debía revisarse, el agente es ese mismo pasante al que se entregaron accesos, credenciales, herramientas y capacidad de ejecución. En este escenario, el aumento de facultades operativas traslada la necesidad de control desde el mero contenido hacia el proceso completo.

3.2. Opacidad, alucinación, autonomía y permeabilidad instruccional

El agente puede exhibir planificación, adaptación y selección de acciones, pero carece de comprensión normativa, conciencia de las consecuencias y responsabilidad moral. En este aspecto existen algunas características típicas de los agentes que deben tenerse en cuenta a la hora de su implementación en toda estructura jurídica.

En primer lugar, es importante destacar su opacidad. La auditoría de un sistema complejo, además de observar las entradas y las salidas, requiere controlar la dinámica de los procesos. El acceso de caja negra puede resultar insuficiente para reconstruir por qué el modelo produjo un resultado, cuáles fueron sus dependencias, qué datos utilizó o cómo se comportará ante variaciones del entorno[13]. En este sentido, Peralta afirma: “Cuando la inteligencia artificial interviene de modo material en tareas de investigación, clasificación, síntesis, redacción o apoyo decisorio, la cuestión relevante ya no es únicamente la corrección aparente del resultado final, sino la posibilidad de reconstruir, controlar y justificar el proceso por el cual dicho resultado fue generado, revisado y adoptado por un operador humano responsable. La hipótesis central es que el uso profesionalmente legítimo de la inteligencia artificial en el trabajo jurídico exige un estándar mínimo de trazabilidad, validación humana sustantiva y carácter defendible del proceso. Ese estándar se intensifica cuando la IA opera bajo arquitecturas agentivas o conectadas a fuentes externas, repositorios, herramientas o bases documentales, debido a riesgos específicos como la inyección de prompts, la contaminación de bases de conocimiento, la exfiltración de información sensible y la ejecución de acciones no previstas”[14]. En un agente, esa opacidad se proyecta sobre una cadena de acciones y herramientas.

En segundo lugar, aparece la alucinación, entendida como la producción de afirmaciones falsas o no sustentadas con apariencia de seguridad. En un sistema puramente generativo, el error permanece como contenido hasta que una persona lo utiliza. En un agente, puede transformarse directamente en conducta: calcular mal un vencimiento, confundir un destinatario, asumir que un trámite se completó o incorporar a un formulario un dato no verificado. En este sentido, la alucinación puede afectar directamente derechos fundamentales cuando el sistema malinterpreta datos existentes o completa lagunas con información inexistente.

El tercero es la velocidad y la autonomía de ejecución. La sucesión rápida de pasos reduce la ventana natural de reflexión. El profesional puede advertir el desvío cuando la comunicación ya fue enviada, el archivo ya fue compartido o el registro ya fue modificado, no antes. Existe una relación inversa: a mayor grado de autonomía y velocidad de ejecución, menor es la posibilidad de una intervención humana efectiva antes de que el proceso produzca efectos jurídicos.

El cuarto es la permeabilidad instruccional. El agente puede recibir instrucciones no solo del usuario, sino también de documentos, correos, páginas o archivos que consulta. La inyección indirecta de prompts debe distinguirse de la contaminación documental y del envenenamiento de datos o modelos, pero todas esas técnicas pueden desviar el comportamiento y provocar accesos o comunicaciones no previstos[15].

Los riesgos, además, se acumulan. En una tarea de múltiples pasos, un error temprano puede propagarse, ser tratado como verdadero y fundar decisiones posteriores. Esta dinámica explica por qué la confiabilidad de una respuesta aislada no garantiza la confiabilidad de un flujo agéntico completo.

3.3. La reserva de humanidad como principio rector

Frente a esos riesgos, la doctrina ha formulado la idea de reserva de humanidad. Bajo este concepto se entiende que determinadas decisiones y funciones, por su incidencia sobre derechos, patrimonio, libertad o fe pública, no pueden ser abdicadas en favor de un sistema automatizado. El concepto dialoga con el principio de supervisión y determinación humanas de la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, según el cual la responsabilidad y rendición de cuentas últimas deben permanecer en personas físicas o jurídicas y los sistemas no deben desplazar la responsabilidad humana final[16].

La reserva de humanidad no niega la utilidad del agente pero delimita el ámbito en el que puede asistir al humano sin riesgo de sustituir con la complejidad de las consecuencias que de ello derivan o pueden derivar. Un agente puede recopilar, clasificar, ordenar, comparar, alertar, preparar borradores y ejecutar pasos instrumentales reversibles pero no puede reemplazar el juicio profesional del abogado, la decisión jurisdiccional del juez ni la inmediación, calificación y dación de fe del notario.

4. El marco de la responsabilidad profesional en el derecho argentino y su proyección sobre lo agéntico

Al cierre de este trabajo, la Argentina no cuenta con una ley federal general e integral de inteligencia artificial. Existe un marco fragmentario compuesto por el derecho común, la protección de datos, normas sectoriales, programas y guías administrativas y diversos proyectos legislativos. Esa ausencia de una ley integral no equivale a un vacío de responsabilidad ya que las reglas vigentes proporcionan criterios suficientes para analizar la selección, configuración y uso profesional de agentes de IA[17].

4.1. El estándar de diligencia de los artículos 1724 y 1725 del CCCN

El artículo 1724 del Código Civil y Comercial de la Nación define la culpa como la omisión de la diligencia debida según la naturaleza de la obligación y las circunstancias de las personas, el tiempo y el lugar; incluye la imprudencia, la negligencia y la impericia profesional. El artículo 1725 añade que, cuanto mayor sea el deber de obrar con prudencia y pleno conocimiento de las cosas, mayor será la diligencia exigible y la valoración de la previsibilidad de las consecuencias[18]. La especialización del abogado y del notario, la confianza depositada por el cliente y la relevancia de los bienes jurídicos involucrados justifican un juicio de conducta conforme a la lex artis y a las técnicas disponibles en el momento de la actuación. Kemelmajer de Carlucci ha explicado que la responsabilidad profesional se valora a partir de la diligencia exigible en la profesión, con atención a la impericia o negligencia y al estado de la técnica, sin necesidad de apelar a fórmulas absolutas o descontextualizadas[19]. La proyección sobre la IA agéntica es directa, aunque no debe aplicarse de forma mecánica ya que no cabe afirmar que toda autonomía vuelve necesariamente más probable cualquier error; sí que amplía la exposición al error cuando el sistema recibe más permisos, encadena más pasos o ejecuta acciones externas. Como dijimos, la diligencia exigible debe crecer de manera proporcional al impacto, la irreversibilidad, la sensibilidad de los datos y la dificultad de detectar o reparar el desvío.

4.2. El artículo 1768 CCCN y la culpa profesional

El artículo 1768 CCCN dispone que la actividad del profesional liberal está sujeta a las reglas de las obligaciones de hacer y que la responsabilidad es subjetiva, salvo que se haya comprometido un resultado concreto. También excluye esa actividad del régimen objetivo de las actividades riesgosas, con la excepción del daño derivado del vicio de las cosas empleadas en la prestación del servicio[20].

Por ello, no es preciso sostener que toda prestación profesional constituye invariablemente una obligación de medios. El análisis depende del contenido concreto de la obligación y de si se prometió o no un resultado determinado. En lo que aquí interesa, el uso defectuoso de un agente se encuadrará, por regla, en la culpa profesional cuando el daño derive de una selección inadecuada, una configuración insegura, permisos excesivos, falta de verificación, ausencia de barreras o insuficiente capacitación. La negligencia puede consistir en omitir el cotejo de datos, citas, archivos o acciones registradas por el agente. La imprudencia, en habilitar la ejecución de actos irreversibles sin puntos de autorización o contingencia y la impericia, en desplegar una herramienta compleja sin comprender sus límites, flujos de datos, vulnerabilidades o mecanismos de control. La guía elaborada por el CPACF sintetiza esta regla al señalar que la IA es un instrumento, que no exime de responsabilidad y que el abogado sigue siendo responsable del contenido que presenta o firma. También afirma que la última decisión debe permanecer en la persona y que la IA puede sugerir, pero no sustituir el criterio jurídico[21]. Aunque la guía fue redactada principalmente para IA generativa, su fundamento se proyecta con mayor intensidad sobre sistemas capaces de ejecutar. En este sentido la guía afirma dentro de los pilares de uso responsable que se deberá “Promover siempre el control humano adecuado y vedar la delegación de decisiones : La última palabra la tiene que tener un humano. Siempre. La IA puede sugerir, nunca decidir. De acuerdo al Código de Ética Profesional, es misión esencial de la abogacía el afianzar la justicia y la intervención profesional del abogado, función indispensable para la realización del derecho. Es preciso señalar que la IA Gen, dada su naturaleza, no se halla inmune a la producción de resultados que contengan sesgos susceptibles de generar discriminación, así como tampoco a caer en “alucinaciones”. Estos aspectos adquieren una relevancia particular en el ámbito legal, donde la exactitud y la veracidad son primordiales. En consecuencia, la supervisión humana, provista de pensamiento crítico para analizar, corregir o modificar el contenido generado por la IA Gen, constituye una actividad ineludible en el trabajo colaborativo con esta nueva herramienta”[22].

4.3. El deber general de prevención: artículos 1710, 1711 y 1713 CCCN

El artículo 1710 CCCN impone a toda persona el deber de evitar causar un daño injustificado, adoptar de buena fe medidas razonables para impedirlo o disminuirlo y no agravarlo si ya se produjo. La acción preventiva del artículo 1711 CCCN procede cuando una acción u omisión antijurídica hace previsible la producción, continuación o agravamiento de un daño, sin exigir factor de atribución. El artículo 1713 CCCN autoriza medidas de dar, hacer o no hacer, con criterios de menor restricción y mayor idoneidad[23]. Aplicado a un agente de IA, el deber de prevención se traduce en una obligación de gobernanza donde necesariamente se deberán evaluar riesgos antes del despliegue, probar el sistema en un entorno controlado, limitar privilegios, incorporar aprobaciones humanas, registrar acciones, establecer alertas y prever procedimientos de interrupción y respuesta. En un caso concreto, la tutela preventiva podría justificar la suspensión de una funcionalidad autónoma, la revocación de accesos o la imposición de una aprobación humana antes de acciones sensibles.

4.4. Protección de datos personales y secreto profesional

La Ley 25.326 exige que los datos sean adecuados, pertinentes y no excesivos respecto de la finalidad; que sean exactos, actualizados y tratados de modo lícito; que exista una base habilitante; que se informe a las personas; y que se adopten medidas de seguridad y confidencialidad. Su artículo 10 impone el deber de secreto a quienes intervienen en el tratamiento, incluso después de finalizada la relación. El artículo 12 regula las transferencias internacionales, complementado por su reglamentación[24]. En la IA agéntica el problema excede la recomendación elemental de no copiar datos sensibles en un chat público ya que un agente puede leer correos, abrir expedientes, consultar bases, retener memoria, invocar servicios de terceros, transmitir parámetros y almacenar registros. En este sentido, cada funcionalidad gradual de la herramienta amplía la superficie de tratamiento y puede incorporar nuevos destinatarios, encargados o transferencias. Por ello, antes de desplegarlo, el profesional debe determinar qué categorías de datos puede acceder; para qué finalidad; durante cuánto tiempo; dónde se almacenan; si se utilizan para entrenar o mejorar modelos; qué proveedores y subproveedores intervienen; en qué jurisdicciones se procesan; cómo se revocan permisos; y qué trazabilidad existe. La anonimización o disociación efectiva puede reducir riesgos, pero la mera sustitución de nombres por iniciales no siempre impide la reidentificación cuando subsisten datos contextuales suficientes. Cuando la identificación no sea necesaria, debe aplicarse minimización; cuando sí lo sea, corresponde utilizar entornos y contratos compatibles con el secreto profesional, controles de acceso y garantías técnicas adecuadas.

4.5. Deontología profesional y responsabilidades concurrentes

A la responsabilidad civil se suman las consecuencias disciplinarias. El Código de Ética del CPACF consagra, entre otros, los deberes de lealtad, probidad, buena fe, capacitación permanente, secreto profesional, veracidad frente al cliente, celo, saber y dedicación. La Ley 23.187 contempla sanciones disciplinarias que incluyen llamado de atención, advertencia, multa, suspensión y, en supuestos graves y específicos, exclusión de la matrícula[25]. El profesional no queda liberado porque también puedan responder el estudio, la organización empleadora, el proveedor del modelo, el integrador, el desarrollador de una aplicación o un tercero atacante. La eventual concurrencia depende del vínculo contractual, el régimen aplicable, la causalidad y la conducta de cada interviniente. La pluralidad de responsables puede distribuir el costo del daño, pero no elimina el deber propio de selección, configuración, supervisión y prevención.

4.6. Actividad riesgosa y vicio de la cosa

El artículo 1757 CCCN establece responsabilidad objetiva por el riesgo o vicio de las cosas y por actividades riesgosas o peligrosas. Sin embargo, el artículo 1768 CCCN excluye expresamente la actividad del profesional liberal de la responsabilidad objetiva por actividad riesgosa y limita la excepción a los daños derivados del vicio de las cosas empleadas[26]. Como el agente de IA es normalmente software (un bien inmaterial) su encuadre como “cosa” no es automático. Podrán existir supuestos en los que un defecto material de hardware active la excepción, o casos en los que otros regímenes especiales alcancen al proveedor de un producto o servicio digital pero, respecto de la conducta del profesional que utiliza el agente, el análisis principal seguirá centrado en la culpa: qué conocía o debía conocer, qué permisos otorgó, qué salvaguardas implementó, qué controles efectuó y cómo reaccionó ante el incidente.

4.7. Del pasante digital al agente autónomo: intensificación del deber de gobierno

El abogado diligente históricamente verificó citas, consultó textos oficiales, controló plazos y revisó el trabajo de sus colaboradores por ello, la IA generativa no creó esos deberes sino que mutó el instrumento sobre el que recaen. Asimismo, la IA agéntica amplía nuevamente el objeto de control que ya no se limita al resultado final, sino que comprende la selección del sistema, la arquitectura de accesos, los datos utilizados, las autorizaciones, los registros y los mecanismos de recuperación. La transformación es fáctica y cuando el asistente o auxiliar deja de redactar para comenzar a actuar, el deber profesional se convierte también en un deber de gobierno tecnológico.

5. El doble control humano especializado (SICURA-JUS) frente a la IA agéntica

5.1. Del control de instrucciones y resultados al control del despliegue

El modelo SICURA-JUS fue concebido para ordenar la intervención humana frente a la IA generativa. El control de inputs comprende la elaboración de instrucciones claras, la contextualización jurídica (jurisdicción, fuero, hechos, normativa y finalidad), la delimitación de la tarea y la exclusión de información que no deba compartirse. El control de outputs impone auditar el resultado, verificar hechos y cálculos, contrastar citas en fuentes primarias y asumir la posición de editor responsable antes de utilizar el contenido[27]. En la IA agéntica esas dos fases siguen siendo necesarias, pero cambian de objeto. La “entrada” ya no es solo el prompt sino que incluye también la configuración del sistema, las herramientas habilitadas, las credenciales, la memoria, las reglas de escalamiento y los límites de actuación. El “resultado” tampoco es un único documento ya que ahora comprende una secuencia de consultas, decisiones instrumentales, comunicaciones, transformaciones de datos y acciones externas.

5.2. ¿Por qué el control acto por acto puede resultar insuficiente?

El doble control clásico presupone un resultado discreto, legible y anterior a su uso. El agente quiebra ese presupuesto porque no solo puede encadenar numerosos actos intermedios, algunos de los cuales ocurren fuera de la vista inmediata del usuario, sino que ciertas acciones producen efectos antes de que exista una oportunidad real de revisión. A ello se suma que la velocidad del flujo puede volver ilusorio un control exclusivamente manual. De esto no se sigue que deba abandonarse el control humano, sino que debe diseñarse de modo distinto. Así, en tareas de bajo riesgo puede bastar una auditoría por muestreo y controles automáticos de consistencia; en acciones de alto impacto o difícil reversión, en cambio, la aprobación humana previa sigue siendo indispensable para colocar barreras en los puntos donde el error puede convertirse en daño.

5.3. El doble control extendido: cuatro capas

Proponemos extender entonces el SICURA-JUS mediante cuatro capas complementarias:

Primera capa: control de configuración o input estructural. El deber primario consiste en definir el objetivo, las fuentes admitidas, las herramientas disponibles, los permisos, los datos accesibles, las reglas de memoria, los límites temporales y económicos y los supuestos de derivación. En esta capa debe aplicarse el principio de mínimo privilegio es decir que el agente solo recibe los accesos indispensables para la tarea y durante el tiempo estrictamente necesario. La configuración debe incluir, además, pruebas previas en entornos controlados, criterios de aceptación, versiones documentadas, listas de acciones prohibidas y una evaluación periódica de cambios del proveedor. Un agente que modifica su comportamiento después de una actualización no debe continuar operando sobre procesos críticos sin nueva validación.

Segunda capa: control de autorización o intervención humana en la ejecución. Las acciones con relevancia jurídica externa, alto impacto o reversión imperfecta deben incorporar un punto de detención. Presentar un escrito, enviar una comunicación sustancial, aceptar condiciones, emitir un comprobante, realizar un pago, compartir un expediente o modificar información registral exige, como estándar propuesto, aprobación explícita de una persona competente. La AEPD recomienda definir desde el diseño puntos de control antes de acciones sensibles, irreversibles o capaces de generar responsabilidad legal[28].

Tercera capa: control de trazabilidad o resultado verificable. El sistema debe conservar registros íntegros y comprensibles sobre las fuentes consultadas, datos procesados, herramientas invocadas, instrucciones relevantes, acciones ejecutadas, fecha, hora, identidad del usuario y resultado. La trazabilidad no equivale a revelar cadenas internas de razonamiento del modelo sino que exige evidencia operativa suficiente para reconstruir qué ocurrió y demostrar la diligencia del despliegue en cada caso.

Cuarta capa: control de interrupción, cortacircuitos y recuperación. Deben existir mecanismos para detener la ejecución ante desvíos, bucles, accesos anómalos, comunicaciones masivas, superación de topes o pérdida de consistencia. En agentes veloces, el corte no puede depender exclusivamente de la reacción manual sino que se requieren alertas, límites duros de pasos, revocación automática de credenciales, degradación a modo seguro y procedimientos de recuperación. La documentación de AEPD identifica expresamente los circuit breakers, las rutas de escalamiento, la reversibilidad y el principio de los cuatro ojos como medidas disponibles para procesos de alto impacto[29]. La política de cuatro ojos en el uso de sistemas de IA establece que toda decisión, resultado o recomendación generada por una herramienta de inteligencia artificial debe ser revisada o validada por una segunda persona antes de adoptarse como definitiva.

5.4. Intervención humana significativa, no meramente nominal

La supervisión humana solo es real cuando quien interviene posee competencia técnica y jurídica, autoridad para alterar o detener el resultado, información suficiente, independencia, recursos y tiempo. Una persona que recibe centenares de alertas sin posibilidad material de analizarlas no supervisa, sino que legitima formalmente una automatización que permanece fuera de control. El artículo 14 del Reglamento de IA exige que los sistemas de alto riesgo puedan ser vigilados de manera efectiva por personas físicas durante su utilización y que las medidas de supervisión sean proporcionales a los riesgos, al nivel de autonomía y al contexto de uso[30]. No se trata de una norma directamente aplicable a la práctica profesional argentina, pero constituye una referencia comparada coherente con el deber local de prevención y con el principio de responsabilidad humana de la UNESCO[31]. El objetivo del doble control extendido es, precisamente, convertir la supervisión en capacidad efectiva de comprender, verificar, corregir, escalar e interrumpir.

6. Aplicaciones en la actividad profesional del abogado: casuística y estándares de conducta

6.1. Agentes de navegación e investigación jurídica

El agente recibe la consigna de investigar una cuestión, navega repositorios, consulta bases, recupera normas y jurisprudencia y devuelve un informe con referencias aparentemente listas para utilizar. La conexión a fuentes reales reduce algunos riesgos respecto de un modelo desconectado, pero no elimina la posibilidad de error. El sistema puede interpretar mal una sentencia, tomar una norma derogada como vigente, confundir una opinión minoritaria con la doctrina del tribunal, citar un pasaje fuera de contexto o completar una fuente no recuperada mediante una referencia plausible.

La casuística comparada muestra el problema. En Mata v. Avianca, Inc. se impusieron sanciones por la presentación y posterior defensa de decisiones judiciales inexistentes generadas mediante ChatGPT. En el procedimiento disciplinario People v. Crabill, el abogado utilizó citas falsas y realizó manifestaciones inexactas al tribunal. En Smith v. Farwell se reprochó la inclusión de autoridades inexistentes. En Daniel Jaiyong An v. Archblock, Inc., la Corte de Cancillería de Delaware detectó citas incorrectas, denegó la petición con perjuicio y advirtió que futuras presentaciones debían certificar el uso de IA; esa resolución no impuso en ese momento una sanción pecuniaria[32]. En el ámbito argentino, la Cámara de Apelación en lo Civil y Comercial de Rosario, Sala II, examinó agravios sustentados en precedentes inexistentes en Giacomino c. Monserrat. El tribunal formuló un llamado de atención, comunicó lo ocurrido al Colegio profesional y aclaró que esa medida no constituía, por sí misma, una sanción. El fallo enfatizó que el riesgo de alucinaciones es conocido y que el abogado debe verificar la información antes de presentarla[33]. El estándar de conducta es inequívoco: ninguna cita, norma, fecha o precedente aportado por un agente debe incorporarse a una presentación sin contraste independiente en una fuente primaria u oficial. El enlace suministrado por el propio agente no reemplaza la verificación, porque puede dirigir a una fuente distinta de la afirmación atribuida. También debe controlarse la vigencia, el tribunal, la integración, el contexto procesal, la doctrina efectivamente sostenida y la pertinencia para el caso.

6.2. Agentes en portales de notificaciones y presentaciones electrónicas

En este escenario el agente accede al sistema de gestión, revisa movimientos, descarga notificaciones, identifica vencimientos, prepara borradores y, si se lo habilita, adjunta archivos o ejecuta presentaciones. Se trata de un despliegue de grado III por su incidencia directa sobre el proceso. Los riesgos combinan irreversibilidad y consecuencias procesales. Un cómputo defectuoso puede conducir a una presentación extemporánea; una falsa confirmación puede dejar un escrito en borrador; un archivo equivocado puede revelar datos reservados; una selección incorrecta de expediente puede incorporar información ajena; y una falla de autenticación puede generar una apariencia errónea de actuación profesional.

Como estándar de diligencia, la presentación de escritos y documentos debe quedar sujeta a aprobación humana previa, con lectura integral y control de tribunal, carátula, partes, plazo, tipo de presentación, anexos, firma y destinatario. Este estándar se formula como una exigencia profesional derivada de la relevancia y difícil reversión del acto; no como la descripción de una prohibición legal general y expresa actualmente vigente para toda automatización.

El cálculo de plazos generado por el sistema debe tratarse como una hipótesis a validar conforme a la normativa procesal, días inhábiles, notificación concreta y eventuales reglas locales. Después de presentar, corresponde comprobar la constancia oficial de recepción y conservarla. La confianza en un mensaje interno del agente no sustituye la evidencia del portal.

6.3. Agentes conversacionales para atención de clientes

Un estudio puede utilizar un agente para responder preguntas frecuentes, informar requisitos generales, agendar reuniones o comunicar el estado de un trámite. Se trata, normalmente, de un grado II. El riesgo aumenta cuando el sistema formula orientación jurídica individualizada, recibe documentos o produce afirmaciones que el destinatario interpreta como consejo profesional definitivo.

Estos sistemas conversacionales deben cumplir como mínimo cuatro reglas básicas: La primera regla es la transparencia, es decir, la interfaz debe informar de manera clara que se interactúa con un sistema de IA y explicar su finalidad y sus límites. El artículo 50.1 del Reglamento europeo de IA exige, dentro de su ámbito, informar a las personas cuando interactúan directamente con un sistema de IA, salvo que ello sea evidente. Como estándar comparado, la regla refuerza los deberes locales de lealtad y no engaño; no autoriza a afirmar que el derecho argentino impone hoy, con idéntico texto y alcance, una obligación general de información continua[34]. La segunda regla es la derivación. El agente debe reconocer supuestos que requieren intervención profesional: urgencias, vencimientos, conflicto de intereses, violencia, niñez, capacidad, salud, privación de libertad, operaciones patrimoniales relevantes o cualquier consulta que exija valoración individual. En esos casos no debe improvisar una respuesta concluyente, sino derivar a una persona competente. La tercera regla es la minimización de datos. Debe evitarse que el sistema solicite información sensible antes de que resulte necesaria. La persona debe saber quién tratará sus datos, con qué finalidad y bajo qué condiciones. Las conversaciones no deben reutilizarse para finalidades incompatibles ni conservarse indefinidamente. La cuarta regla es el control del contenido jurídico. Las respuestas generales pueden automatizarse dentro de un corpus cerrado y validado; la orientación individualizada debe incorporar revisión humana antes de producir una recomendación susceptible de generar confianza y consecuencias.

6.4. Agentes de facturación y gestión administrativa

El agente puede relevar tareas, calcular importes, preparar liquidaciones, emitir comprobantes, conciliar pagos y generar recordatorios. Aunque se trate de administración, el acto puede producir efectos tributarios, contractuales, patrimoniales y reputacionales.

Un error de identificación puede facturar al sujeto equivocado; un cálculo incorrecto puede afectar honorarios o impuestos; una comunicación de deuda improcedente puede vulnerar la confidencialidad o lesionar al destinatario; y la transmisión a un sistema externo de cobranzas o información crediticia, cuando corresponda y sea jurídicamente admisible, exige controles adicionales sobre exactitud, legitimación y destinatarios.

La emisión de comprobantes y las comunicaciones de contenido patrimonial deben incorporar validación previa o, en operaciones estandarizadas y de bajo riesgo, controles automáticos robustos: topes, conciliación con registros fuente, detección de duplicados, alertas ante variaciones y bloqueo ante datos incompletos. Toda acción debe ser trazable y permitir rectificación conforme a la normativa aplicable.

6.5. Síntesis: matriz de riesgo y control

Aplicación	Grado habitual	Riesgo dominante	Barrera decisiva
Investigación jurídica	I-II	Citas apócrifas, interpretación errónea, desactualización	Verificación independiente en fuente primaria
Portales y presentaciones	II-III	Pérdida de plazo, expediente o archivo equivocado, divulgación	Aprobación humana previa y control de constancia oficial
Atención conversacional	II	Asesoramiento erróneo, engaño, tratamiento excesivo de datos	Transparencia, límites, derivación y minimización
Facturación y gestión	II-III	Error patrimonial o fiscal, comunicaciones improcedentes	Validación, topes, conciliación y trazabilidad

La regla transversal es la proporcionalidad: cuanto mayor sea la autonomía, el impacto, la irreversibilidad y el alcance externo, más temprana e intensa debe ser la barrera humana.

7. La función jurisdiccional: el agente que “redacta la sentencia”

7.1. El supuesto: leer la carpeta y generar el fallo

Consideremos un magistrado o un equipo judicial que encomienda a un agente: “Ingresá a la carpeta, leé escritos, prueba y dictámenes y redactá la sentencia”. El sistema organiza pretensiones, sintetiza la prueba y devuelve un proyecto formalmente coherente, con resultandos, considerandos y parte dispositiva. La facilidad técnica no resuelve la cuestión constitucional ni funcional: ¿qué parte de ese proceso puede ser auxiliada y cuál debe permanecer necesariamente en cabeza del órgano judicial humano?

7.2. Juez natural, motivación y reserva de humanidad

En el diseño constitucional y legal vigente, la jurisdicción se ejerce por jueces investidos conforme a las reglas de competencia e imparcialidad. De allí se infiere que la valoración de hechos y prueba, la interpretación aplicable, la formación del convencimiento, la motivación y la decisión no pueden transferirse a un sistema artificial. La afirmación de que “el juez natural es humano” expresa una conclusión institucional del ordenamiento vigente y del principio de no sustitución; no pretende citar una cláusula constitucional que utilice literalmente esa fórmula. La Corte Constitucional de Colombia, en la Sentencia T-323 de 2024, trazó una línea aplicable a estos casos al afirmar que la IA puede apoyar tareas administrativas y documentales, pero no reemplazar funciones jurisdiccionales indelegables que requieren razonamiento humano para interpretar hechos, valorar prueba, motivar y adoptar la decisión. El tribunal también impuso exigencias de transparencia, verificación, responsabilidad y protección de la privacidad[35].

Hemos señalado, en igual dirección, que los LLM pueden asistir en organización, búsqueda, síntesis o estilo, pero el razonamiento decisorio y su justificación deben ser propios del magistrado[36].

7.3. Riesgos sobre la motivación, la prueba y la independencia

Un agente que resume una carpeta puede omitir una pieza, confundir una alegación con un hecho probado, homogeneizar testimonios contradictorios o introducir información ajena al expediente. Si redacta los fundamentos, puede apoyar la solución en precedentes inexistentes, sesgos de entrenamiento o patrones estadísticos incompatibles con las particularidades del caso.

La motivación judicial debe revelar un razonamiento jurídicamente controlable, vinculado a la prueba producida y a las cuestiones sometidas a decisión. La aceptación acrítica de un proyecto agéntico puede erosionar el debido proceso, la contradicción, la independencia y la confianza pública.

La transparencia también debe ser proporcional y cuando la herramienta intervenga sustancialmente en la síntesis probatoria o en la elaboración argumental, el órgano debe poder explicar su uso, las verificaciones realizadas y las salvaguardas aplicadas, conforme a las reglas procesales y de gobierno judicial que resulten pertinentes.

7.4. Gestión y apoyo, nunca sustitución decisoria

El agente puede clasificar documentos, elaborar índices, detectar duplicados, construir líneas de tiempo, comparar pretensiones, localizar pasajes y generar resúmenes provisionales. Esos productos deben tratarse como insumos sujetos a cotejo con el expediente. Pero, la determinación de qué se tiene por probado, cómo se interpreta el derecho, qué solución corresponde y por qué se adopta debe ser obra exclusivamente del juez. El estándar judicial puede sintetizarse en tres cargas indelegables: transparencia suficiente, verificación integral de los insumos relevantes y no sustitución del núcleo decisorio.

8. La función notarial: el agente que “arma la escritura”

8.1. El supuesto y el problema de los datos

Traslademos el análisis a una escribanía. El notario encomienda a un agente que ordene la documentación de una compraventa: títulos, certificados, informes, datos catastrales, comprobantes tributarios, documentos de identidad, estado de familia, representaciones y antecedentes. El sistema prepara un proyecto formalmente prolijo, pero invierte un dígito de la nomenclatura, consigna una superficie incorrecta, atribuye un estado civil erróneo o interpreta de manera defectuosa un certificado.

La tarea involucra un volumen significativo de datos personales y, según el caso, información patrimonial, familiar o especialmente protegida. El uso de un agente exige distinguir entre lo necesario para preparar el documento y aquello que no debe ser expuesto al proveedor. Deben aplicarse minimización, segmentación de accesos, entornos cerrados, permisos temporales, cifrado, registros de actividad y, cuando sea posible, disociación efectiva. La pseudonimización reduce exposición, pero no elimina el carácter personal del dato si la reidentificación sigue siendo razonablemente posible.

La pregunta por la responsabilidad no puede responderse atribuyendo el error a la máquina. Exige recordar qué funciones cumple personalmente el notario y cuál es la eficacia del instrumento que autoriza.

8.2. Fe pública, inmediación, calificación y configuración

El artículo 299 del CCCN define la escritura pública como el instrumento matriz extendido en el protocolo. El artículo 301 CCCN ordena al escribano recibir por sí mismo las declaraciones de los comparecientes, calificar los presupuestos y elementos del acto y configurarlo técnicamente. Los artículos 296 y 305 regulan, respectivamente, la eficacia probatoria del instrumento público y su contenido[37].  En la provincia de Buenos Aires, el Decreto-Ley 9020/78 impone al notario, entre otros deberes, asesorar, estudiar antecedentes, examinar capacidad y legitimación, guardar secreto, atender personalmente la notaría y tener a la vista los certificados registrales y catastrales exigibles en los actos inmobiliarios[38]. Esas obligaciones marcan límites indelegables; la inmediación exige que el notario reciba personalmente las declaraciones y forme convicción sobre identidad, voluntad y comprensión conforme al marco aplicable. La calificación supone valorar capacidad, legitimación, representación, legalidad y eficacia del negocio. La configuración técnica transforma la voluntad jurídicamente relevante en un instrumento adecuado. El agente puede asistir en la recopilación, comparación y redacción preliminar, pero nunca sustituir esas funciones cuya normatividad busca la protección de los derechos de los requirentes.

8.3. El notario frente a datos apócrifos y manipulación tecnológica

La función notarial proporciona seguridad jurídica preventiva y autenticidad. En el entorno digital, los documentos manipulados, identidades sintéticas y deepfakes aumentan la necesidad de controles de origen, integridad, identidad y coherencia. Un agente mal gobernado puede convertirse en un vector adicional, “completar” un dato faltante, tratar una copia como original, confundir una vigencia o arrastrar un antecedente de otra operación. El notario no debe aceptar el informe del agente como fuente autónoma, cada dato relevante debe remitirse a su fuente jurídicamente idónea, causal y legitimante: título, certificado, documento, registro, partida, poder o manifestación de los comparecientes. La tecnología puede ayudar a detectar inconsistencias y brinda seguridad informática pero no crea seguridad jurídica.[39]

8.4. Eficacia probatoria y responsabilidad por el proyecto

El artículo 296 CCCN distingue dos planos. El instrumento hace plena fe, hasta declaración de falsedad, respecto de la realización del acto, la fecha, el lugar y los hechos que el oficial público enuncia como cumplidos por él o ante él. En cambio, el contenido de las declaraciones sobre convenciones, pagos, reconocimientos y hechos directamente relacionados con el objeto principal admite prueba en contrario.

Cada enunciación contenida en el instrumento público debe analizarse según su fuente, naturaleza y modo de incorporación. Los datos registrales y catastrales derivan de certificados e informes; las declaraciones provienen de los otorgantes; y la calificación jurídica es una actividad exclusiva y profesional del notario. Si el proyecto contiene un error que una verificación diligente debía detectar, la intermediación del agente no modifica el eje de imputación. El notario responde por su propia conducta: por haber utilizado una fuente inadecuada, omitido el cotejo, confiado en una extracción defectuosa o autorizado un instrumento sin control suficiente. El estándar se rige por los artículos 1724, 1725 y 1768 del CCCN, además de la normativa notarial local. El agente puede preparar cuadros de antecedentes, comparar certificados, detectar discrepancias y generar un borrador; pero, antes de autorizar el acto, el notario, como autor responsable del documento, debe cotejar personalmente los datos esenciales, cumplir la inmediación, ejercer la calificación, verificar los documentos habilitantes y controlar la integridad del texto, porque la autorización notarial transforma el proyecto en escritura pública, como continente documental, y dota al acto instrumentado de la eficacia jurídica que el ordenamiento le reconoce[40].

9. Hacia un estatuto de los agentes: autonomía concedida, imputación graduada y responsabilidad concurrente

9.1. La autonomía como decisión de diseño y despliegue

La autonomía del agente no es un hecho natural ya que su comportamiento depende del proveedor que diseña el modelo, del integrador que construye el sistema, de la organización que lo despliega y del usuario que define objetivos, datos, herramientas y permisos. Incluso cuando el sistema opera sin intervención constante, el ámbito de acción fue creado mediante decisiones humanas. En este sentido, habilitar una casilla, entregar credenciales, permitir pagos, conectar una base de clientes o autorizar modificaciones son actos voluntarios sujetos al estándar de diligencia. A mayor agencia ejecutiva, mayor es la carga de justificar la necesidad y documentar las salvaguardas. Por ello, la elección de un agente orquestador para una tarea que podía resolverse con un flujo determinista y revisable puede revelar falta de proporcionalidad.

9.2. El agente ante la dicotomía persona-bien

El derecho vigente no reconoce personalidad jurídica a los agentes de IA. Carecen de discernimiento, voluntad jurídica, patrimonio propio, capacidad procesal y deberes deontológicos. La posibilidad técnica de ejecutar acciones no los convierte en sujetos. En este sentido, la doctrina funcionalista recuerda, sin embargo, que la personalidad jurídica es también una técnica normativa de imputación. Ramos-Zaga ha propuesto, de lege ferenda, una “subjetividad técnica limitada” vinculada a un patrimonio de afectación y a un seguro, con la finalidad de responder por daños de agentes con capacidad ejecutiva. Se trata de una propuesta académica[41] que debe analizarse con cautela. Entendemos que un fondo separado podría mejorar la posición del damnificado si agrega garantía patrimonial pero también podría transformarse en un escudo del operador si limita indebidamente su responsabilidad. Para evitarlo, cualquier diseño futuro debería preservar la responsabilidad directa por selección, configuración o supervisión defectuosas y una responsabilidad residual una vez agotado el fondo. Bajo esas condiciones, el patrimonio operaría como garantía adicional y no como exoneración[42].

9.3. Imputación graduada según el grado de agencia

Antes de crear nuevas personalidades, el derecho dispone de una herramienta inmediata que se basa en la graduación de la diligencia según la agencia concedida. En el grado I, el profesional ejecuta el acto y responde por incorporar un insumo no verificado. En el grado II, se añade el deber de controlar lo que el agente comunica a terceros, informar la naturaleza de la interacción y proteger los datos. En el grado III, la culpa se aprecia especialmente sobre la arquitectura: permisos, límites, aprobación, trazabilidad, pruebas y mecanismo de corte. En el grado IV, aparece además el deber de justificar por qué se delegó la planificación y coordinación en un sistema de elevada autonomía. No se responde por una supuesta culpa moral del agente sino por decisiones humanas anteriores y documentables que hicieron posible el resultado, sin perjuicio de la causalidad y de la eventual intervención de terceros.

9.4. El guardián humano, los cortacircuitos y la “zona de deformación moral”

El guardián o revisor humano es una persona o equipo con competencia, autoridad, información, independencia, recursos y tiempo para supervisar y detener. Su responsabilidad debe definirse con claridad, pero no puede utilizarse para absorber todos los fallos de diseño y gobernanza. Elish denominó “zonas de deformación moral” (moral crumple zones) a situaciones en las que el operador humano cercano recibe desproporcionadamente la culpa por fallas de un sistema automatizado complejo, aun cuando tenía escaso control efectivo. La advertencia resulta útil también para evitar una supervisión meramente decorativa o presuntivamente ética y una atribución retrospectiva que ignore las decisiones de quienes diseñaron y desplegaron el sistema[43]. El guardián o revisor debe complementarse con cortacircuitos automatizados, límites duros, rutas de escalamiento y, en procesos de gran impacto, doble verificación por personas distintas. Estas medidas no sustituyen la responsabilidad profesional; distribuyen controles en la arquitectura para impedir que el error alcance al mundo externo[44].

9.5. Responsabilidad concurrente en la cadena de valor

El daño puede tener múltiples causas, por ejemplo, el proveedor podría haber omitido informar limitaciones críticas o introducido un defecto; el integrador podría haber diseñado un flujo inseguro; la organización podría haber conferido permisos excesivos; el profesional podría haber omitido verificar; y un tercero podría haber explotado una vulnerabilidad. Por ello, la atribución de responsabilidad dependerá en definitiva del régimen aplicable, la relación contractual o de consumo, la conducta, el nexo causal y las eximentes. No corresponde afirmar de manera automática que el proveedor “responde” ante cualquier deficiencia ni que el usuario absorbe todo daño sino que en cada caso en particular debe reconstruirse la contribución de cada interviniente en la cadena de valor.

El derecho europeo ofrece algunas referencias comparadas que pueden ser de utilidad. Por ejemplo, la Directiva (UE) 2024/2853 incluye al software dentro de la responsabilidad por productos defectuosos y trata a ciertos proveedores como fabricantes. El artículo 25 del Reglamento (UE) 2024/1689 atribuye la condición de proveedor de un sistema de alto riesgo a determinados actores cuando colocan su nombre, modifican sustancialmente el sistema o alteran su finalidad de manera que pasa a ser de alto riesgo. Estas reglas no rigen directamente en la Argentina ni establecen una distribución general para toda IA, pero muestran una tendencia a asignar obligaciones según la función efectiva en la cadena[45]. Las responsabilidades pueden ser concurrentes y la cadena de valor distribuye deberes y eventualmente el costo del daño; no convierte al agente en autor moral ni permite al profesional limitarse a afirmar que “lo hizo la IA”.

10. Conclusiones

La inteligencia artificial agéntica desplaza el análisis desde el texto hacia la acción porque el sistema puede navegar, consultar, comunicar, facturar y ejecutar pasos con relevancia jurídica lo que representa un salto cualitativo que modifica el objeto y el momento del control.

La opacidad, la alucinación, la velocidad, los errores compuestos y la permeabilidad instruccional constituyen riesgos específicos en los flujos agénticos donde la metáfora del “nuevo socio” debe utilizarse con cautela. Bajo el derecho vigente, el agente no es un centro autónomo de imputación sino que se trata de un instrumento o herramienta de ejecución del operador jurídico. Sin embargo, el marco argentino en materia de responsabilidad resulta plenamente aplicable. Los artículos 1724 y 1725 del CCCN, la responsabilidad profesional del artículo 1768, el deber de prevención de los artículos 1710, 1711 y 1713, la Ley 25.326 y las reglas deontológicas exigen una diligencia proporcional al impacto del despliegue.

El modelo SICURA-JUS debe extenderse porque el control deja de recaer únicamente sobre los inputs y outputs de un documento y pasa a gobernar una arquitectura de conducta. Desde esta perspectiva se deberán añadir cuatro capas de control de riesgos: 1) configuración, 2) autorización, 3) trazabilidad y 4) interrupción. En la práctica profesional, la investigación exige verificación en fuentes primarias; las presentaciones electrónicas requieren aprobación humana previa y constatación oficial; la atención conversacional demanda transparencia, límites, derivación y minimización de datos; y la facturación requiere validación, conciliación y registros.

El principio de reserva de humanidad opera con máxima intensidad en funciones públicas e indelegables. La IA puede asistir al juez en gestión y búsqueda, pero no sustituir la valoración de la prueba, la motivación ni la decisión. Puede asistir al notario en la preparación y contraste de documentación previa o procesos notariales pero no reemplazar la inmediación, la calificación, la configuración ni la dación de fe. La personalidad técnica limitada y el patrimonio de afectación son propuestas doctrinarias de lege ferenda; en la actualidad la respuesta más sólida consiste en graduar la diligencia según la agencia concedida y reconstruir la contribución causal de quienes diseñan, despliegan y utilizan el sistema.

La inteligencia artificial agéntica puede incrementar significativamente la eficacia de la praxis legal, pero no desplaza la responsabilidad del operador jurídico. Cuanto mayor sea la autonomía concedida al sistema, más intensas deberán ser la configuración, la supervisión y la trazabilidad del despliegue. La técnica cambia; la responsabilidad y el juicio profesional permanecen humanos.

[1] Abogado (UNLZ). Magíster en Derecho Procesal (UNR). Presidente del Instituto Argentino de Derecho Procesal Informático (IADPI). Subdirector del Instituto de Derecho Informático del Colegio Público de la Abogacía de la Capital Federal (CPACF). Miembro del Foro de Derecho Procesal Electrónico (FDPE – E-Procesal). Presidente de la Comisión de Derecho Informático del Colegio de Abogados de Lomas de Zamora (CALZ). Autor de publicaciones y libros vinculados con tecnología y derecho. Docente universitario de grado y posgrado (UBA, Universidad Austral, UCA y UNLZ, entre otras).

[2] Abogada y notaria. Doctoranda en Ciencias Jurídicas. Magíster en Gobernanza Ética de la IA (Universidad de Salamanca) y en Derecho de Familia, Infancia y Adolescencia (Universidad de Barcelona). Posgraduada en Infancia y Adolescencia (Universidad de Salamanca), en Derecho de Familia, Niñez y Adolescencia y en Derecho e Inteligencia Artificial (UBA), y en el Sistema Universal y Europeo de Protección de Derechos Humanos (Fundación René Cassin). Secretaria General del Consejo Académico de la Universidad Notarial Argentina. Coordinadora académica de Grooming Argentina y Grooming LATAM. Miembro de AJUFRA. Docente, investigadora y autora, entre otras obras, de Derechos digitales de la infancia (Astrea).

[3] SALIERNO, Karina V.; BIELLI, Gastón E., “IA generativa en la praxis legal: responsabilidad profesional y doble control en el uso de LLMs”, LA LEY 2025-D, pp. 473-491, TR LALEY AR/DOC/2053/2025.

[4] BROWN, Tom B. et al., “Language Models are Few-Shot Learners”, Advances in Neural Information Processing Systems, vol. 33, 2020, pp. 1877-1901, https://proceedings.neurips.cc/paper/2020/hash/1457c0d6bfcb4967418bfb8ac142f64a-Abstract.html (última consulta: 9 de agosto de 2026).

[5] En general, grandes modelos de lenguaje (LLMs) como término ampliamente aceptado aunque podrían ser otro tipo de modelos de lenguaje, incluyendo modelos multimodales o MLLM.

[6] RUSSELL, Stuart J.; NORVIG, Peter, Artificial Intelligence: A Modern Approach, 4.ª ed., Pearson, 2021, p. 34.

[7] AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS, Inteligencia artificial agéntica desde la perspectiva de protección de datos, versión 1.2, febrero de 2026, p. 10, https://www.aepd.es/guias/orientaciones-ia-agentica.pdf.

[8] FENG, K. J. Kevin; McDONALD, David W.; ZHANG, Amy X., “Levels of Autonomy for AI Agents”, University of Washington, 2025, https://arxiv.org/abs/2506.12469. Traducción propia.

[9] AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS, Inteligencia artificial agéntica desde la perspectiva de protección de datos, 18 de febrero de 2026, especialmente aps. II.C y IV.D.

[10] CORVALÁN, Juan Gustavo; SÁNCHEZ CAPARRÓS, Mariana, Agentes de inteligencia artificial y workflows agénticos: la nueva frontera de la automatización. Guía práctica para comprender qué son, cómo funcionan y cuándo utilizarlos, IALAB-UBA y CAF, Buenos Aires, La Ley, 2025, cap. 3, ISBN 978-987-03-4896-2. https://www.researchgate.net/publication/389200721_Agentes_de_inteligencia_artificial_y_workflows_agenticos_la_nueva_frontera_de_la_automatizacion

[11] La escala es original de este trabajo. Los criterios operan de manera acumulativa y el grado se determina por el rasgo de mayor exigencia que presente el despliegue concreto.

[12] United States v. Prakazrel Michel, Criminal No. 19-148-1 (CKK), United States District Court for the District of Columbia, Memorandum Opinion, 30 de agosto de 2024, Doc. 371. La frase promocional “turned hours or days of legal work into seconds” fue atribuida al abogado David Kenner en una comunicación de EyeLevel.AI posterior al juicio. La sentencia rechazó el pedido de nuevo juicio basado, entre otros argumentos, en el uso de IA, sin convertir por ello la herramienta en una fuente confiable ni validar sus errores. https://www.govinfo.gov/app/details/USCOURTS-dcd-1_19-cr-00148/USCOURTS-dcd-1_19-cr-00148-4/summary

[13] CASPER, Stephen et al., “Black-Box Access is Insufficient for Rigorous AI Audits”, en Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’24), 2024, pp. 2254-2272, DOI 10.1145/3630106.3659037, arXiv:2401.14446.

[14] PERALTA, Jorge Eduardo, “Trazabilidad, validación humana y uso defendible de inteligencia artificial y agentes en el trabajo jurídico: hacia un estándar mínimo de control profesional”, Revista Jurídica Austral, vol. 7, n.° 1, 2026, pp. 633-664, DOI 10.26422/RJA.2026.0701.per, https://ojs.austral.edu.ar/juridicaaustral/article/view/2183.

[15] AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS, Inteligencia artificial agéntica desde la perspectiva de protección de datos, cit., ap. VI, especialmente pp. 51-54.

[16] CORVALÁN, Juan G.; SÁ ZEICHEN, Gustavo; ALBERTSEN, Lihué M., “Actividad administrativa automatizada. Inteligencia artificial, potestad reglamentaria, delegación algorítmica, acto administrativo automatizado y reserva de humanidad”, en CORVALÁN, Juan G. (dir.), Tratado de Inteligencia Artificial y Derecho, Buenos Aires, La Ley, 2021, t. II, pp. 193-240; UNESCO, Recomendación sobre la Ética de la Inteligencia Artificial, adoptada el 23 de noviembre de 2021, especialmente párrs. 35, 36 y 68, https://www.unesco.org/es/legal-affairs/recommendation-ethics-artificial-intelligence.

[17] Entre las disposiciones administrativas relevantes pueden mencionarse: AAIP, Resolución 161/2023, Programa de Transparencia y Protección de Datos Personales en el Uso de la Inteligencia Artificial; Ministerio de Justicia, Resolución 111/2024, Programa Nacional Integral de Inteligencia Artificial en la Justicia; Ministerio de Seguridad, Resolución 710/2024; y SIGEN, Resolución 197/2026, Guía de Controles sobre el Uso de la Inteligencia Artificial en el Sector Público Nacional. La afirmación sobre la inexistencia de una ley integral se formula según el estado normativo verificado al 8 de agosto de 2026 y sin desconocer los proyectos en trámite.

[18] Código Civil y Comercial de la Nación, arts. 1724 y 1725, texto actualizado de la Ley 26.994.

[19] KEMELMAJER DE CARLUCCI, Aída, “Responsabilidad del abogado, del escribano y del juez”, Lecciones y Ensayos, n.os 72-74, 1998/1999, pp. 117-176, especialmente pp. 128 y 131.

[20] Código Civil y Comercial de la Nación, art. 1768.

[21] COLEGIO PÚBLICO DE LA ABOGACÍA DE LA CAPITAL FEDERAL, Laboratorio Fintech y Legaltech – Unidad de Innovación y Transformación Digital, Guía para el uso de Inteligencia Artificial para Abogados, Buenos Aires, julio de 2025, pp. 1-9. https://www.cpacf.org.ar/public/uploads/files/com/13082513_Guia12.pdf

[22] Ob. Cit. p. 3.

[23] Código Civil y Comercial de la Nación, arts. 1710, 1711 y 1713.

[24] Ley 25.326 de Protección de los Datos Personales, especialmente arts. 4, 5, 6, 7, 9, 10 y 12; Decreto 1558/2001 y normas complementarias de la autoridad de aplicación.

[25] Código de Ética del CPACF, especialmente arts. 10 y 19; Ley 23.187, art. 45.

[26] Código Civil y Comercial de la Nación, arts. 1757 y 1768.

[27] SALIERNO; BIELLI, “IA generativa en la praxis legal…”, cit.

[28] AEPD, Inteligencia artificial agéntica…, cit., aps. VII.E y VII.F, especialmente los criterios y puntos de control para intervención humana, acciones irreversibles, reversibilidad, trazabilidad y documentación.

[29] Ibíd., especialmente aps. VII.E y VII.F: rutas de escalamiento, principio de los cuatro ojos, documentación, trazabilidad, cortacircuitos y límites duros de pasos.

[30] Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial), art. 14, DO L de 12 de julio de 2024, ELI: https://eur-lex.europa.eu/eli/reg/2024/1689/oj?locale=es.

[31] UNESCO, Recomendación sobre la Ética de la Inteligencia Artificial, cit., especialmente párrs. 35, 36 y 68.

[32] Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023); People v. Zachariah C. Crabill, Case No. 23PDJ067, 2023 WL 8111898 (Colo. O.P.D.J., 22 de noviembre de 2023); Smith v. Farwell, Norfolk Superior Court, Civil Action No. 2282CV01197, Findings, Rulings and Order Imposing Sanction, 12 de febrero de 2024; Daniel Jaiyong An v. Archblock, Inc., C.A. No. 2024-0102-LWW, Delaware Court of Chancery, Letter Opinion, 4 de abril de 2025, 2025 WL 1024661, https://courts.delaware.gov/Opinions/Download.aspx?id=377750.

[33] Cámara de Apelación en lo Civil y Comercial de Rosario, Sala II, “Giacomino, César Adrián y otros c/ Monserrat, Facundo Damián y otros s/ daños y perjuicios”, CUIJ 21-11893083-2, 20 de agosto de 2025, TR LALEY AR/JUR/95812/2025, publicado en LA LEY 29/08/2025, p. 29. La resolución dispuso un llamado de atención y la comunicación al Colegio de Abogados de Rosario, aclarando que ello no implicaba una sanción.

[34] Reglamento (UE) 2024/1689, art. 50.1; AEPD, Inteligencia artificial agéntica…, cit., ap. V.B y sección de transparencia.

[35] Corte Constitucional de Colombia, Sentencia T-323/2024, especialmente párr. 296 y parte resolutiva.

[36] BIELLI, Gastón E., “Inteligencia artificial en el Poder Judicial. Uso de LLMs por parte de los jueces al momento del dictado de la sentencia”, LA LEY 2024-F, 21 de noviembre de 2024, TR LALEY AR/DOC/2984/2024.

[37] Código Civil y Comercial de la Nación, arts. 296, 299, 301 y 305.

[38] Provincia de Buenos Aires, Decreto-Ley 9020/78 —texto ordenado y modificatorias—, especialmente arts. 1 y 35.

[39] SALIERNO, Karina V.; BIELLI, Gastón E., “Inteligencia artificial y función notarial”, LA LEY, 8 de mayo de 2025, 2025-B, p. 1, TR LALEY AR/DOC/1035/2025.

[40] Ibíd.; Código Civil y Comercial de la Nación, arts. 296, 299, 301 y 305; Decreto-Ley 9020/78, art. 35.

[41] RAMOS-ZAGA, Fernando A., “Agentes basados en IA con capacidad ejecutiva autónoma y límites de la imputación civil en el derecho privado continental”, Revista Jurídica Austral, vol. 7, n.° 1, 2026, pp. 609-632, especialmente pp. 624-629, DOI 10.26422/RJA.2026.0701.zag.

[42] Ibíd., pp. 626-628. La propuesta se expone como construcción doctrinaria de política legislativa y no como interpretación de una personalidad actualmente reconocida por el artículo 141 del CCCN.

[43] ELISH, Madeleine Clare, “Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction”, Engaging Science, Technology, and Society, vol. 5, 2019, pp. 40-60, DOI 10.17351/ests2019.260; AEPD, Evaluación de la intervención humana en las decisiones automatizadas, 2024.

[44] AEPD, Inteligencia artificial agéntica…, cit., aps. VII.E y VII.F.

[45] Directiva (UE) 2024/2853, de 23 de octubre de 2024, sobre responsabilidad por los daños causados por productos defectuosos; Reglamento (UE) 2024/1689, art. 25.