Año LXII

DERECHO, INNOVACIÓN & DESARROLLO SUSTENTABLE
REVISTA DE DOCTRINA Y JURISPRUDENCIA

Director: Dr. Emiliano E. Lamanna Guiñazú

Coordinadoras: Matilde Pérez – Valeria Moreno

CÁPSULA DE REFLEXIÓN

De los temores y miedos que nos genera ChatGPT. Reflexiones desde la filosofía de Èric Sadin y los temores de Black Mirror: ¿marchamos hacia una nueva realidad educativa?, por Mariana Sánchez Caparrós, Karina Vanesa Salierno y Emiliano Carlos Lamanna Guiñazú – Cita Digital: ED-MVDCCLX-70

De los temores y miedos que nos genera ChatGPT
Reflexiones desde la filosofía de Èric Sadin y los temores de Black Mirror: ¿marchamos hacia una nueva realidad educativa?(*)

por Mariana Sánchez Caparrós(**), Karina Vanesa Salierno(***) y Emiliano Carlos Lamanna Guiñazú(****)

Pero más allá de estos vaticinios, las voces contrarias fueron muchas. Quizás, la que mayor carga dramática ofrece sea la del catedrático y filósofo francés Èric Sadin, cuya visita a la 47ma. Feria del Libro de Buenos Aires celebrada entre el 18 de abril y el 2 de mayo de este 2023(4) expuso sobre “Filosofía en el Metaverso y ChatGPT” en línea con una visión dada en trabajos anteriormente publicados.

De Sam Altman a Èric Sadin y el cambio antropológico

El pasado 24 de febrero, en el blog de OpenAI(1), Sam Altman, CEO de la misma empresa, publicó una nota de opinión titulada “Planificando para la IA general y más allá”(2). Allí, el CEO, que hace algo menos de siete meses pocos conocían, comienza señalando que una de las misiones de OpenAI es asegurar que la inteligencia artificial general (AGI) beneficie a toda la humanidad(3).

Sam Altman – Ceo Open AI Èric Sadin en la 47ma. Feria del Libro de Buenos Aires.

(*) El presente trabajo se inscribe dentro del Programa IUS de Investigación Jurídica Aplicada de la Pontificia Universidad Católica Argentina (UCA) que dirige el Profesor Doctor Jorge Nicolás Lafferriere, concretamente en el Programa IUS titulado “El derecho civil patrimonial frente al emergente alta tecnología. Desafíos e interpretación jurídico/ patrimonial frente al avance tecnológico, la innovación permanente y el desarrollo sustentable” que dirigen los Dres. Emiliano Carlos Lamanna Guiñazú y Matilde Pérez junto a un grupo de destacados juristas que los acompañan; también del Programa IUS de Investigación Jurídica Aplicada titulado “La función preventiva y la incertidumbre científica en actividades especialmente peligrosas. El Compliance como técnica de prevención y anticipación de daños en el ámbito empresario” que dirige la Dra. Matilde Pérez juntamente con el Dr. Fernando Ubiría junto a un destacado grupo de colaboradores.

(**) Abogada (UBA, Diploma de Honor). Mg. en Derecho Administrativo (Universidad Austral, Diploma de Honor). Doctorando (UCA). Relatora Abogada del Superior Tribunal de la Provincia de Tierra del Fuego AeIAS. Investigadora del IALAB y del DYNTEC LAB. Profesora universitaria de grado y posgrado (UBA, Universidad Austral, UCES, entre otras). Autora de diversos artículos de doctrina de la especialidad Derecho Público y Derecho y Tecnología en revistas nacionales e inter-nacionales. Autora de la obra Categorías sospechosas (Astrea, Buenos Aires, 2020) y coautora del Código Contencioso Administrativo Comentado de la Provincia de Tierra del Fuego (RAP, Buenos Aires, 2013). (***) Abogada (UBA) y Notaria. Doctoranda en Ciencias Jurídicas

–PhD– (UCA). Magíster en Derecho de Familia e Infancia, Universidad de Barcelona. Posgrado en Familia e Infancia en Universidad de Salamanca y UBA, Derecho y Tecnología UBA. Es autora de numerosos trabajos académicos.

(****) Abogado (UBA). Especialista en Derecho de la Alta Tecnología (UCA) y Doctor en Ciencias Jurídicas (UCA). Coordinador del Doctorado en Ciencias Jurídicas por la Pontificia Universidad Católica Argentina (UCA). Profesor de Posgrado en la Maestría en Derecho Civil Patrimonial de la Pontifica Universidad Católica Argentina (UCA) y por la Universidad de Buenos Aires (UBA). Profesor Titular de Grado en las asignaturas: “Derecho de las Obligaciones Civiles y Comerciales” y “Derecho de Daños” por la Pontificia Universidad Católica Argentina (UCA) y por la Universidad del Museo Social Argentino (UMSA). Director del suplemento “Derecho, Innovación & Desarrollo Sustentable” de la editorial EL DERECHO. Autor de la obra: “Daño Agravado por el Acreedor. Formas del debido comportamiento de la víctima” de la editorial Astrea. Autor de numerosos trabajos de doctrina en revistas especializadas. Miembro de la Comisión de Abogacía Digital de la Pontificia Universidad Católica Argentina (UCA).

1. Ver OpenAI Blog, https://openai.com/blog [acceso 6/3/2023].
2. “Planning for AGI and beyond”, OpenAI Blog, en https://ope-nai.com/blog/planning-for-agi-and-beyond [acceso el 6/3/2023].
3. Ídem.

Sadin es una de las voces que nos conducen a la reflexión y al recogimiento cada vez que tocamos estos temas. Autor de libros importantes, como ser “La sociedad de la anticipación” (2011), “La silicolonización del mundo” (2017), “La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical” (2018) o “La era del individuo tirano”, todas estas de editorial Caja Negra, planteando los peligros que trae su utilización, planteando temores desde la conceptualización propia que merece el nombre que le ha dado relevancia y sentido a estos tiempos denominados como de la Revolución Industrial 4.0 que llega de la mano, entre otras tecnologías, pero sobre todo de la inteligencia artificial (IA).

No perdimos la oportunidad de preguntarle a Sadin: “¿Qué es la inteligencia artificial?”. “No lo sé”, respondió, “llevo años intentando desarrollar esa definición, pero hasta qué punto estas tecnologías se pegan a nuestro dis-curso es estremecedor”(5).

La postura de Sadin sobre el impacto que puede causar esta tecnología en nuestro lenguaje, la educación y los mecanismos, objetivos y entornos laborales, suelen llamarlo a la reflexión, sosteniendo que “Necesitamos me-nos periodismo y más pensamiento. En estos últimos años nos dimos cuenta de las cosas cuando ya era tarde. Hay que intentar captar lo que viene y qué efectos de consciencia puede engendrar”(6). Para adentrarse en los cambios antropológicos que supone la misma, al señalar que “la facultad de tomar el relevo y de ocuparse de nuestras facultades humanas más fundamentales: el lenguaje y la representación de la imagen. Y esto es un movimiento civilizatorio de profundas consecuencias antropológicas”(7). Por su parte, la visión que entiende Altman, que princi-pia el punto en análisis, es la de una tecnología que pueda ayudarnos a elevar la calidad de vida de la humanidad ge-nerando abundancia, impulsando la economía global y colaborando con el descubrimiento de nuevos conocimientos científicos que modifiquen los límites de lo posible.

Es decir, más recursos gracias a estas nuevas habilidades.

Black Mirror y la llegada de la distopía

En un sentido parecido, la serie “Black Mirror”, de Charlie Brooker y Annabel Jones, propuso un ensamble de historias distópicas y de prospectivas cercanas. Más allá de su inocultable éxito, insólitamente se detiene en 2017, dejándose de filmar por causas que el propio Brooker entendió necesarias pues estaba dando vueltas una idea de “nueva realidad” y temía que la serie no estuviera a la altura de la propuesta y de las expectativas que supo generar en sus comienzos en 2013. Es decir, la frase: “la realidad que supera a la ficción”, pudo haber sido la traba en la continuidad de sus historias, aunque otros hablan de un embrollo contractual en la que se vieron envueltos sus creadores y los derechos de exclusividad de la serie(8). Afortunadamente, los fanáticos de estas historias están disfrutando la sexta temporada desde el mes de junio de este 2023(9).

1. https://www.el-libro.org.ar/inicio-internacional-47/
2. https://www.pagina12.com.ar/545281-eric-sadin-chatgpt-es-un-movimiento-civilizatorio-de-profund
3. Ídem.
4. Ídem.
   

Black Mirror se para más cerca de Sadin que de Altman, aunque el miedo de este y de otros tantos prestigiosos hombres de ciencias que piden pausar ChatGPT juntó ambos pareceres en una causa común.

La llegada de ChatGPT puede abonar esa idea, aunque esperamos que no sea así y se vuelva a detener su filmación. No queremos prescindir de Black Mirror.

El mundo laboral y el espacio educativo: los impactos que importan

Semanas atrás, en el canal de cable KZO sintonizamos la charla de Santiago Bilinkis en el programa “Todo Pasa” de Matías Martin y Clemente Cancela, en la señal de Urbana Play (104.3 MHz), quien refería al impacto real de una página web que está haciendo historia hace poco tiempo. Recordemos que en el mes de noviembre de 2022 aparecía ChatGPT, que dio a Sam Altman una aparición fulgurante. Un fulgor que asustó a más de mil encumbradas figuras del campo científico tales como Elon Musk, Bill Gates y escritores distópicos como Yuval Noah Harari y, tal como lo señalamos, también al propio Altman…

En la charla, Bilinkis aporta datos intensos en torno a una suerte de máxima de estos tiempos: la tecnología ha quitado puestos de trabajo, es verdad. Pero no tantos como se supone que podría haber hecho. Planteando que la empleabilidad en el mundo ronda un desempleo del orden fluctuante entre 3% y 5% desde la irrupción tecnológica en los últimos quince años.

Agregando, al mismo tiempo, que toda la actividad comentada en formato web viene de la mano de datos. Una lluvia de datos arroja estimaciones, las cuales, como toda inferencia, suelen ser creíbles. Desde ese lugar se para Bilinkis al señalar lo que siempre se creyó: que la sustitución laboral por parte de la tecnología haría foco, en principio, en los oficios o trabajos repetitivos, por ejemplo, los cajeros de las autopistas han visto reducidos sus espacios laborales. Pero lo novedoso de la IA generativa, la que muchos conocimos a partir de ChatGPT, DALLE-2 y Stable Diffusion, es que esta parece avanzar sobre aquellas profesiones mayormente dotadas de creatividad e intelectualidad, por ejemplo: diseño de imágenes, poesía, prosa, cuentos, relatos de todo tipo, investigaciones académicas. ChatGPT puede extractar en dos renglones centenares de renglones de una sentencia sobre mala praxis. Luego, también puede transformar esos dos renglones en una historia en formato story telling.

Lo revolucionario de este modelo conversacional, entonces, es que apunta por el sendero de lo creativo e intelectual del ser humano. ¿Cuán creativo podrá ser? En principio, el algoritmo devuelve lo que se le carga, por lo que sería difícil ver replicar una obra de Van Gogh sin Van Gogh a la vista por ninguna parte. Pero creativo para la media intelectual lo será, sin dudas.

1. https://computerhoy.com/noticias/entretenimiento/black-mirror-charlie-brooker-coronavirus-635829.
2. También ver en https://www.espinof.com/fecha-de-estreno/ black-mirror-temporada-6-2023-fecha-estreno-trailer-reparto-todo-que-sa-bemos-antologia-ciencia-ficcion-netflix#:~:text=La%20fecha%20de%20 estreno,temporada%20de%20’Black%20Mirror

En cuanto al impacto educativo de la IA, que viene de la mano de lo laboral, claro, aquí sí la reflexión nos lleva a pensar que los contenidos académicos generados con esta tecnología presentan un gran desafío para la educación en todos sus niveles, sino acaso el más grande desafío desde la creación de las bibliotecas.

La IA generativa utiliza flujos de datos de la web que han sido expuestos de forma voluntaria e involuntaria. Estos flujos de datos se entrecruzan y configuran patrones de comportamiento utilizados principalmente para el proceso de perfilamiento humano, clustering y marketing de datos. Los sistemas de IA generativa como ChatGPT se entrenan con millones de datos contenidos en textos existentes en la web y con ellos, generan textos muy coherentes, con el plus de que son sistemas entrenados para aplicar una función de atención (en términos matemáticos) que les permite reconocer el sentido de las palabras o de conjuntos de palabras, para dar respuestas, no ya como lo haría un buscador, sino elaboradas, casi siempre coherentes y muchas veces, sobre todo cuando se trata de cuestiones de conocimiento general, no específico, bastante útiles.

ChatGPT es un sistema de IA generativa que puede procesar altos volúmenes de datos para elaborar contenido nuevo, original, coherente y contextualizado de manera rápida y relevante, a partir de una entrada en formato de texto en lenguaje natural (prompt) provista por el usuario. Es un generador de textos que encadena datos desde una perspectiva probabilística.

Es un asistente que puede resultar una herramienta útil en la escuela o en la universidad, como lo fue en algún momento la calculadora, la computadora o internet, pero, lo cierto es que esta herramienta no fue diseñada con fines pedagógicos, ni fue diseñada por un grupo interdisciplinario de profesionales que incluya educadores o docentes.

Por ello, la utilización del ChatGPT en entornos educativos nos desafía y posiciona frente a una gran responsabilidad que se centra en el desarrollo de aptitudes, competencias y habilidades en los alumnos y los docentes, para utilizarlo adecuadamente, explotar sus posibilidades y ser conscientes de sus límites.

Algunos de los posibles usos de ChatGPT pueden ser crear juegos, planificar un viaje, preparar una entrevista de trabajo, explicar un tutorial, buscar una receta, conocer sobre un personaje público, generar una entrevista, corregir y mejorar texto escrito, dar sugerencias, elaborar una canción, una obra escrita con estilos propios de autores de renombre, elaborar un libro completo, una presentación laboral, un diagrama de flujos, un programa informático, etc. Las respuestas siempre serán distintas y si la respuesta no nos satisface, podemos solicitar la regeneración de la respuesta tantas veces hasta que cumpla con nuestras expectativas.

La lógica consecuencial que se busca es la coherencia de las respuestas de ChatGPT, las que dependen, básicamente, de la forma en que se formula la pregunta o se brinda la instrucción, es decir, del prompt que se le envía a ChatGPT para que genere el texto que se le requiere. Si el prompt o la instrucción está bien formulado, la respuesta posiblemente será más adecuada y cumplirá con las expectativas del usuario.

En este escenario que se nos presenta nos preguntamos: ¿cuáles son entonces las implicancias negativas de esta herramienta tan poderosa en materia educativa?

Los mecanismos neuronales de aprendizaje son dinámicos, el cerebro es un complejo sistema adaptativo y social que se nutre con información focalizada y periférica, consciente e inconsciente. El aprendizaje y la memoria son los mecanismos más importantes para alterar la conducta humana, procesos íntimamente relacionados en donde la información que se consume es imprescindible para definirlos. El cerebro de manera innata otorga un significado a la nueva información a la cual accede, estableciendo un cableado neuronal que se ve reforzado o inhibido dependiendo de las experiencias que se ofrezcan y de la cantidad de veces que se refuerce el estímulo, por ello es importante ofrecer al alumno distintas perspectivas del mismo tema para enriquecer y reforzar el proceso de conocimiento.

La evolución de la IA generativa de texto, como ChatGPT, nos enfrenta, incluso desde el discurso de sus propios creadores, a dilemas éticos y sociales, educativos y culturales, pero principalmente a la posible generación y difusión de contenido falso o manipulado, a resultados sesgados, erróneos y posiblemente dañinos.

ChatGPT es sinónimo de riesgo de manipulación de la verdad. Del oráculo de Harari al soberano, en esta sociedad digitalizada la verdad se encuentra considerablemente amenazada por la IA generativa.

Alertados por estos sesgos y funcionalidades distópicas, algunos países han tomado medidas. Y, así, por ejemplo, Suecia paraliza el programa de digitalización de las escuelas, frente a la denominada “crisis de la lectoescritura” y alertados por el riesgo de crear una generación de “analfabetos funcionales” frente a las dificultades de comprensión, análisis crítico y comparativo de los alumnos(10). Lo cierto es que ChatGPT no sustituye el pensamiento crítico, la lógica relacional y circunstanciada de contenido. Es una herramienta poderosa e imponente que se pue-de utilizar para ayudarnos a elaborar pensamiento crítico, plantear preguntas inteligentes, abordar temas desde diferentes perspectivas y, con mucha supervisión, para buscar

información optimizando los tiempos.

Dadas sus limitaciones, ChatGPT nos desafía no solo a elaborar el prompt correcto para obtener la respuesta satisfactoria, sino a interpretar el texto generado y cotejarlo con la realidad y la verdad de los hechos. Nos desafía como docentes y educadores, plantea un reto a las comunidades educativas.

Algunas preguntas que deberíamos hacernos

¿Qué ofrecemos y que le pedimos al alumnado? Si el trabajo que le pedimos se basa en la reproducción de información no compleja, seguramente el alumno podrá utilizar ChatGPT, la biblioteca o Google, en mayor o menor tiempo, con mayor o menor resultado eficaz.

1. https://www.epe.es/es/internacional/20230602/suecia-pa-raliza-plan-digitalizacion-escuelas-88221087

En cambio, si le pedimos al alumno un posicionamiento crítico, comparativo, una evaluación ética con referencia de fuentes primarias y humanas sobre el tópico, incluso sobre texto generado por ChatGPT o leído con asistencia de esta herramienta, estaremos incentivando el pensamiento crítico, la inteligencia emocional, la empatía y la creatividad.

Como docentes y como alumnos: ¿estamos dispuestos a invertir nuestro tiempo en aprender a discernir lo falso de lo verdadero frente a un texto sumamente coherente, que utiliza adecuadamente la terminología de la ciencia que enseñamos y aprendemos? ¿Estamos dispuestos a asumir nuestro rol de custodios de la verdad y del pensamiento crítico frente al texto generado por IA?

La tecnología cuando tiene sentido nos tiene que llevar a un lugar mejor, no a un lugar peor. Siendo así, ¿Cuál es la IA que queremos como herramienta del proceso educativo? Seguramente estos y otros interrogantes darán lugar a nuevos espacios de debate entre docentes y, por qué no, alumnos también, pues un futuro con la educación atravesada por las nuevas tecnologías nos interpela a todos por igual.

VOCES: OBLIGACIONES – DAÑOS Y PERJUICIOS – ECONOMÍA – TECNOLOGÍA – INFORMÁTICA – COMERCIO E INDUSTRIA – INTELIGENCIA ARTIFICIAL – PODER JUDICIAL – INTERNET – COMUNICACIONES ELECTRÓNICAS – PROCESO ORDINARIO – SENTENCIA – ABOGADO – RESPONSABILIDAD CIVIL – CONTRATOS – ACCESO A LA JUSTICIA – CONSTITUCIÓN NACIONAL – PROCESO JUDICIAL – FILOSOFÍA DEL DERECHO – CONTRATO DE TRABAJO – TELETRABAJO.