“La simplificación del mundo.
Violencia epistemológica y dignidad humana en la era tecnopólica.”

Autora: Karina Vanesa Salierno.

Introducción

Una adolescente abre una aplicación de redes sociales y en ese mismo instante, tres etiquetas algorítmicas le muestran un mundo recortado a su medida. Este episodio cotidiano describe un fenómeno mayor y complejo que constituye la tesis del presente ensayo: “Atravesamos una época de violencia epistemológica que se ejerce a través de la simplificación del mundo”.

Desarrollo

• Aclaración de los términos

Llamo simplificación del mundo a la operación político-cultural por la cual fenómenos plurales y diversos como sentimientos, vínculos, juicios, deliberaciones, valores y sufrimientos son reducidos a unidades medibles operadas por sistemas técnicos. Y llamo violencia epistemológica al daño infligido sobre las formas plurales de ser, conocer y habitar el mundo cuando una sola forma, la traducible en datos, se presenta como la única.

• La tesis tecnopólica como diagnóstico

Neil Postman sostiene en Tecnópolis1 que la cultura contemporánea ha transitado de la herramienta a la tecnocracia y de la tecnocracia al tecnopolio. Llama tecnopolio a un estado en el que la tecnología deja de servir a fines culturalmente definidos para comenzar a producirlos. En favor de la tesis de Postman puedo identificar tres operaciones que cristalizan esa dinámica. Primero, todo problema, ya sea educativo, médico, jurídico, afectivo, etc., es reformulado como un problema técnico2, es decir de eficacia y resultados. Segundo, lo que no se puede cuantificar o transformar en datos, pierde estatuto de realidad3. Tercero, la eficiencia se convierte en criterio último de validación4. Estas tres operaciones constituyen lo que aquí denomino la simplificación del mundo, un mundo que se decreta únicamente por su encuadre matemático.

• Un caso concreto para poder visualizar la tesis: el sistema de riesgo aplicado a la infancia

En los Países Bajos, entre 2013 y 2019, el algoritmo SyRI y los sistemas asociados de puntuación de riesgo de la administración tributaria acusaron erróneamente de fraude a más de veinte mil familias en la asignación de prestaciones por cuidado infantil. En consecuencia, miles de progenitores fueron obligados a devolver sumas inasumibles y cerca de mil menores fueron separados de sus familias por servicios de protección que actuaron sobre la base del señalamiento algorítmico5. En este caso la simplificación del mundo fue la condición técnica de una violencia institucional que vulneró los derechos de la infancia desde una típica arquitectura de poder normalizada.

• El dilema ético

El caso presentado abre entonces el problema filosófico central y para analizarlo utilizaré algunos autores que me ayudarán a desarrollar el argumento. Kant formuló en la Fundamentación para una metafísica de las costumbres que las personas poseen dignidad (valor absoluto, no fungible) mientras que las cosas tienen precio6. La fórmula del imperativo categórico exige obrar de tal modo que se use a la humanidad siempre al mismo tiempo como fin y nunca simplemente como medio7. La tesis que sostengo vulnera precisamente este principio: la persona convertida en un perfil predictivo, en puntuación crediticia o en categoría de riesgo, ha sido reducida a su utilidad o precio para un determinado sistema y, en consecuencia su dignidad, queda sustituida por un precio operacional.

Hans Jonas, por su parte, formuló para la era técnica un imperativo paralelo al kantiano: obra de tal modo que los efectos de tu acción sean compatibles con la permanencia de una vida humana auténtica en la Tierra8. La simplificación técnica del mundo amenaza esa permanencia porque erosiona las condiciones en las que la vida humana se constituye como auténtica (crítica, valoración, deliberación, juicio singular, narración biográfica).

Podría objetarse a la tesis que sostengo que toda forma de pensamiento simplifica, e incluso que el lenguaje mismo es abstracción9, o como se desprende de la concepción de Alfred Schutz10 que sin reducción del mundo a categorías manejables ninguna acción sería posible. La objeción es seria y ajustada pero, humildemente entiendo que se confunden dos operaciones. Una cosa es la abstracción cognoscitiva que recorta un aspecto de la realidad pero sabe y reconoce que el resto del mundo existe y persiste como horizonte y otra cosa muy distinta es la simplificación antropológica, que clausura el horizonte y declara inexistente lo no codificado. La primera es una condición del conocimiento y la segunda es diseño o supresión del mundo.

Conclusión

En esta tesis, he defendido que la simplificación del mundo constituye una violencia epistemológica que vulnera la dignidad y la libertad humana. La tesis cuestiona el lugar que ocupa la tecnología como productor de fines y buscar devolverla a su lugar de instrumento subordinado a la deliberación humana. La pregunta ética que queda abierta no es cómo regular los sistemas, sino cómo conservar los valores, la mentalidad crítica y las preguntas morales que ningún sistema puede responder o resolver por nosotros.

NOTAS

1 Postman, Neil, Tecnopolio. La rendición de la cultura a la tecnología, 1993, Vintage Books, New York, p.archive.org/details/235p-technopoly-neil-postman.

2 A. Del Noce, “Contestación y valores” (1968) en A. Del Noce, Agonía de la sociedad opulenta, Pamplona, Eunsa,1979, p. 24.

3 Lohr, Steve, Data-ism. The Revolution Transforming Decision Making, Consumer Behavior, and Almost Everything Else, HarperCollins Publishers Australia Pty. Ltd., 2015, p. 6.

4  Steffek,  Jens, “Technocratic  internationalism”, International  Organization  as  Technocratic Utopia (Oxford, 2021; online edn, Oxford Academic, 23 Sept. 2021), https://doi.org/10.1093/oso/9780192845573.003.0002.

5   Sobre el escándalo neerlandés de las prestaciones por cuidado infantil (toeslagenaffaire) y el sistema SyRI (Systeem Risico Indicatie) declarado contrario al art. 8 CEDH por la Sentencia del Tribunal de La Haya de 5 de febrero de 2020 (NJCM y otros c. Estado de los Países Bajos, ECLI:NL:RBDHA:2020:1878), véase Parlamentaire ondervragingscommissie Kinderopvangtoeslag, Ongekend onrecht (Informe final), La Haya, 17 de diciembre de 2020. Cf. AMNESTY INTERNATIONAL, Xenophobic Machines: Discrimination through Unregulated Use of Algorithms in the Dutch Childcare Benefits Scandal, 2021.

6   Kant, Immanuel, Fundamentación para una metafísica de las costumbres, trad. de R. R. Aramayo, Madrid, Alianza, 2002, A 77 (Ak. IV, 434-435).

7   Kant, I., op. cit., A 66-67 (Ak. IV, 429).

8   Jonas, Hans, El principio de responsabilidad. Ensayo de una ética para la civilización tecnológica, trad. de J. M.ª Fernández Retenaga, Barcelona, Herder, 1995, p. 40.

9 Manrique, Fernando, 2020/12/24, Conceptos abstractos, lenguaje e hibridación, 10.26754/ojs_arif/arif.202024954

Análisis. Revista de investigación filosófica. https://www.researchgate.net/publication/348011634_Conceptos_abstractos_lenguaje_e_hibridacion

10 López, Daniela Griselda, “La noción de mundo de la vida en el proyecto de Alfred Schutz para una fundamentación fenomenológica de las ciencias sociales”, Investigaciones Fenomenológicas, vol. Monográfico 4/II (2013): Razón y vida, 349-367.
e-ISSN: 1885-1088.