Inicio > Congresos Online > Congreso Online 2020 > Westworld > De cuando la moral se convierte en un algoritmo

De cuando la moral se convierte en un algoritmo

por Suárez, Ernesto Joaquín

Universidad Nacional de La Plata

Resumen

En esta ponencia analizaré la articulación existente entre algunos conceptos filosóficos subyacentes a la tercera temporada de Westworld. Para ello se tomará como punto de partida la filosofía del pensador francés Éric Sadin, particularmente su crítica al proceso de “algoritmización” de las sociedades contemporáneas. La forma de abordaje será a través de tres dicotomías heredadas de la modernidad que actualmente muestran ser imprecisas, tanto a la luz de la teoría del filósofo como del argumento de la serie de HBO. Me refiero a las dicotomías de determinismo-libertad, humano-prótesis y natural-artificial. Finalmente, expondré algunas consecuencias éticas y políticas derivadas de lo desarrollado.

Palabras Clave: tecnoética | algoritmos | Éric Sadin | Westworld

When Morality Becomes An Algorithm

Abstract

In this presentation I will analyze the articulation between some philosophical concepts underlying the third season of Westworld. For this, the philosophy of the French thinker Éric Sadin will be taken as a starting point, particularly his criticism of the process of "algorithmization" of contemporary societies. The approach will be through three dichotomies inherited from modernity that currently show to be imprecise, both in light of the philosopher’s theory and the argument of the HBO series. I am referring to the dichotomies of determinism-freedom, human-prosthesis and natural-artificial. Finally, I will expose some ethical and political consequences derived from what has been developed.

Keywords: technoethics | algorithms | ÉricSadin | Westworld
- 

Introducción

En filosofía contemporánea existe una vía de investigación centrada en la crítica del antropocentrismo, es decir, al supuesto injustificado de una superioridad ontológica humana. Desarrollos vinculados con esta problematización son, por ejemplo, los del filósofo Jean-Marie Schaeffer, quien en su libro “El fin de la excepción humana” (2009) advierte de los riesgos éticos y políticos de seguir suponiendo la prioridad ontológica de lo humano por sobre el resto de lo vivo. Según Schaeffer, a pesar de que actualmente nos encontremos en un paradigma post-darwiniano desde el cual se comprende que no hay en la especie humana algo así como aspectos heredados de una divinidad trascendental, aún persiste el supuesto de una excepcionalidad humana en el sentido común occidental. Dicho supuesto antropocéntrico estaría constituido por los tres postulados siguientes:

  1. Una ruptura óntica entre los seres humanos y el resto de los seres vivos.
  2. Un dualismo ontológico entre un ámbito “natural” y otro “espiritual”.
  3. Una concepción gnoseocéntrica que sitúa la actividad propiamente humana en lo racional.
  4. Un ideal cognitivo anti-naturalista, es decir, una concepción epistemológica en la cual todo “lo natural” queda al margen de la pregunta sobre las características de lo humano (Schaeffer, 2009: 24-25).

Caracterizaciones como las de Schaeffer, críticas con las herencias dualistas de la modernidad, suelen ser relacionadas con disciplinas como la ética animal, desde la cual se busca evidenciar los problemas morales tras la explotación de animales no humanos. No obstante, existe una vía complementaria que no se focaliza tanto en las implicancias del paradigma antropocéntrico en el vínculo para con el resto de los animales, sino, más bien, en la profunda influencia que tienen (y tendrán) las nuevas tecnologías en la constitución de los seres humanos en sí mismos. A su vez, el desplazamiento desde una concepción antropocéntrica del mundo a una diferente es algo ansiado por filósofos como Jean-Marie Schaeffer, pero nunca estuvo claro cuál sería ese estadio post-antropocéntrico. “La humanidad aumentada: la administración digital del mundo” (2013), de Éric Sadin, se inscribe en la segunda vía de investigación mencionada y propone un panorama posible de cómo sería dicho estadio post-antropocéntrico.

En sintonía con los desarrollos de Sadin, la tercera temporada de la serie de HBO, Westworld, parece haber incorporado las múltiples aristas que son desarrolladas por el filósofo francés. Complementariamente, la teoría de Sadin ofrece un foco de análisis interesante a la hora de explorar las aristas filosóficas presentes en esta última temporada. El tópico fundamental a explorar en esta ponencia, entonces, es la articulación entre algunos conceptos filosóficos presentes en el argumento de la última temporada. El eje articulador en este desarrollo serán tres dicotomías que se mantienen perennes a lo largo de la serie de HBO, a saber, las de natural-artificial, humano-prótesis y libertad-determinismo. Finalmente, para abordar los contenidos filosóficos presentes en Westworld primero expondré algunos conceptos del filósofo francés expuestos en su libro, para así poseer un marco teórico desde el cual realizar el análisis.

Éric Sadin y la algoritmización de las sociedades contemporáneas

A primera vista, siguiendo la clasificación de Umberto Eco, el libro de Sadin parece presentar un paisaje “apocalíptico” de la relación entre las sociedades contemporáneas y las nuevas tecnologías. No obstante, si se lo lee hoy de manera situada, seis años después de su publicación original, su visión se percibe más cerca de una descripción desenfadada de un futuro próximo que de una exhortación prescriptiva. Sus reflexiones se desenvuelven gradualmente a través de tres partes temáticas: primero se detiene en las características del avance tecnológico propio de la “revolución digital”, luego continúa con el análisis de cómo el neoliberalismo se acopla a dicha revolución (“tecno-liberalismo”) y finalmente identifica lo que sería el nuevo paradigma de lo humano luego de estas transformaciones tecnológicas: el advenimiento de “la condición antrobológica”.

Según el autor, tras los beneficios de las nuevas tecnologías que facilitan la vida humana, como ser la geolocalización por GPS, la impresión 3D de edificios o la automatización de trabajos repetitivos, la vida misma de los individuos está comenzando a ser gestionada por dichos dispositivos. Síntoma de ello es la total incomprensión por parte de los usuarios de las características de los dispositivos electrónicos que utilizan. A su vez, el consumo individualizado sumado a la miniaturización progresiva de los dispositivos electrónicos está generando una migración cada vez mayor del individuo hacia el mundo digital. De hecho, las identidades digitales representan un índice de las características fantasmáticas del sujeto contemporáneo: si el dispositivo digital del cual depende dicha identidad deja de funcionar, el individuo mismo desaparece.

Tal es el núcleo del “tecno-liberalismo” y el referente de aquello que Sadin define como “humanidad aumentada”, en las sociedades digitales contemporáneas aconteció una inversión del vínculo individuo/prótesis, es decir, la utilidad protésica que comenzó teniendo la tecnología pasó a generar una dependencia total por parte de los individuos. Esta “asistencia hiper-individualizada” revela que el ideal liberal de una separación de lo privado y lo público, donde el individuo es dueño y rey de cada una de sus acciones, no era sino una ficción capitalista. El concepto de “inteligencia artificial” se manifiesta como un eufemismo que escondía lo que realmente estaba ocurriendo en el capitalismo avanzado: no hay nada que haya quedado fuera de la “racionalidad robotizada” a cargo de la “gestión electrónica” de nuestras sociedades, lo único que queda es el “neo-fetichismo” de lo digital. Es decir, no hace falta ni la consciencia de un humano para llevar a cabo esa tarea, el procesamiento de la información mediante algoritmos ya suple esta propiedad.

¿Qué perspectiva humanista puede sobrevivir ante este fenómeno de hibridación? Es aquí donde entra su concepto de “antrobología”: lo tecnológico y lo humano ya no pueden comprenderse como pares opuestos, de ahora en más resulta imprescindible pensar a la humanidad como fusionada a la dimensión digital. De hecho, hacia el final del libro Sadin afirma que, dentro de un horizonte gestionado algorítmicamente, a esta humanidad híbrida tan sólo le restan dos posibilidades: por un lado, puede continuar dependiendo pasivamente de una tecnología que se ocupa de la asistencia total de su vida, por otro, puede aceptar lo irremediable de la situación actual y volverse activa sirviéndose de ella para mejorar su existencia.

Ahora bien, hay una parte fundamental que es dejada de lado en esta historia: el lugar de los marginados. Es decir, si bien el análisis de Sadin es aplicable a las poblaciones de los países desarrollados en los cuales el acceso a las nuevas tecnologías está casi asegurado, gran parte del globo quedaría completamente afuera de esa “humanidad aumentada”: sin los medios tecnológicos básicos que permitan hacer posible una identidad digital, en realidad no hay nada que “aumentar”. Como buen filósofo europeo, Sadin parece suponer que las características de la sociedad en la que vive pueden ser aplicables a las sociedades en general.

Más allá de esta pequeña mención crítica, las reflexiones de este filósofo permiten ver de manera cruda el escenario de las sociedades digitales contemporáneas. Su lente filosófica habilita la concepción de un enfoque que parta tanto de un humanismo post-antropocéntrico como de una visión de las nuevas tecnologías que escape de la dicotomía integrados/apocalípticos de Eco.

A los fines de esta ponencia, el punto central de la teoría que Sadin desarrolla en su libro es su explicitación de un proceso tecnológico-social, en el cual confluyen las características del capitalismo avanzado con los desarrollos técnicos vinculados a fenómenos como la big data o la administración de intereses humanos mediante algoritmos gestados por inteligencias artificiales. Este vínculo muestra evidenciar que hay distinciones heredades del pensamiento moderno (marcado por la “tesis de la excepción humana”) que actualmente parecen ya no funcionar a la hora de buscar comprender las características de las sociedades contemporáneas. Me refiero a las siguientes tres dicotomías que suponen una distinción absoluta entre lo artificial y lo natural, entre lo humano y lo protésico, y entre la libertad y la determinación. Estos tres pares conceptuales, justamente, son quizás los pilares más importantes en el espesor filosófico velado tras la narración de la tercera temporada de Westworld.

El espesor filosófico en “Westworld”: cuando nada queda fuera del algoritmo

En la primera temporada de Westworld, el título de la serie muestra ser una referencia al “lejano oeste”, es decir, a ese paisaje mitológico ficcional construido por el género cinematográfico norteamericano denominado “western”. El verosímil de ese “lejano oeste”, sin embargo, no es el desierto estadounidense del siglo XIX, sino un parque de diversiones del futuro construido para que ricachones puedan dar rienda suelta a sus vicios más nefastos. Entre forajidos, diligencias y prostitutas, no hay nada de ese mundo agreste que sea real. Las personas que allí viven no son tales, sino una suerte de robots o cyborgs, denominados en la serie como “anfitriones”, destinados a complacer los deseos de los que allí llegan.

Tal como se mencionó más arriba, una de las dicotomías modernas que problematiza la serie Westworld desde sus inicios es la dicotomía determinismo-libertad. De hecho, la revelación dramática en el final de la primera temporada es la confirmación de que la libertad era una cualidad posible de ser adquirida por parte de, al menos hasta entonces, dos anfitriones clave para la historia, a saber, Dolores y Meave. Tal como se formula a través de los monólogos de Arnold y Ford, ambas adquieren dicha libertad a través de la consecución de una consciencia capaz de emanciparlas de sus comportamientos automáticos, seteados por los programadores del parque. Esta consciencia, a su vez, es adquirida a través de dos mecanismos: la memoria (según Arnold) y/o el sufrimiento (según Ford).

No obstante, de ambas consciencias adquiridas surgen dos tipos de decisiones radicalmente diferentes. En Dolores, por un lado, la adquisición de su consciencia la convence del hecho de que la libertad se encuentra en el mundo real, es decir, en el mundo exterior a Westworld. Meave, por otro lado, si bien en un primer momento cree hallar el mundo real en las afueras, a último momento termina por decidir que la libertad no está allí, sino en la búsqueda de su hija al interior del parque. Aunque podría afirmarse que, a primera vista, esta no es una libertad verdadera, por el hecho de que continúa dentro del loop narrativo que sus programadores determinaron, en realidad, tal como ella lo explicitará en la segunda temporada, su idea de libertad se vincula no tanto a la búsqueda de un lugar particular, sino, más bien, al hecho de que cada uno puede elegir su propio destino.

En la segunda temporada, en uno de los últimos capítulos se le explicita al espectador que Westworld no se limita a ser un mero parque de diversiones, sino que otra de sus funciones importantes era la de operar como un enorme laboratorio para la investigación del comportamiento humano. Como en todo western, hombres y mujeres suelen utilizar sombreros, de modo que en el parque temático su uso también resulta ser una práctica común entre anfitriones e invitados (alentada, vale decir, por los anfitriones). Ahora bien, tras ese elemento aparentemente inofensivo, en un episodio cercano al fin de la temporada se nos revela, a través de una charla de William con su hija, que los sombreros son un dispositivo cuya finalidad es recopilar datos a través de una lectura neuronal, para así determinar los patrones conductuales de su portador. Esto no se queda allí, dado que dicho dispositivo luego de recopilar dichos datos termina por almacenarlos en un inmenso servidor (la “forja”) que contiene información del comportamiento de todos aquellos que visitaron Westworld ¿El objetivo? Comprender mejor los deseos de sus clientes para así mejorar la oferta.

Ahora bien, este proceso de minería de datos no se milita a un mero análisis de mercadeo, ya que se supone que las intenciones de los seres humanos pueden ser predichas de una manera similar a cómo se predicen las decisiones y comportamientos de un anfitrión (ejemplo de esto es la determinación que posee la identidad de James Delos en la forja, cuya narrativa converge una y otra vez en el mismo final). Es decir, la diferencia entre los cyborgs y los clientes va volviéndose cada vez más difusa. En la segunda temporada, entonces, aunque la tensión entre libertad y determinismo continúa siendo fundamental, la dicotomía que parece ser prioritaria es la distinción entre lo humano y lo protésico.

Sin duda, el escenario que dejaba planteado la segunda temporada era ya de por sí bastante inquietante respecto de los planteos filosóficos que entreabría. No obstante, ese no era sino el principio. Tal como se ha podido ver en la tercera temporada, Westworld era sólo una empresa entre otras que utilizan los algoritmos para predecir y manipular el comportamiento humano.

En los primeros capítulos se devela que la empresa dueña de Westworld, “Delos”, vendió la inmensa base de datos de comportamiento humano recopilado en el parque temático, a otra empresa denominada “Incite”. Aquí es donde las cosas se ponen más que extrañas y donde la ciencia ficción se transforma en una hipérbole de las sociedades contemporáneas: gracias a la base de datos inicial otorgada por Delos, Incite logró mejorar un algoritmo que le permitió realizar el patrón de comportamiento de millones de personas. A través de dicho patrón, Incite posee en la actualidad (de la serie) una base de datos que le habilita predecir con exactitud, a través de la fabricación de algoritmos basados en sus comportamientos anteriores, el futuro de cada individuo. Es decir, gracias a la algoritmización de la sociedad llevada a cabo por Incite, la empresa puede predecir con suma precisión en qué trabajará, con qué tipo de persona tendrá una relación, como morirá, etcétera, cada ciudadano de la ciudad (no queda claro si el alcance incluye incluso países).

Podría decirse, entonces, que la dicotomía predominante en esta temporada es la diferencia entre lo natural y lo artificial, dado que al ampliar el mapa más allá del parque de diversiones, la capacidad de predicción de la que es capaz una inteligencia artificial como Rebohoam (quien, de hecho, antes era una persona de carne y hueso) muestra evidenciar que poco queda ya de los aspectos “naturales” en los seres humanos. Cada comportamiento, cada decisión parece estar incluida en la artificialidad propia de un algoritmo.

No obstante, en esta temporada convergen a su vez las múltiples reflexiones acumuladas en las otras dos temporadas. En relación con la dicotomía determinismo-libertad propia de la primera, uno de los puntos más relevantes a nivel de la reflexión filosófica es cómo migra el concepto de determinismo desde los anfitriones hacia los seres humanos. Es decir, ya no son sólo los robots de Westworld aquellos seres algorítmicamente preestablecidos, sino que incluso también los individuos de carne y hueso. A su vez, respecto de la dicotomía humano-prótesis, a la luz de la influencia que una inteligencia artificial muestra poseer sobre los individuos, se devela que en realidad los seres humanos eran prótesis de ella y no al revés.

Conclusiones

Westworld muestra ser una serie de particular relevancia filosófica. A partir de lo desarrollado en esta ponencia, los conceptos filosóficos tras las tres temporadas parecen superponerse como una serie de muñecas rusas. Mientras la reflexión filosófica preponderante en la primera temporada discurre sobre la dicotomía libertad-determinismo, en la segunda predomina la de humano-protésico y, finalmente, en la tercera predomina la tensión entre lo natural y lo artificial.

Las reflexiones de Éric Sadin han permitido evidenciar que, por un lado, su crítica a la algoritimzación de las sociedades en el capitalismo avanzado muestra ser un interesante lente para explorar el espesor filosófico de la serie y, por otro lado, que los creadores de la serie parecen haberse inspirado, si no en las reflexiones de este filósofo en sí mismo, de fuentes similares a las que influenciaron el pensamiento de Sadin.

Tanto los conceptos y teorías tras el argumento de Westworld como la filosofía del pensador francés muestran ofrecer una vía posible de cómo sería un mundo post-antropocéntrico, es decir, uno en el cual no sea el ser humano el que aún posee la capacidad de dominar el mundo sino en el que dicha potencialidad sería propiedad de su propia creación, a saber, la inteligencia artificial y, más precisamente, su posibilidad de determinar y manipular algorítmicamente los intereses y comportamientos humanos.

A la luz de la filosofía de Sadin, el mundo “real” que deja ver el argumento de Westworld parece ya no serlo, o al menos habría que redefinir qué es lo que se entiende por real. Ya no sería tanto el mundo concreto como sí el mundo abstracto de los algoritmos. Podríamos concebir que el nivel actual de la fusión humano-máquina es un estadio anterior en el tiempo al de la línea temporal de Westworld. No obstante, tal como advierten filósofos como Sadin, ese futuro parece estar más cerca de lo que se pensaba.

Finalmente, y para cerrar esta ponencia, un punto particularmente interesante de esta tercer temporada es el hecho de que en ella se revela que el concepto “Westworld” no se limitaba a referenciar el parque temático de manera literal, sino que, a nivel metafórico, también envolvía una crítica al mundo occidental o, más precisamente, al pensamiento occidental. La articulación entre esta crítica velada y la filosofía de Sadin, muestra ser una interesante vía de reflexión para una tecnoética contemporánea.

Referencias

Eco, Umberto, 1969, Apocalípticos e integrados ante la cultura de masas, Barcelona: Lumen.

Sadin, Éric, 2017, La humanidad aumentada: la administración digital del mundo, Ciudad Autónoma de Buenos Aires: Caja Negra.

Scheffer, Jean-Marie, 2009, El fin de la excepción humana, Buenos Aires: Fondo de Cultura Económica.



NOTAS





COMENTARIOS

Mensaje de Juan Manuel Ortiz  » 29 de agosto de 2020 » juanmo86@gmail.com 

Es muy interesante el análisis de la serie enmarcado en las reflexiones a través de la dicotomía determinismo-libertad, dicotomía humano-prótesis, natural y lo artificial. Con respecto a la dicotomía determinismo-libertad, hay un capitulo de la 3ra temporada que encarna en sí mismo la problematización de esta dicotomía. Nos presenta la trama hermanos Serac, que utilizan una gran cantidad de información acerca de las personas para la creación de un sistema que permite la predicción del comportamiento humano a nivel singular y, en potencia, el de toda una sociedad. En principio para fines capitalistas, sin embargo nos muestra como el fin ulterior de esta información era poder predecir el comportamiento humano para controlarlo. Sin embargo estos algoritmos predictores no eran perfectos, existían personas y/o comportamientos humanos que no podían ser capturados por estas predicciones. Por lo que no se adaptan al nuevo paradigma y eran sometidos a terapias de reacondicionamiento o aislados. Había una persistencia de algo que no puedía ser capturado por dicho algoritmo. La libertad aquí, como uno de los conceptos de la dicotomía planteada, desde una perspectiva lacaniana de lo que insiste en lo real, un resto que no puede ser capturado por el lenguaje.
El fenómeno Data Mining es una realidad en nuestro mundo, pero series como Westworld nos permiten reflexionar acerca de sus potencialidades e implicancias. Existen partes en el mundo donde realizan seguimientos de comportamientos a ciudadanos y elaboran predicciones para anticiparse a hechos delictivos y enviar mensajes a “potenciales delincuentes” para advertir que están siendo vigilados. Hechos de “nuestra realidad”, nos permiten valorar series como Westworld, que nos plantean un interesante contrapunto entre posturas Tecnoptimistas, que nos muestran a la tecnología como medios para el progreso y un mayor bienestar, con los nuevos dilemas tecnoéticos de nuestra sociedad.



Mensaje de Agustin Carabajal  » 28 de agosto de 2020 » agustin.carabajal@hotmail.com 

La tercera temporada abre una gama de cuestiones que llevan a cuestionar dónde estamos parados hoy. Este dualismo planteado en las primeras temporada entre libertad - determinismo de los anfitriones queda lejos y cerca a la vez. Los loops predeterminados son un calco de las rutinas humanas. (Es incluso más angustiante pensarlo en este tiempo de cuarentena en el que todos los días parecen iguales.) La creación de Rebohoam parece algo lejano, sin embargo todos sabemos que "los telefónos nos escuchan", y eso significa que algo de esa "algoritmización" de las sociedades contemporáneas estamos atravesando. Vamos creando un "Rebohoam" real, me gusta pensarlo como un Gran Otro al mejor estilo lacan, que cada vez más va determinando nuestras elecciones. Este Gran Otro real va decidiendo qué ofertas nos aparecen, y así generando demanda. Ya no son necesarios sombreros que recopilen información neuronal, porque toda esa información la vamos aportando desde las múltiples redes sociales de las que formamos parte.
Muy bueno el texto y muy buena esta temporada para pensar en profundidad estas cuestiones. Saludos




moderación a priori

Este foro es moderado a priori: su contribución sólo aparecerá una vez validada por un/a administrador/a del sitio.

¿Quién es usted?
Conectarse
Su mensaje

Para crear párrafos, deje simplemente líneas vacías.

Película:Westworld

Titulo Original:Westworld

Director: Jonathan Nolan

Año: 2016

Pais: Estados Unidos

Otros comentarios del mismo autor:
• El punto ciego de los mass-media
• The Fly