Inicio > Congresos Online > Congreso Online 2021 > Westworld > Análisis acerca del deseo y la decisión en un contexto de sistemas algorítmicos

Análisis acerca del deseo y la decisión en un contexto de sistemas algorítmicos

por Carabajal, Juan Agustin

Universidad de Buenos Aires

Resumen

El siguiente trabajo es un recorte de la tesis presentada como proyecto final de la carrera de Licenciatura en Psicología de la Universidad de Buenos Aires. El objetivo es reflexionar a partir de la pregunta ¿qué sucede con el deseo y con la decisión en un contexto de auge de sistemas algorítmicos predictivos? Se ha elegido como objeto al personaje de Caleb presentado en la tercer temporada de la serie televisiva Westworld (Nolan y Joy, 2020). El abordaje se realiza utilizando el método clínico-analítico de lectura de films (Michel Fariña, 2014). El marco teórico elegido es el psicoanalítico, con la noción freudiana del deseo que luego profundizó Lacan, y tomando la noción de acto para entender la decisión.

Los resultados muestran que a pesar de los intentos del aprovechamiento de estos sistemas para influir en el deseo y la decisión, no se puede alcanzar un control absoluto en los sujetos. Las conclusiones indican que el deseo tiene como característica el hecho de ser inabarcable y de trascender hasta incluso la propia voluntad. Finalmente, se abren preguntas acerca de este contexto y de lo que depara el futuro dado que las tecnologías se involucran cada vez más en la subjetividad.

Palabras Clave: deseo | decisión | Westworld | alienación

Analysis about desire and decision in a context of Algorithmic Systems

Abstract

The following work is a cutting of the thesis presented as the final project of the Bachelor’s degree in Psychology at the University of Buenos Aires. The objective is to reflect on the question, what happens to desire and decision in a context of the rise of predictive algorithmic systems? The character of Caleb featured in the third season of the Westworld television series has been chosen as the object (Nolan and Joy, 2020). The approach is carried out using the clinical-analytical method of reading films (Michel Fariña, 2014). The theoretical framework chosen is the psychoanalytic, with the Freudian notion of desire that Lacan later deepened, and taking the notion of act to understand the decision.

The results show that despite attempts to take advantage of these systems to influence desire and decision, absolute control cannot be achieved in the subjects. The conclusions indicate that desire is characterized by the fact that it is vast and transcends even one’s own will. Finally, questions are raised about this context and what the future holds as technologies increasingly engage in subjectivity.

Keywords: desire | decision | Westworld | alienation

Introducción

En el siguiente trabajo se planteará un análisis a partir de la pregunta de ¿qué sucede con el deseo y con la decisión en un contexto de auge y desarrollo de sistemas algorítmicos predictivos? Es una temática que se ubica dentro del área clínica de la psicología, y se parte de la hipótesis de que el objetivo y el propósito de estos sistemas podría ser el de gobernar la subjetividad a través de sus influencias en el deseo y la decisión. El interés entonces estará en pensar si algo del deseo puede escapar a este intento, y también en pensar de qué manera se ve afectada la decisión. Es una temática actual y que no está muy estudiada todavía. Será abordada desde una perspectiva psicoanalítica, con aportes de la filosofía de Eric Sadin.

Todo el trabajo será pensado a partir del análisis de la tercer temporada de la serie televisiva Westworld (Joy y Nolan, 2020), haciendo especial hincapié en el recorrido del personaje Caleb. Se aplicará el método clínico analítico de lectura de films propuesto por Michel Fariña (2014) que, basado en el paradigma indiciario de Carlo Guinzburg, consiste en emitir hipótesis a partir de detalles singulares, tal como la clínica psicoanalítica.

Desarrollo

La tercera temporada de la serie Westworld (Joy y Nolan, 2020) se ubica en el año 2058 en la ciudad de Los Angeles, EEUU, y presenta una realidad distópica en la que el avance tecnológico es colosal. Existen, por ejemplo, robots que facilitan las actividades de los individuos. Es cronológicamente posterior a las primeras dos temporadas, en las que presentaban un parque temático en ese futuro en el que los humanos podían ir a divertirse. El parque estaba poblado por “anfitriones”, que son androides programados para satisfacer los deseos de los visitantes, y que en aspecto son idénticos a los seres humanos. Esta tercer temporada se encuentra entonces en el momento en que algunos de estos anfitriones han podido escapar del parque, y deciden entrometerse en el mundo que existe por fuera de éste.

En este contexto es introducido Rehoboam: "Mi padre pensó que el mayor problema en el mundo eran las potencialidades no realizadas. Pensaba que si podías trazar un curso para cada individuo el mundo sería un mejor lugar" (J. Nolan, 2020). Rehoboam es un sistema algorítmico predictivo que en principio no se revela cómo funciona, pero que nace de la idea de que es posible "trazar un curso" para cada sujeto.

Esta finalidad profundiza el objetivo de los sistemas predictivos en general, que son pensados para anticiparse a los sujetos, sugiriendo a cada uno la opción lógicamente adecuada, concluida a través de cálculos algorítmicos. Su naturaleza consiste en "decir algo acerca de cosas que todavía no fueron observadas" (Sosa Escudero, 2019, p. 128). Funcionan gracias a las big data, que son bases de información gigantescas que aportan los datos necesarios para que los sistemas puedan ser confiables (2019).

Una primer lectura sobre lo que significa “trazar el curso de cada individuo” indicaría que esto implica influir en sus decisiones, que son las que van produciendo y elaborando el porvenir de cada individuo. Una segunda lectura psicoanalítica podría afirmar que también será preciso, de alguna forma, gobernar el deseo, que motoriza el aparato psíquico en cada sujeto (Freud, 1900), y que es una de las funciones centrales en toda experiencia humana (Lacan, 1957-58). A continuación, se pensará y reflexionará acerca de las implicaciones de Rehoboam sobre el deseo y la decisión en los individuos.

La decisión en Caleb

Una vez planteada esta realidad es que se presenta al personaje de Caleb, un veterano de guerra que trabaja en la construcción y que toma de vez en cuando algunos trabajos criminales a partir de una aplicación informática. El recorrido de este personaje servirá para iluminar acerca de los alcances de Rehoboam, y para reflexionar en torno a este tipo de sistemas en general.

Este joven veterano de guerra trabaja en el presente de la serie como obrero en una construcción, y cuenta con la asistencia de un robot que lo secunda en lo que necesita. También recibe dinero tomando trabajos ilegales a través de una aplicación informática ilegal. En estas primeras imágenes en las que aparece también se muestra que charla con un sujeto llamado Francis, quien lo llama constantemente y él no lo atiende. Más adelante, en una sesión con la psicóloga, se revela que Francis está muerto, y fue su compañero en la guerra. Por lo que se evidencia que sus charlas con él y las llamadas perdidas en realidad podrían ser alucinaciones producto de un duelo no resuelto. También en esta presentación se muestra a Caleb yendo a visitar a su madre en un hospital en el que se encuentra internada, y una vez que está allí ella no lo recuerda. El primer capítulo finaliza con la aparición de Dolores, uno de los androides que había escapado del parque temático al final de la temporada anterior. Caleb la encuentra herida mientras realizaba uno de sus trabajos ilegales, y sale a su auxilio. (J. Nolan, 2020)

Luego de presentarse, Caleb, que ignora la existencia de Rehoboam, es llevado por Dolores a una heladería que tiene un valor particular para él. Lo primero que hace ella es señalar una mesa particular y decirle “¿Es aquí, no? ¿Tu mesa?”, y Caleb con sorpresa responde “¿Cómo lo sabías?”. Este lugar lo devuelve al recuerdo del día en el que su madre lo abandonó siendo pequeño. Dolores no tiene razón alguna para estar al tanto sobre el pasado de Caleb ya que se conocieron poco tiempo antes, sin embargo continúa dándole detalles de ese acontecimiento. En el momento en que una camarera se acerca la mesa a ofrecerles café, ella responde: “A él tráele una hamburguesa con queso y un batido de fresa, con crema, sin nueces y dos cerezas. Para mí nada”. La reacción de sorpresa de Caleb comienza a convertirse en enojo. Ella continúa demostrándole que sabe cada detalle de ese recuerdo, y cuando él pide una explicación, ella le muestra desde una tablet la transcripción de lo sucedido, e incluso de los diálogos exactos de ese momento. Mientras lee en voz alta lo relatado en la tablet, el espectador puede observar en el detalle de la cara de Caleb el pasaje de sorpresa o enojo a la sensación de angustia. También se intercalan escenas de ese día a modo de flashback. Incluso mira hacia la puerta en el instante en que lee que su madre le dice que se iba a ir al baño y que volvería en breve. Lo siguiente que se escucha es la voz de Caleb adulto leyendo, encima de la voz de Caleb niño, que está diciéndole a la moza del lugar lo siguiente: “Dijo que iba al baño, y que volvería en un momento, pero no ha regresado. Ha pasado mucho tiempo. (...) Ella no me dejaría. Tal vez algo le pasó. Ella no me dejaría. No me dejaría. No me dejaría...” Ese detalle de la angustia es el punto de quiebre en Caleb. Más adelante en el trabajo ese momento, que es un punto de inflexión en su vida, será analizado y profundizado. Esta charla le da pie a Dolores para poder revelarle la existencia de Rehoboam (A. Marsalis, 2020).

Esta escena puede llevar a reflexionar acerca de las consecuencias en la subjetividad que puede significar para un individuo una situación así. Caleb ahora sabe que una de sus propias vivencias traumáticas más difíciles que le tocó atravesar, como fuera el abandono de su madre, está descrito con lujo de detalles y guardado en la big data de un sistema del que él no tenía conocimiento. Este tipo de experiencias son las que hacen a la psique humana, contribuyendo a su estructura y a la forma en que uno atraviesa toda la vida. Es una vivencia que un individuo hipotéticamente podría terminar elaborando en un análisis (si es que decidiera comenzarlo). Sin embargo, aquí, el sujeto se entera que este trauma propio y privado ya no lo es tanto, sino que el sistema también lo tiene en su base de datos, por lo que entiende que también tendrá información de todas las vivencias y experiencias que puede haber atravesado.

Esta toma de conciencia da lugar a que tanto Caleb como quien observa la serie asuma que en la big data de Rehoboam se encuentra toda la información acerca de todos los sujetos. Desde su base de datos intentará definir algorítmicamente el futuro de cada persona. El sistema cuenta con la información necesaria (y aparentemente absoluta) de cada individuo, y desde ahí es que calcularía esas "potencialidades no realizadas".

Cuando Caleb pregunta si los smartphones y los distintos dispositivos tecnológicos son los que lo espían y le dicen a la empresa dueña del sistema quién es él, Dolores le responde con otra frase que es la base de esta tesis: "No se trata de quién eres Caleb, sino de quién te dejarán ser" (A. Marsalis, 2020).

Con esta afirmación se abre el análisis acerca de la decisión y de lo que implica en el sujeto un contexto como el de la serie. La propia decisión escapa al determinismo, e implica creación e invención, entendiéndose como lo que Lacan define como acto (1962-63). Con un sistema absoluto, que definiría y determinaría quién será cada uno, la decisión ya no tendría las características recién mencionadas, y no correría más a costa del sujeto.

A continuación de la escena de la heladería, Dolores guía a Caleb hacia un puente. Entonces él le pregunta por qué lo llevó hasta allí, a lo que ella responde: "Acá es donde te suicidas". Entonces le explica: "Dada tu historia de depresión, la enfermedad mental de tu mamá, tu destreza con las armas de fuego, y tu amor por el océano, el final más probable es que te suicidas. En diez a doce años. Aquí". Caleb le responde “No. Al demonio con eso”, pero se muestran recuerdos a modo de flashback en los que él fue a reflexionar solo y de noche al puente que lo hacen dudar (A. Marsalis, 2020). Se vuelve a observar la angustia en los gestos de Caleb, que hacen pensar al espectador que probablemente hará algo para revertir y modificar esto.

En ese fragmento se entiende cuáles son los distintos datos que contempla Rehoboam para definir el lugar, fecha y forma en que el protagonista tomará la decisión de suicidarse. Él, previo a ese momento, no sabía qué podría llegar a suceder dentro de diez o doce años. Sin embargo el sistema tiene planeado algo para él: "No invertirán en alguien que se suicidará. Pero al no invertir, garantizan su destino", le explica Dolores (A. Marsalis, 2020). Esto significa que él no tendría forma de modificarlo, según el sistema es un hecho que Caleb morirá de esa manera.

"Te pusieron en una jaula Caleb. Decidieron qué vida tendrías" (A. Marsalis, 2020), le dice Dolores. Lacan plantea que en el acto quien interviene es el propio sujeto y no un tercero (1962-63), por eso mismo es que de ser así tampoco podría haber una decisión propia del sujeto que inaugure lo novedoso, si previamente se encontraba predeterminado por un sistema algorítmico.

Sadin (2013) tiene una mirada filosófica y sociológica interesante acerca de un proceso que él entiende que las sociedades están atravesando al inmiscuirse en el desarrollo de las tecnologías, y al rodearse cada vez más de este tipo de sistemas predictivos. Rehoboam sirve como ejemplo perfecto de la nueva condición humana que él define como antrobología, que refiere a la relación del sujeto con los sistemas algorítmicos que le sirven para rechazar la incertidumbre de la decisión y delegarla a las máquinas (2013).

La incertidumbre es propia de la naturaleza de la decisión. El factor del azar no puede evitarse para que pueda abrirse paso lo novedoso, por ello podría pensarse que al rechazarlo el sujeto supuestamente comenzaría a dejar de decidir. Esto es lo que la serie revela, y lo que Caleb vivencia y puede ver al inicio de la temporada. Dolores finalmente le dice "No pasarás de ser un obrero o un criminal porque es lo que te permiten" (A. Marsalis, 2020). Más adelante en el trabajo se revelará que estos intentos fallan en realidad, y que Caleb sí puede decidir. Que a pesar de todo el alcance y su aparente absolutez, el sistema deja un lugar para la incertidumbre y para la decisión de Caleb.

El deseo en Caleb

En un nivel más profundo de análisis se puede comenzar a reflexionar y pensar en el deseo en Caleb, a partir de las influencias que se ejercen a través de Rehoboam en su subjetividad. La elección de ser un obrero y un criminal, como dijo Dolores (A. Marsalis, 2020), es supuestamente lo que algorítmicamente le está permitido. Se puede entonces hacer la pregunta ¿Qué sucede con el deseo en Caleb?

Lo que Freud planteó cuando comenzó a esbozar su teoría psicoanalítica es que el deseo funciona como motor del aparato psíquico (Freud, 1900), y que todas las formaciones del inconsciente son motivadas por éste. Esto se comienza a contradecir con lo que ocurre en la serie, ya que nada de lo que sucede en la vida de Caleb parecería motivado por el propio deseo inconsciente. Si termina siendo un obrero o un criminal sería porque previamente el sistema determinó que debía ser así. Si dentro de diez o doce años termina suicidándose no es por los distintos factores que se comentaron antes referidos a su propia historia, sino que el sistema calculó previamente que no iba a valer la pena invertir en un sujeto como él, por lo que ese futuro suicido está en realidad motivado por Rehoboam.

En el capítulo cinco Dolores menciona a Caleb que a partir de este sistema "construyen el futuro", y que para eso "(...) observan a todo el mundo. Les dicen qué hacer, cómo vivir, a quién amar..." (A. Foerster, 2020). Esto sirve para seguir analizando el lugar del deseo bajo estos parámetros. Qué hacer, cómo vivir, e incluso a quién amar, son distintos aspectos que, motivados por el deseo inconsciente, hacen al sujeto y lo diferencian de los semejantes y de otros seres vivos que responden simplemente al instinto.

Existe un trabajo publicado de un análisis de un capítulo de Black Mirror que está directamente vinculado con la cuestión de elegir a quién amar (Martínez, 2019). La premisa es la de un futuro distópico en el que existe una aplicación que algorítmicamente calcula el nivel de compatibilidad amorosa de una pareja, y predice también una fecha de caducación para cada caso. El panorama tiene sus coincidencias con el de Westworld, aunque Rehoboam abarca todos los aspectos de la vida. En el caso de la publicación recién aludida, la autora remarca que una aplicación así reduce el margen de libertad en los sujetos, y niega la falta constitutiva que da lugar al deseo como motor. No deja margen posible para la emergencia subjetiva de una elección propiamente singular.

La intención del sistema de Westworld también es inhabilitar a que el deseo motorice las elecciones de cada sujeto, tanto en materia del amor como en todas las otras aristas de su vida. Buscar preestablecer coordenadas que quitarían cualquier tipo de libertad. Esto es lo que Caleb puede ver y entender una vez que Dolores le revela el sentido y la existencia de Rehoboam.

El capítulo de Black Mirror se enfoca exclusivamente en el ámbito amoroso, y la autora afirma que con esta aplicación queda cada vez menos lugar para el cuerpo, las corazonadas y lo azaroso que concierne propiamente al encuentro amoroso (Martinez, 2019). Así como en Westworld ocurre en un nivel general, aquí se va quitando la posibilidad de dar lugar al acto singular en el plano del amor.

Una última cuestión nombrada por Martínez (2019), que obliga a profundizar en la serie de Westworld, es la visión de la aplicación amorosa como un Otro aparentemente completo que establece y determina toda esta serie de coordenadas sociales, temporales y vinculares. Pensar en el concepto de deseo desde el psicoanálisis obliga a pensar en la noción del Otro, y podría aportar mucho para el recorrido que se plantea en Westworld. Así como en el trabajo recién abordado se plantea la posibilidad de entender a la app como un Otro completo, lo mismo sirve para pensar a Rehoboam.

El sistema atraviesa de tal forma la vida de Caleb y de cada sujeto que está claro que el análisis que se realice puede servirse de herramientas y conceptos más complejos para entender lo que ocurre a nivel de la vida anímica con un contexto como el suscitado en la serie. El Otro conceptualizado por Lacan sirve para leer a Rehoboam psicoanalíticamente en algunos puntos. El Otro o gran Otro es una estructura que cumple el rol en la constitución subjetiva que juegan el lenguaje, lo ajeno al sujeto y el ambiente en el que nace. El niño cuando nace debe aprender a manejar los significantes y códigos del lenguaje que ya existen, y ese lenguaje es el del Otro. Por ello el sujeto usa ese lenguaje del Otro, y a la vez el Otro lo aliena al lenguaje. Rehoboam funciona para los sujetos al estilo de un Otro omnipotente, que todo lo sabe, y que no está barrado o atravesado por la falta. Actúa sobre el deseo taponándolo, y así intentando determinar las acciones. El sistema podría predecir todo en los sujetos, y su alcance tendría tal magnitud que es utilizado para manipular y definir el curso de cada uno. Allí el deseo (aparentemente) se borra por completo, y cada elección queda a merced de este gran Otro.

Una segunda cuestión útil para este trabajo, en lo que refiere a la teoría psicoanalítica de Lacan, es la del deseo pensado como deseo del Otro (1958-59, p. 23-24). La afirmación apunta a la constitución subjetiva, y al modo en que se aprehende la experiencia de deseo como deseo del Otro, encarnado en primera instancia por la madre. El sujeto quiere ser objeto de deseo de este Otro materno, por ello será necesario que quien cumpla ese rol lo aloje en esa posición. Es con la articulación del deseo con la ley, la doble operación lógica de alienación y separación, que el niño puede llegar a correrse de esa posición en la que el Otro lo aloja, y que puede llegar a ubicarse en posición de goce de ese Otro.

Esta cuestión atañe a la serie en la medida en que puede pensarse a Rehoboam ocupando un rol similar al del gran Otro. Desde esa suposición es que los sujetos podrán entrar en la lógica del deseo, primero habiendo sido alojados por el deseo de este Otro. Siendo un sistema que se guía por cálculos matemáticos y algorítmicos parece absurdo hablar de deseo, sin embargo es preciso entender que lo que coincide y aporta en este caso son los efectos en el sujeto que se observan a partir de la existencia de Rehoboam.

El imperativo que motoriza a Rehoboam es en realidad el afán megalómano de su creador, que tal como se revela en el capítulo cuatro es el de "reconfigurar el mundo" y de "trazar un curso para toda la raza humana" (A. Foerster, 2020). Este texto se combina con el de la presentación del sistema, que refería a las "potencialidades no realizadas" para convertir "el mundo en un mejor lugar" (J. Nolan, 2020), y es el que atraviesa por completo a este Otro en todas sus automatizaciones y sistematizaciones. Así el sistema intenta reconfigurar todo, y los sujetos quedarán alienados a esa imposición.

Esto mismo es lo que le sucede a Caleb, hasta que puede entenderlo y visualizarlo. Comprende que en toda su vida, hasta el momento en que Dolores le revela, se mantuvo alienado a ese deseo, y lo que motorizó su propia vida ha sido su deseo inconsciente que se mantuvo fijado ante lo requerido por el sistema.

A nivel psíquico se da una consecuencia similar a lo que ocurre con la operación de alienación. Esta es necesaria para que el sujeto se inscriba en el campo simbólico, que es el campo del Otro, que lo funda y lo nombra. El sujeto entonces se ubica velando la falta que es inherente a la estructura de ese otro, no hay sujeto dividido. El niño se ubicará en el lugar de lo que el Otro materno desea, ocupando el lugar de falo materno. Toda esta operación de alienación claramente no ocurre con la existencia de Rehoboam, pero sí se da un efecto que es similar: el sujeto ocupa ese lugar en el deseo del Otro, sin poder correrse, y se mantiene sujetado allí, a merced de lo calculado por Rehoboam.

Por ello es que Caleb termina siendo un obrero y un criminal, que es lo que Rehoboam había determinado. Por ello también es que su muerte sería tras un suicidio. Cada sujeto se mantendría ocupando un lugar para Rehoboam en el que simplemente son parte de un plan más grande de "reconfiguración del mundo" (A. Foerster, 2020).

Los "atípicos"

Otro asunto que se aborda en la serie a continuación es qué sucede con los sujetos que escapan a lo predeterminado por el sistema. En el capítulo cinco el creador de Rehoboam dice: "Había casos atípicos, personas, agitadores que no eran predecibles ni controlables" (A. Foerster, 2020).

Con lo visto hasta aquí podría conjeturarse que la existencia de estos atípicos que logran liberarse o escapar de esta alienación, se debe a que el deseo no pierde su naturaleza de mantener al aparato psíquico en movimiento, y de motorizar la vida de los sujetos, ni siquiera existiendo un sistema que funciona algorítmicamente intentando fijar las coordenadas para el futuro y las decisiones de cada uno. Esto deriva en que lógicamente siempre habrá cosas que no se puedan predecir o predeterminar referentes al deseo, ya que la impredictibilidad y la innovación son necesarias.

La respuesta que encuentran en la serie a estos "casos atípicos" que no ingresan dentro de lo que se puede calcular es la de encerrarlos y aislarlos de la sociedad (A. Foerster, 2020). Esto está directamente vinculado a lo que plantean los autores Goldsmidt y Thompson en un artículo publicado acerca de la relación entre los algoritmos y el deseo (2019). Afirman que el imperativo de optimización de esta época, que se condice con el auge de tecnologías predictivas, obliga a que se produzca una "multiplicidad homogeneizante" en la que se termina rechazando a la alteridad y a lo diferente. Se intenta capturar hasta lo más difícil de cifrar, y aquello que resulta imposible se degrada a alguna categoría disponible dentro del campo simbólico (p. 380).

En este caso Rehoboam no degrada a una categoría disponible a los "atípicos", sino que directamente los aísla y aparta de la sociedad. Los oculta ya que no responden al imperativo que guía al sistema, y no se mantienen alienados. La pregunta de por qué a algunos sujetos les sucede esto y a otros no en este momento no tiene respuesta. En la serie no se revela un patrón común entre los distintos "atípicos", aunque quizá para la próxima temporada haya una explicación. De todos modos, se puede pensar en un paralelismo con el histórico paradigma de la salud mental en el que los considerados “alienados mentales” o locos eran aislados y encerrados. Aquí podría pensarse que hay una réplica de esto en juego: aquellos que no se mantienen en la norma deben ser encerrados ya que son peligrosos. Y se puede suponer que el hecho de no responder al imperativo del sistema tenga que ver justamente con características de la estructura psíquica que los ubique por fuera de lo percibido como normal.

Algunos otros puntos manifestados en la publicación de Goldsmidt y Thompson sirven para seguir reflexionando. Los autores conciben que en la época se instala un ideal cuantitativo junto a un imperativo de optimización, que responde a una necesidad de aumentar la necesidad y la capacidad de producción (2019, p. 379). Esto, dicen los autores, implica consecuencias en la subjetividad; consiguientemente, la clínica psicoanalítica se encontrará con el desafío de pacientes atravesados por esto mismo.

En la serie, esta exigencia de velocidad y aprovechamiento productivo se traduce en la sentencia que guía al sistema Rehoboam, que es la de alcanzar todas esas potencialidades que no se realizan, en la búsqueda de un bien común. Quienes lo pensaron jamás imaginaron (o dieron importancia) a las consecuencias subjetivas que podía llegar a implicar. El recorrido de Caleb siguiente al momento de la angustia en el restaurant es producto de esto ignorado por los fundadores del sistema.

Tras hacerse consciente de todo esto decide dar el paso de correr el velo y mostrar al mundo esta verdad. Con ayuda de Dolores encuentran la manera de hackear al sistema y revelarle a cada persona hasta qué punto Rehoboam cuenta con información de ellos. Quizá una de las frases más relevantes es la que le dice a Dolores previo a dar el paso: "Por lo menos de esta manera puedo decidir quién quiero ser" (A. Foerster, 2020). Caleb puede decidir. Ese primer momento clave en la heladería lo enfrenta con la angustia, y así hay lugar para el acto, en el que la invención y el azar son protagonistas. Ya no hay una acción predeterminada por un sistema, y el propio sujeto es quien toma la decisión de enfrentar a este Otro que parecía absoluto, pero que no lo era, ya que no puedo prever ninguno de los actos posteriores al punto de quiebre en la vida de Caleb. El sistema había logrado mantener esa alienación en la que el deseo en cada uno se mantenía amarrado al deseo del Otro. Parecía no haber lugar para lo propiamente subjetivo y original, pero el deseo es el que siempre motoriza al aparato psíquico, según lo definido por Freud, y profundizado posteriormente por Lacan, y por ello es que se rompe esa alienación.

El paso de revelarle al mundo la verdad es mostrado con una escena en la que cada persona recibe en su celular esta información, y se va despertando en ellos una primera sensación de angustia. Caleb sale acompañado de Dolores y de algunas otras personas del lugar desde donde programaron esta difusión de información y se para a observar y examinar su alrededor. Ve una mujer sentada en el piso leyendo su celular, luego pasa un auto que pareciera que fue robado por algunos jóvenes que se están divirtiendo, también se ve a un hombre peleando con otro, y todo acompañado de una canción instrumental que da una sensación de liberación (A. Foerster, 2020). Esa angustia que se puede observar en algunas personas que van mirando su celular y encontrándose con toda la información de la big data de Rehoboam podría ser esa primer angustia que se observa en el detalle de la escena de Caleb en la heladería. Sin embargo cada sujeto afrontará como puede esa verdad y habrá tantas respuestas posibles como sujetos que reciban esa información. La ruptura de esa alienación con el Otro se empieza a volver efectiva de manera global.

Conclusiones

El presente trabajo ahondó sobre la pregunta de investigación: “¿Qué sucede con el deseo y con la decisión en un contexto de auge y desarrollo de los sistemas informáticos predictivos?”. La hipótesis planteada era que el propósito de los sistemas informáticos predictivos podía ser el de intentar gobernar la subjetividad, teniendo en cuenta sus influencias en las decisiones de los sujetos, pero en el deseo hay algo que tiene carácter de inabarcable y que siempre trasciende, hasta incluso, la propia voluntad, por lo que queda terreno para que esa decisión sea del sujeto sin que un sistema la dirija o la determine, y se ha podido verificar.

La existencia de un Rehoboam es improbable hoy. Quizá nunca un solo ente pueda concentrar todo lo que en la serie se plantea. Pero la realidad sí revela que los avances tecnológicos incrementan de forma exponencial, por lo que la humanidad completa se encuentra cada vez más penetrada e invadida de este tipo de sistemas algorítmicos. Esto inunda de relevancia a los debates que se puedan abrir a partir de la realidad distópica de la serie.

Es ilusorio pensar en que se pueda hoy predeterminar algorítmicamente el futuro total de un individuo, no obstante las decisiones se ven influidas de forma constante por las tecnologías. Quizá una pregunta oportuna podría ser ¿hasta qué punto un sujeto es libre eligiendo y decidiendo con las recomendaciones y las opciones adecuadas que sugieren estos sistemas?

Será necesario estudiar cada vez más la forma en que las tecnologías se involucran en la subjetividad. Desde este trabajo se puede concluir que la decisión en un contexto en el que estos sistemas se multiplican sí puede ser influenciada, pero no dominada por completo. Existen puntos propios de la estructura psíquica humana, como el momento de la angustia de Caleb, que dejan un espacio para que el sujeto pueda volver a dar lugar a su propio acto, tal como lo plantea Lacan.

Pensando al deseo en este contexto, la conclusión parece ir por el mismo camino. Si bien durante el trabajo se desarrolla la idea de la alienación al deseo del Otro, rol ocupado por el sistema Rehoboam, es distinto pensarlo para la realidad de hoy ya que no existe un único sistema absoluto. Así y todo, sí puede afirmarse que propio de estos sistemas es el objetivo de calcular y algoritmizar ese deseo, tal como plantea el trabajo de Martínez (2018), para así influir en las motivaciones del sujeto y a posteriori motorizar sus acciones. Esto requerirá analistas atentos a nuevos conflictos que surjan del vínculo con las tecnologías de esta índole.

También puede pensarse en los efectos de la dimensión antrobológica (Sadin, 2013) para dentro de la clínica. Esta realidad es cada vez más urgente, y la tecnología se encuentra cada vez más sumergida en la subjetividad. Existen sujetos que se libran de la angustia propia de la decisión al delegarla en sistemas. Será necesario reflexionar y abordar en esta misma línea el concepto de responsabilidad subjetiva.

Otra preguntas que se abren a partir del análisis de la serie tienen que ver con los límites éticos que podrían (o no) ser necesarios con este tipo de sistemas. Uno de estos cuestionamientos tiene que ver con las big data y la manipulación que pueda aprovecharse por grandes empresas o partidos políticos. En esta línea Sosa Escudero recupera (2019) un estudio en el que se muestra cómo operaron los algoritmos de Facebook y se filtraron datos de los usuarios con fines de manipulación política en las elecciones presidenciales de EEUU en 2016. La serie va un poco más allá y bosqueja un caso en el que la información con la que cuenta el sistema conlleva un especial valor emocional para el sujeto; un caso singular que alcanza para preguntarse si debiera existir algún límite en torno al manejo de los datos, y al tipo de datos que se puedan recolectar y retener. Será necesario reflexionar si la libertad con la que cuentan las tecnologías debiera ser total, o si es imprescindible (desde una mirada psicológica) pensar en alguna delimitación ética. A partir de esta investigación se sugiere que deben existir límites claros, y no sólo en torno a una posible manipulación política o económica. La persona que interactúe con alguna tecnología de esta índole deberá estar al tanto de las implicancias de cada una. La regulación o la prohibición de estas cuestiones es muy difícil debido a que el nacimiento de internet es muy reciente, y las normas legales que pueden afectar, más todavía. Así y todo será cada vez más urgente reflexionar y pensar en estos temas.

Para futuros trabajos se podría profundizar en torno al concepto de responsabilidad subjetiva antes nombrado. También se podría pensar los mismos ejes pero a partir de las primeras dos temporadas, en las que los protagonistas no son humanos sino los androides. Quizá el recorrido del personaje Dolores es interesante de analizar, ya que en estos seres no humanos la alienación ocurre con un Otro que está ocupado por sus creadores. Por último también se podría realizar una investigación filosófica alrededor del concepto de libertad a lo largo de las tres temporadas.

Referencias

Freud, S. (1900). La interpretación de los sueños. Cap II. Obras Completas. Tomos IV y V. Buenos Aires, Argentina: Amorrortu Editores.

Foerster, A. (director). (2020, 12 de abril). Genre (temporada 3, episodio 5) [episodio de serie de televisión]. En J. J. Abrams, L. Joy, J. Nolan, B. Burke, R. J. Lewis, R. Patino, A. Wickham, B. Stephenson y D. Thé (productores ejecutivos), Westworld. HBO Entertainment, Kilter Films, Bad Robot Productions y Warner Bros. Television.

Goldsmidt, J. y Thompson, S. (2019). Algoritmos del deseo. XI Congreso Internacional de Investigación y Práctica Profesional en Psicología. XXVI Jornadas de Investigación. XV Encuentro de Investigadores en Psicología del MERCOSUR. I Encuentro de Investigación de Terapia Ocupacional. I Encuentro de Musicoterapia. Facultad de Psicología - Universidad de Buenos Aires, Buenos Aires.

Lacan, J. (1957- 1958). El Seminario. Libro 5: “Las formaciones del inconsciente”. Buenos Aires, Argentina: Paidós, 2016.

Lacan, J. (1962- 1963). El Seminario. Libro 10: “La angustia”. Buenos Aires, Argentina: Paidós, 2016.

Lacan, J. (1964). El Seminario. Libro 11: “Los cuatro conceptos fundamentales del psicoanálisis”. Buenos Aires, Argentina: Paidós, 2016.

Lacan, J. (1967-1968) El Seminario. Libro 15: “El acto analítico”. Inédito. Recuperado de https://www.psicoanalisis.org/lacan/seminario15.htm

Lacan, J (1958) “La dirección de la cura y los principios de su poder” en Escritos Tomo 2. Ed. Siglo XXI. Edición 1987.

Marsalis, A. (director). (2020, 29 de marzo). The Abscense of Field (temporada 3, episodio 3) [episodio de serie de televisión]. En J. J. Abrams, L. Joy, J. Nolan, B. Burke, R. J. Lewis, R. Patino, A. Wickham, B. Stephenson y D. Thé (productores ejecutivos), Westworld. HBO Entertainment, Kilter Films, Bad Robot Productions y Warner Bros. Television.

Martínez, D. (2018). Editorial: Black Mirror: A través del espejo negro. Hang the DJ : No hay DJ del DJ. Aesthethika Revista Internacional sobre Subjetividad, Política y Arte, septiembre 2018. Recuperado de: http://www.aesthethika.org/Hang-the-DJ

Michel Fariña, J. J. (2014). Ética y cine: el método clínico-analítico de lectura de películas y sus aportes a la psicología (tesis de Doctorado en Psicología), Universidad de Buenos Aires, Argentina.

Nolan, J. (director). (2020, 15 de marzo). Parce Domine (temporada 3, episodio 1) [episodio de serie de televisión]. En J. J. Abrams, L. Joy, J. Nolan, B. Burke, R. J. Lewis, R. Patino, A. Wickham, B. Stephenson y D. Thé (productores ejecutivos), Westworld. HBO Entertainment, Kilter Films, Bad Robot Productions y Warner Bros. Television.

Piasek, Sebastián Luis y Paragis, Paula (2019). Puntos de discontinuidad de la noción de otro en la obra de Jacques Lacan. XI Congreso Internacional de Investigación y Práctica Profesional en Psicología. XXVI Jornadas de Investigación. XV Encuentro de Investigadores en Psicología del MERCOSUR. I Encuentro de Investigación de Terapia Ocupacional. I Encuentro de Musicoterapia. Facultad de Psicología - Universidad de Buenos Aires, Buenos Aires.

Sadin, E. (2013) La humanidad aumentada. La administración digital del mundo. Buenos Aires, Argentina: Editorial Caja Negra.

Sosa Escudero, W. (2019) Big data. Buenos Aires, Argentina: Siglo veintiuno.


NOTAS






COMENTARIOS

Mensaje de Nicolás Van Oostveldt  » 24 de agosto de 2021 » nicolascvan@gmail.com 

A partir de lo leído, me resulta muy interesante la serie elegida y los conceptos que Juan Agustín Carabajal toma para analizarla. La relación entre libre albedrío, algoritmos y deseo es algo que en lo individual atrae mi atención y preocupa. Algo llamativo es como el sistema predictivo Rehoboam, parece elaborar a través de su algoritmo los posibles destinos de los ciudadanos del universo de WestWorld, que a su vez al encasillarlos, termina generando algo que podríamos situar en conceptos del orden de la Psicología Social como la profecía auto cumplida.
Si bien la serie plantea un futuro distópico forzando los ejemplos que un sistema algorítmico puede llevar a producir, considero que es un eje de investigación urgente el efecto sobre las decisiones y angustias de las personas que las pantallas, las redes sociales y sus consecuentes algoritmos que se orientan a “Hackear” o “captar” nuestra atención producen en nuestra subjetividad y capacidad de actuar.
Otro dato de la realidad vinculable son las tendencias que se repiten en distintos lugares en relación a polarizaciones y posiciones extremas, sobre todo en materia política, pero también a ideas como el aborto, las vacunas o inclusive el terraplanismo, las cuales podrían vincularse a estas burbujas informativas que generan las redes sociales, en las cuales los sujetos se ven inmersos en consumos que los hacen tener una cosmovisión del mundo bastante cerrada y homogénea.
Como bien plantea Carabajal, es complejo augurar un espacio para un acto novedoso, en un contexto donde el Big Data es la principal herramienta para la toma decisiones.



moderación a priori

Este foro es moderado a priori: su contribución sólo aparecerá una vez validada por un/a administrador/a del sitio.

¿Quién es usted?
Conectarse
Su mensaje

Para crear párrafos, deje simplemente líneas vacías.

Película:Westworld

Titulo Original:Westworld

Director: Jonathan Nolan

Año: 2016

Pais: Estados Unidos

Otros comentarios del mismo autor: