Isaac Asimov: más allá de las leyes de la robótica

La escena transcurre bajo el agua. Estamos en medio de un torrente que nos arrastra. Se trata del mar o de las profundidades de un río. Nos estamos hundiendo sin remedio y nuestros cuerpos se agitan en una marea burbujeante que nubla nuestra vista. Arrastrados por la corriente, apenas podemos distinguir la silueta de algunos objetos que se hunden a nuestro alrededor. Son grandes masas que opacan la luz a medida que descienden, dificultando aún más la visión. De pronto, por un efecto especial, las infinitas burbujas se iluminan ante nuestros ojos y se agrupan en el centro de la pantalla. Van dibujando caracteres que organizan el siguiente texto:

Un robot no debe dañar a un ser humano o, por su inacción,
permitir que un ser humano sufra daño.

Ahora sabemos que estamos en el cine. Es el electrizante inicio del film I, Robot, que recrea la serie de relatos ideada en los años 50 por Isaac Asimov. Se nos acaba de anunciar la primera ley de la robótica. Pero todavía no podemos pensar demasiado, porque ya los caracteres se han disuelto. El texto se ha desvanecido y volvemos a estar solos. Ahora podemos atisbar esos objetos que se hunden: aparentemente es un automóvil que cae, como en cámara lenta, despidiendo una nueva racha de burbujas. Éstas se agrupan nuevamente y nos permiten leer:

Segunda Ley: Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.

Dos leyes. Un sistema moral se va desplegando ante nosotros. Pero todavía estamos azorados, confundidos en medio del torrente que no cesa y que sacude una vez más nuestros cuerpos. Una vez más las burbujas se disuelven y ahora vemos con claridad que son automóviles los que se hunden. Más de uno, con lo cual conjeturamos que ha ocurrido un accidente que los desbarrancó al agua. Dentro de uno de los habitáculos, una niña de diez años recorta su rostro angustiado frente a la ventanilla. Por un instante la perdemos de vista, para que las burbujas vuelvan a componer lo siguiente:

Tercera Ley: Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.

Si la primera ley imponía no dañar ni permitir por inacción que otro sufra daño, y la segunda exigía obedecer, siempre y cuando esta obediencia no atentara contra el ejercicio de la ley anterior, la tercera invoca la autoprotección, la autoconservación de la especie, pero subordinada a su vez a las dos primeras. El sistema moral se ha completado y ahora el escenario puede verse, franco e implacable ante nuestros ojos.

Dos automóviles han caído al río. Dentro de uno de ellos una niña se está ahogando irremediablemente. En el otro, es un adulto quien corre la misma suerte. Ninguno de los dos puede escapar de la trampa mortal. Inesperadamente, una figura corta la escena. Es un robot que se sumerge para intervenir en la emergencia. Dotado como está de las tres leyes antes anunciadas, hace un rápido diagnóstico de la situación. Mira a la niña, mira al adulto, cuyo rostro todavía no conocemos, y se dispone a actuar. Pero el adulto le hace una seña y le indica claramente que salve primero a la niña. El robot vuelve su rostro hacia la niña, mira nuevamente al adulto y sin perder un instante, rompe con su puño la ventanilla del auto en el que se encuentra el adulto, salvándolo a costa del sacrificio de la niña.

Se abren los ojos inmensos de Will Smith, en la piel del detective Spooner, quien despierta una vez más de su sueño traumático, de la pesadilla que lo atormenta desde hace años. Él era ese adulto que estuvo a punto de morir en el accidente y que sobrevivió debido a la intervención de un robot. ¿Cómo pudo el androide salvarlo a él y no a la niña? ¿Por qué el robot le desobedeció? Desde la lógica formal, la respuesta es evidente: porque la segunda ley estaba subordinada a la primera. Ante dos humanos en peligro de muerte y compelido como estaba a protegerlos, la obediencia quedó automáticamente subordinada a un cálculo previo: se trataba de una emergencia y no había tiempo de salvar a ambos. ¿Qué hacer entonces? El robot aplicó un simple algoritmo secundario que le permite calcular las probabilidades de supervivencia de uno y otro. Como la niña tenía un porcentaje menor que el adulto, su elección resultó sencilla. Para el robot no hubo dilema moral alguno: cumplió con la primera ley en la medida de sus posibilidades, y también con la segunda, haciendo ejercicio del punto de excepción que ésta le impone. Todo cierra perfectamente, si no fuera por el pequeño detalle de las pesadillas de Spooner.

Esta tensión inicial entre la formalización de la ley y el malestar propio de la condición humana, nos anticipa el sentido, el verdadero alcance del problema que tenemos por delante. Imprevistamente, un thriller de ciencia ficción nos enfrenta con un dilema que reaparece en múltiples escenarios. Por ejemplo, en la llamada “intervención en catástrofes”: cuando la emergencia es grande y los recursos insuficientes, ¿a quién atender primero? O sin llegar tan lejos, en las guardias cotidianas de los hospitales desbordados, ¿qué lógica aplicar para establecer prioridades asistenciales?

En otras palabras, a través del rodeo de los robots, los relatos de Asimov proponen una reflexión sobre la moralidad. Como en Blade Runner, Matrix u otros relatos clásicos sobre androides e inteligencia artificial, las leyes de la robótica ideadas por Asimov son una analogía sobre los sistemas morales y las legalidades humanas. Sistemas que están presentes bajo una u otra forma desde los albores de la cultura. La primera ley, ante todo no dañar, evoca el precepto hipocrático. La segunda, obedecer a una legalidad superior, vertebra la Antigona de Sófocles y anticipa la primera ley de la modernidad impuesta por Thomas Hobbes en su Leviatan. Ama a tu prójimo como a ti mismo, el precepto bíblico, está a su vez presente en la tercera ley, que apela, no sin condiciones, a la supervivencia de la especie.

De allí que en el in crescendo de los relatos de Asimov se nos termine enfrentando con el dilema más complejo de todos. ¿Qué ocurriría si los robots fueran cada vez más sofisticados desde el punto de vista tecnológico, pero permanecieran sujetados a estas tres leyes? El film nos sitúa en ese escenario: los algoritmos son cada vez más avanzados y permiten a los robots una inédita capacidad de cálculo. Debido a ello, en los tiempos muertos de la productividad comienzan a observar más detenidamente a la especie humana. Codifican eso que los humanos llaman emociones y sentimientos y descubren los automatismos de repetición, la agresividad constitutiva, la pulsión de muerte… Llegan entonces a la conclusión de que la mayor amenaza para la especie es la humanidad misma. ¿Qué debería hacer un robot que advierte que el hombre es el mayor peligro para sí mismo, si debe a su vez cumplir con las leyes que le fueron impuestas?

No adelantaremos aquí la respuesta que ofrece el film. Haremos notar simplemente que se trata justamente de una paradoja, como la del barbero de Bertrand Russell o las de Zenón de Elea, de las que no se sale al interior del sistema mismo, sino produciendo una ruptura, un quiebre del horizonte de referencias. Pero las máquinas no pueden hacer semejante cosa.

El propio Asimov se verá, entonces, compelido a subvertir la historia y cambiar sus reglas de juego. Pero lo hará en su ley, introduciendo una agudeza literaria que merece volver a ser leída. O en su defecto disfrutada a través del film, que a pesar e sus debilidades narrativas, en este punto hace honor a las páginas en las que se inspira.

NOTAS