La pregunta por lo que significa ser humano ha acompañado, desde sus inicios, a la filosofía y a las ciencias en general. En los años recientes esta cuestión ha tomado mayor relevancia ante la intervención de la técnica en los cuerpos de los sujetos o individuos y la posibilidad cercana de la creación de máquinas que simulen a una persona humana.  De allí, que repensarnos la pregunta de ¿cómo se hace o se llega a ser un Ser Humano? sea una de las prioridades y por eso no es extraño que algunos productos culturales y el arte la estén abordando, siendo estos una especie de termómetros del estado o síntomas relacionados con la cultura y la sociedad per se. Teniendo esto en cuenta se pretende abordar esa pregunta usando como ejemplo la serie Westworld.

westworld 2019

Westworld está recreada en un futuro en el que científicos y empresarios colaboran para crear un vasto parque de atracciones al estilo del Viejo Oeste, poblándolo con robots artificialmente inteligentes (o “anfitriones”) tan avanzados que son completamente indistinguibles de los seres humanos. Los patrones ricos (“los recién llegados” para los anfitriones) vienen al parque para actuar totalmente fantasías inmersivas sin consecuencias ( pueden lastimar e incluso “matar” a los anfitriones, pero por diseño los anfitriones no pueden matar a los clientes), mientras que en una intrincada red de empleados subterráneos trabaja todo el día para limpiar y reiniciar los anfitriones, reprogramar sus fallas de personajes y argumentos, y mejorar continuamente el velo realista del parque, una máquina bien engrasada, cada centímetro de ella diseñada para el entretenimiento espeluznante de la clase alta.

Con cada episodio, se vuelve más claro quién lo está conduciendo y por qué, pero el giro clave es que algunos de los anfitriones están exhibiendo comportamientos “aberrantes”, por ejemplo, saliendo de sus argumentos programados, “recordando” la violencia cometida contra ellos antes de restablecer el sistema, y generalmente conectar puntos que, en teoría, no es posible para ellos hacerlo. En resumen, los anfitriones son cada vez más capaces de actuar más como seres humanos que como computadoras.

Con la introducción de este tema, centrados en el espectáculo, sus giros de la trama, sus personajes, su contenido gráfico, se subsume bajo dos cuestiones filosóficas claves. Primero, ¿pueden las computadoras pensar? Y en segundo lugar, ¿son los seres humanos realmente sólo computadoras? Pero, si meditamos un momento, podríamos decir que estas dos preguntas realmente llegan a la misma pregunta: ¿qué es la conciencia humana? – la primera pregunta implica siempre la segunda también-, entonces, ¿cómo responde Westworld estas preguntas? ¿Pueden las computadoras pensar?, ¿ser conscientes?

En un nivel superficial, pareciera que Westworld realmente sólo se ocupa de la primera cuestión y las implicaciones sociales de la creación de tales máquinas impredecibles (los principales científicos e innovadores – Stephen Hawking, Bill Gates y Elon Musk, entre otros, han levantado una bandera roja sobre el avance exponencial de la inteligencia artificial y los peligros que representa para la vida humana. Todavía hay mucho camino por recorrer para ser real, pero parece que Westworld no ofrece mucho para contrarrestar esos miedos.)

El científico informático Alan Turing ideó una prueba en la que las computadoras, para todos los efectos, podrían demostrarse ser inteligentes. Turing describió la siguiente situación hipotética: supongamos que una computadora y una persona estuvieran en un cuarto cerrado, separados de un interrogador cuya meta es descubrir cuál es cuál a través de una serie de preguntas. El objetivo de la persona es conducir al interrogador a reconocer que  la computadora es la computadora, mientras que la computadora está programada para llevar al interrogador a reconocer falsamente la computadora como la persona. Si al final de este “juego de imitación” la computadora imita tan de cerca las respuestas humanas que el interrogador identifica incorrectamente la máquina como persona, la computadora ha pasado la “prueba de Turing” y se considera inteligente.

westworld 2019-2

Se supone, ampliamente, que la prueba de Turing es una condición suficiente para demostrar que una computadora ha alcanzado algo como el pensamiento humano. Pero Westworld expone las limitaciones de dicha prueba. En el segundo episodio, un joven conversa con un anfitrión en una sala de espera que conduce al parque. “¿Eres real?”, le pregunta, sintiéndose claramente un poco tonta, “bueno,” responde el anfitrión, “si no sabes, ¿importa?” Esta es la lógica del conductismo que soporta la prueba de Turing. Pero la respuesta a esto -basada en todo en el modo normal de funcionamiento del parque- es claramente “sí”. Ser engañado por un anfitrión para tratarlo como humano no cambia el hecho de que los anfitriones son rutinariamente arrastrados a un frío, oscuro underground a ser programados, a la letra, para decir y hacer todo lo que dicen y hacen. Pueden actuar como pensadores autónomos, pero no hay nada “real” sobre ellos (al menos, no al principio).

Estas limitaciones se vuelven explícitas en el tercer episodio cuando el fundador del parque, el Dr. Robert Ford (interpretado por Anthony Hopkins), describe los primeros días de Westworld con su compañero de laboratorio: “nuestros anfitriones comenzaron a pasar la prueba de Turing después del primer año”, explica el Dr. Ford, “pero eso no fue suficiente para Arnold. No estaba interesado en la apariencia del intelecto o el ingenio. Quería lo real. Quería crear conciencia”.

La implicación aquí, es que lo que hace el pensamiento de los seres humanos realmente y verdaderamente pensante es la presencia de una mente o conciencia para participar en ella. La mímica de una cosa no alcanza toda la realidad de esa cosa; Y la realidad de la conciencia humana es evidentemente un “algo más” que va más allá de los comportamientos observables. Esto nos lleva a una pausa en la primera pregunta para saltar a la segunda. ¿Son los seres humanos realmente sólo las computadoras?

Las discusiones sobre si las computadoras pueden pensar simultáneamente implican preguntas acerca de si el pensamiento humano involucra una mente o conciencia más allá del cerebro material en primer lugar. Si no hay tal cosa como la mente o la conciencia, entonces la prueba de Turing es una manera perfectamente válida para determinar si una computadora se ha convertido en un pensador en el mismo sentido que una persona es un pensador. En este punto de vista, los seres humanos no son realmente diferentes del anfitrión promedio en Westworld. Todas sus opciones, creencias y sensaciones – en resumen, todo el espectro de experiencias “inmateriales” que asocian con un solo tema que se llama el “yo mismo” – son sólo una ficción conveniente. La única diferencia es que los anfitriones están programados por procesos artificiales para comportarse como si fueran, mientras nosotros estamos programados por procesos naturales. En este caso, los anfitriones son sus estructuras materiales, sus movimientos y nada más.

westworld 2019-3

Westworld claramente no adopta esta perspectiva materialista sobre la vida humana. Todo el drama de la serie es que los anfitriones van más allá de la prueba de Turing para alcanzar algo de otro tipo y, por lo tanto, lograr algo más allá de las estructuras materiales del cerebro que poseen los seres humanos. Pero, ¿qué es eso?

La filosofía moderna difiere ampliamente en este punto. El experimento “Sala China” de John Searle es la crítica más popular de la prueba de Turing y se centra en la comprensión. Otros, como Thomas Nagel (“¿qué es ser un murciélago?”) y David Chalmers (el “duro problema de la conciencia”) han hecho de la conciencia una especie de baluarte contra el materialismo.

Una de las críticas menos reconocidas pero más importantes del materialismo es el argumento de la intencionalidad. En el libro de Edward Feser, Filosofía de la Mente, da un argumento convincente de que el “problema antiguo de la intencionalidad” es lo que realmente está detrás de los argumentos de la comprensión o la conciencia:

El término «intencionalidad» se deriva del latín intendere, que significa «apuntar (at)» o «apuntar (at)» – de ahí el uso del término para significar la capacidad de un estado metálico de «apuntar a», O ser, o significar, representar o representar algo más allá de sí mismo. (Es importante notar que las intenciones, por ejemplo, su intención de leer este capítulo, son sólo una manifestación de la intencionalidad, su creencia de que usted está leyendo un libro, su deseo de leerlo, su percepción del libro, y así sucesivamente , Exhiben intencionalidad tanto como su intención.) El concepto fue de gran interés para los filósofos medievales, pero Franz Brentano (1838 -1917) es el pensador más responsable de ponerlo a la vanguardia de la discusión filosófica contemporánea. Brentano también es famoso por considerar la intencionalidad como la «marca de lo mental» -la característica esencial de todos los fenómenos mentales- y para sostener que su intencionalidad posesiva hace que los fenómenos mentales sean finalmente irreducibles e inexplicables en términos de fenómenos físicos.

Si los anfitriones de Westworld están logrando algo más allá del material, es, en una palabra, intencionalidad. Sus sensaciones, pensamientos, creencias y deseos ya no están contenidos en una cadena de mecanismos físicos. Son acerca de sus objetos, dirigidos por ellos. Simultáneamente, parecen desvelar las puertas ocultas a la percepción, la razón y la voluntad –  e incluso contemplar el encuentro con su “hacedor” – precisamente a través de la “cercanía” de estados mentales tan característicos de la vida humana.

Si Feser tiene razón en que la intencionalidad es el mejor argumento para la inmaterialidad de la mente, y Westworld trata la intencionalidad como el “algo” inmaterial que ahora tienen los anfitriones, volvemos a la primera pregunta. ¿Puede un computadora alcanzar realmente el pensamiento humano, entendido como el funcionamiento de una mente inmaterial?

Westworld quiere decir “sí”, pero justificar que la respuesta adecuada es completamente más allá del alcance de la demostración – y además, drenaría todo el drama. El espectáculo deja caer indicios de que a través de una receta afortunada de ingredientes (ingredientes que también estaban presentes en el hombre primal), “de alguna manera” los anfitriones pasaron de intercambio de símbolos involuntario a la comprensión del símbolo intencional, y de la inconsciencia a la conciencia emergente. De buena gana suspendemos cualquier incredulidad que tengamos que seguir en ese viaje; Sin embargo, como explica un neurocientífico, tenemos “razones muy convincentes” para creer que esto realmente nunca va a suceder. Cualquiera que sea la respuesta a la primera pregunta, al tratar con el segundo de esta manera, Westworld abre la puerta a otro problema filosófico antiguo.

Westworld como metáfora

Uno de los eslóganes de Westworld es que se trata de “el amanecer de la conciencia artificial y el futuro del pecado”. La primera mitad de esa descripción, que se centra en los anfitriones, es obvia y abarca todos los temas discutidos anteriormente. Pero ¿qué pasa con “el futuro del pecado”?

westworld 2019-1

El foco aquí parece estar en los patrones que frecuentan el parque, tipificado en el personaje de Logan. Al principio de la serie, un visitante de Westworld dice que la primera vez que vino al parque, él trajo a su familia y fue a pescar, pero la segunda vez, dejó a la familia detrás y “fue derecho al mal.” El futuro yerno de William, Logan, es justo un veterano experimentado de Westworld y no tiene dudas de hacer lo que quiera con los anfitriones en un momento dado. William lamenta en un momento que Logan sólo quiere matar o tener relaciones sexuales con todo lo que ve. Para el joven empresario rico, lo único que importa es su propio poder y placer.

Esto dice más sobre Logan que lo hace sobre el parque. Walker Percy señaló una vez que el yo moderno está tan aburrido y alienado, y tan frustrado por su aburrimiento y alienación, que “necesita ejercer todas las opciones para tranquilizarse Que no es un fantasma sino que es más bien uno mismo entre los otros seres. Una de estas opciones es un encuentro sexual. Otra es la guerra”. Los creadores del parque se benefician generosamente de esta suposición, aislando el anhelo de los clientes de hacer algo dramáticamente y dejarlo sin un costo para el mundo que los rodea.

Pero sabemos que es una ilusión. Las acciones de los patrones no son, como ellos sospechan, sin consecuencias. Están infligiendo heridas profundas, y recuerdos duraderos de esas heridas, en sus anfitriones conscientes. Más que cualquier discusión abstracta sobre la sensibilidad o la conciencia, este punto se hace de una manera más visceral e intuitiva. Una y otra vez, la cámara persiste en los ojos de los anfitriones y, a través de estas “ventanas al alma”, vemos preocupación, esperanza, tristeza y asombro. Más que la mera conciencia, la comprensión primitiva, o incluso la intencionalidad, vemos un reflejo del misterio de la creación y de la dignidad que otorga.

Si dejamos de lado la cuestión de la conciencia computacional y leemos esto simbólicamente, el espectáculo se vuelve menos una bola de cristal del futuro, y más un espejo del presente. Los anfitriones simbolizan a los débiles, a los jóvenes, a los sin voz, a los indefensos, a los marginados de la sociedad que son manipulados, brutalizados y desechados, a menudo sin entender completamente lo que se les está haciendo o cómo detenerlo. Lisa Joy, una de las co-creadoras de la serie, confirma esta lectura cuando describe a Westworld como “acerca de lo que significa ser humano desde los margenes, …, es una meditación sobre la conciencia, la bendición y la carga de ella”. Para los anfitriones es que están llegando a conocer y entender el mundo que les rodea – y la carga es, como es para muchas personas, precisamente lo mismo.

De igual modo, los patrones pueden ser leídos como agentes de la decadencia, poder brutal y desprecio por la vida humana vulnerable. Ellos tienen a los anfitriones bajo sus pulgares para su propia gratificación, que es en última instancia todo lo que importa para ellos. En el parque, tratan objetos como personas, sólo para tratarlos como objetos de nuevo; Pero la gran ironía es que los objetos, al convertirse en “otros”, vuelven a revelar el impulso que los patronos han dejado salir y dejar atrás, a saber, la objetivación del otro. De una manera indirecta, entonces, el espectáculo es todo acerca de esta adicción a tratar a las personas como objetos, que no es el futuro del pecado, sino la realidad del pecado en sí. Adulando que la adicción en sus formas más gráficas – para volver a la línea de Percy – se convierte en mucho más que escapar para los clientes. Incluso se vuelve más que reconstruirse. Se trata de reconstruir el significado mismo de la existencia para conformarse con el yo. “El mundo allá afuera”, el Hombre de Negro explica a un anfitrión en una escena, “el que nunca verás, era uno de abundancia … Cada necesidad cuidada, excepto una: Propósito. Sentido.”

¿Es todo esto tan impensable? Uno de los anfitriones, recordando un “bucle” narrativo pasado como profesor de Shakespeare, advierte otro usando una de las líneas de Friar Laurence de Romeo y Julieta: “Estos placeres violentos tienen fines violentos”.

Como un espectáculo no sólo sobre el futuro, sino sobre el presente, Westworld parece entregar exactamente la misma advertencia – no sólo sobre la rapidez con la que desarrollamos objetos de tipo humano, sino también sobre la inhumanidad con la que nos objetivamos.