Domesticando al Golem

Comentario a CHIANG, Ted: Exhalación. Sexto Piso, Madrid, 2020.

«Oh, poderoso califa y líder de los fieles, me humillo ante el esplendor de tu presencia, un hombre no puede esperar mayor bendición mientras camine por este mundo. La historia que tengo que contar es verdaderamente extraña, y si hubiese de tatuarse en su totalidad en el rabillo de nuestro ojo, el prodigio de su ejecución no excedería al de los acontecimientos relatados, puesto que es una advertencia para todo aquel susceptible de ser advertido y una lección para todo aquel susceptible de aprender de ella.” Así comienza el primer relato de Exhalación. Es evidente que no pretende ocultar su filiación con respecto a esos cuentos que cuenta cada noche Scherezade para salvar su vida. Contarla para vivir, dado que vivir consiste sobre todo en poder contarla. La proeza de Scherezade podría ser el completo reverso de una historia, La muerte espera en Samarra (o Samarcanda), es decir de la épica del ingenio humano confrontada con la fatalidad ontológica. El origen de esa leyenda, apropiada una y mil veces como las noches dispensadas, es de origen incierto. Aunque se podría apostar por una fábula de místicos sufíes. En esta apertura de Chiang, en sí misma una pequeña colección de tentativas en torno a la paradoja espacio – temporal y el orden de los acontecimientos, nosotros hemos visto una alteración de la cita en Samarcanda, como una especie de mutación moral, que es la que determina en el fondo todos y cada uno de los relatos a continuación. Así lo resume el propio Chiang: «Nada borra el pasado. Existe el arrepentimiento, y existe el perdón. No hay más, pero con eso basta.»^[1]CHIANG, Ted: Exhalación. Sexto Piso, Madrid, 2020, p. 42. Basta con un milagro entonces. Y muchas veces lo milagroso está dentro de nosotros mismos. Me parece que lo que aquí se nos propone es una admonición y un ejercicio de piedad, camuflado, bajo la sombra o el espejismo de diferentes relatos y no menos diferentes géneros. El que da título al conjunto es una suerte de Pneumatología, el estudio de la ruah desde el punto de vista de los dispositivos tecnológicos, de una migración y de una extinción. Si digo más ruah hebrea que el griego pneuma, para hablar del espíritu, es porque La Biblia es también un relato de dispositivos tecnológicos (el arca de la Alianza, la nave de Noé), de éxodos y exterminios. Por lo demás este relato nos pone delante del hecho de que todo acto de escritura resulta testamento: «Aunque cuando lees esto llevo mucho tiempo muerto, explorador, te dirijo unas palabras de despedida. Contempla la maravilla que constituye la existencia, y alégrate de disfrutar esa posibilidad. Siento que tengo derecho a decirte esto porque, mientras grabo estas palabras, estoy haciendo eso mismo» (p. 62). ¿Por qué hablamos, a qué se debe incluso este impulso de escribir? Pues porque morimos. Giorgio Agamben, de una manera no del todo disímil a la que Derrida intentase con la filosofía del lenguaje de Husserl, se ha aproximado al peso de lo negativo en la manera heideggeriana de abordar el habla, el silencio y la escucha. Parecería que el lenguaje es la interfaz tecnológica de la que nos hemos valido para la exhalación del espíritu. Siempre que no lo entendamos como la mera articulación de un viviente, sino como el ahí mismo (el Da) del Dasein.^[2]AGAMBEN, Giorgio: El lenguaje y la muerte. Un seminario sobre el lugar de la negatividad. Pre-Textos, Valencia, 2003.

Lo que decimos a propósito del lenguaje vale en general para todo la técnica en la ciencia ficción. Pues Heidegger insistía como un mantra en que la esencia de la técnica, aquello a lo que se responde en la pregunta por ella, no es en verdad nada técnico. No hay, entonces, prótesis que sea sustitución de lo tético de la tesis. Pero sí, y mucho, ampliaciones, experimentos mentales, problematizaciones de lo que somos. Porque es de eso de lo que tratan las ficciones, y es para eso para lo que sirve la ciencia de las ficciones.  En Lo que se espera de nosotros se nos informa sobre un juego electrónico en el que nada menos que resulta imprescindible fingir, a no ser que acabemos siendo coceados por el asno de Buridán, de acuerdo con la pesadilla de la decisión en la que nos envolviese la escolástica medieval. El problema, como bien saben algunos filósofos, en particular Henri Bergson, aunque la mayoría parecen hacer como que no se dan cuenta, es que hemos pensado la libertad humana bajo la especie de la voluntad divina, de tal manera que damos carta de naturaleza, dentro de nosotros, a lo incausado, y por eso lo libre se confunde subrepticiamente con lo imprevisible. Pero lo que hacemos es previsible, en eso consiste conducirse racionalmente. No creo que Dios mismo quiera racionalmente las cosas que quiere, porque la racionalidad de la elección es una característica creatural, según el principio básico de que el fundamento es infundado. Dios es arracional, mientras que nosotros sólo somos racionales y a menudo irracionales. O esto es lo que me parece que cabe en una nota, apenas un prospecto de instrucciones sobre un gadget electrónico. A esta capacidad para recoger la infinitud en una cáscara de nuez es a lo que llamo ciencia de la ficción, que es la que hallamos por ejemplo en Borges, Kafka o Lem.

Ahora bien, si por algo me conmovió, y de manera duradera, el libro de Ted Chiang, es por el sesgo de interrogación ética con el que aborda esa ampliación de la identidad que se aloja en las terminales conversacionales de software, en los robots, en los avatares y compañeros electrónicos. El concepto de la proximidad y del prójimo ha saltado de repente por los aires, y no está dicho que el tú haya de ser más del mapa del carbono que del territorio del silicio. Por supuesto que esos problemas éticos, en general los de la evitación de la crueldad y de la perversión, salvo que medie un consentimiento explícito entre humanos adultos, nos dicen mucho sobre quiénes somos. Los juguetes inteligentes no están dotados de una agencia, al menos no de una completa e inequívoca, de consentimiento, tampoco de rechazo, ni se les puede hacer responsables. Lo que ocurre, y ese es el abismo teórico sobre el que nos deja asomarnos Chang, es que tampoco sabemos, no de manera precisa, formulable sin ambigüedad, cuáles son los aspectos cognitivos o emocionales que hacen humano a un ser humano. Cuando nació la cibernética, eso que es casi la prehistoria de la Inteligencia Artificial (IA), era inevitable fijarse en los autómatas de Vaucanson, en los ingenios del cremonés y luego toledano Juanelo Turriano, y sobre todo, en la leyenda del Golem del Maharal de Praga, el rabino Judá Loew. Hay muchas variantes de esta leyenda, a veces el Golem es empleado de hogar incluso, y algunas de sus desastrosas ejecuciones están en cierto modo reflejadas en la fábula simétrica del aprendiz de brujo. Pero, sobre todo, el Golem es un defensor, en la leyenda lo es de la comunidad judía de Praga contra sus enemigos. En cambio Ted Chiang nos habla de un Golem doméstico, perteneciente al ámbito de la casa, no menos que una consola de videojuego. En tal caso, podríamos preguntarnos contra quién nos protege ese Golem, y yo creo que cualquiera que lea las ficciones de Chiang sabrá de manera inequívoca que nos protege contra nosotros mismos. Tal vez eso es lo que hacen todos los animales de compañía, ahora que la reproducción humana parece tan contraída por la incertidumbre: activar o ejecutar un crecimiento ético en nosotros, una suerte de responsabilidad ampliada.

Por supuesto que este no ha sido, no siempre, el marco teórico en el que iba a trabajar la Inteligencia Artificial.

De hecho, el artículo trascendental de Turing sobre los mecanismos de computación y la inteligencia, publicado en 1950, se tradujo, también lo hizo Manuel Garrido entre nosotros, por una pregunta,^[3]TURING, A. M.: ¿Puede pensar una máquina? Teorema, Valencia, 1974. cuando en realidad este trabajo seminal tenía dos partes bien definidas: la primera sería el diseño de una máquina de Turing, que en realidad, y por aquel entonces, no es sino el chasis lógico de un experimento mental, mientras que la segunda sería el desmontaje, de variable eficacia según mi punto de vista, de la objeciones a la existencia de una inteligencia mecánica, por una especie de reducción al absurdo. No siempre se recuerda, sin embargo, que dos años antes de que se publicase este ensayo, el mismo Turing se había unido al proyecto MADAM (luego MUC) de Cambridge, que es en lo fundamental un ordenador que escribe cartas de amor.^[4]STRATHERN, Paul: Turing y el ordenador. Siglo XXI, Madrid, 1999. Si hago esta mención, es porque una de las cuestiones que están al fondo del debate en IA es además si tiene sentido reducir la cognición a un mero proceso lógico, sin la intervención de factores emocionales, y si esta exclusión emocional no supone un desmentido en realidad a los proyectos de simulación de una mente, tal y como los había previsto por ejemplo Von Neumann, con el que había colaborado el mismo Turing.^[5]VON NEUMANN, John: El ordenador y el cerebro. Bosch, Barcelona, 1980. La vida de ambos está llena de leyendas. En el caso del segundo esas notas legendarias poseen un aspecto dramático, que tienen que ver con sus emociones, con la crueldad social y con la intolerancia sufrida por su homosexualidad. Hay muchos aspectos en la mente de Turing que, a diferencia de las secuencias de la máquina por él ideada, no resultan auditables, al menos no de una manera sencilla. Por ejemplo sabemos bien poco de qué razones pudieron llevarle, en los cuatro últimos años de su vida, al estudio de las matemáticas aplicadas a la biología, por ejemplo hasta los patrones de la serie de Fibonacci seguidos por la estructura vegetal, es decir, eso que se llama morfogénesis,^[6]LAHOZ- BELTRÁ, Rafael: Turing. Del primer ordenador a la inteligencia artificial. Nivola, Madrid, 2006, p. 181. y que, a no tardar, tanto desde la teoría de catástrofes, de corto pero intenso recorrido académico, como desde la geometría fractal, que vino para quedarse, ocuparía el foco de la investigación matemática. La colección de relatos de Ted Chiang se mueve, desde el lado literario, en las mismas coordenadas de un ensayo de Mark Coeckelberg sobre los problemas éticos que plante la Inteligencia Artificial, que consideramos de gran provecho, como lo son los textos filosóficos a la vez profundos, amenos y de clara lectura.^[7]COECKELBERGH, Mark: Ética de la Inteligencia Artificial. Cátedra, Madrid, 2020. Nos introduce Coeckelberg en el vocabulario básico de este ámbito de problemas y conceptos. Sin renunciar a lo más abstracto, como por ejemplo el vínculo estructural que existe entre el desdén gnóstico por la materia y el transhumanismo, y que, desde nuestro punto de vista, se puede extender a todo el programa dualista de una hipotética Inteligencia Artificial Fuerte o Generalizada (IAF o IAG), que es la que está en discusión o tal vez tenga, como límite insoslayable, el de una infraestructura biológica. Pero es que la Inteligencia Artificial  especializada está ya en nuestras vidas. El Golem campa a sus anchas por las calles del gueto del siglo XXI. Y la pregunta es si sabremos domesticarlo o podrá él domesticarnos. Porque lo cierto es que ya ha modificado en profundidad nuestros hábitos relacionales, nuestros encuentros e historias afectivas, no menos que el control tecnológico de nuestra vida cotidiana mediante algoritmos, disparando toda suerte de incógnitas sobre la sostenibilidad humana de nuestro mercado laboral y también sobre los límites borrosos de la responsabilidad. Es evidente que las máquinas inteligentes son ya agentes eficaces, así que la pregunta es la de si son además agentes morales, esto es, con una responsabilidad bien definida, identificable o dotada de trazabilidad. Sobre toda esta temática hallará el lector en este libro una fuente muy bien estructurada, chocante y a la par didáctica, que me parece que sirve de contrapunto perfecto al ingenio ficcional de Chiang.

¿Nos pueden hacer mejores las máquinas? Voy a replantear la pregunta a partir de un recuerdo personal agridulce. Me refiero a los últimos años de la vida de uno de los seres humanos que más he querido y que, a su vez, me ha querido de manera ajena a todo cálculo y condición. Me refiero a mi padre, quien al final de sus años fue víctima de una lenta pero muy inhabilitadora afección neurológica, que hizo de él un Jedi, es decir, una fuente de paradójica sabiduría para los demás, que transmitía paz y ternura, hasta el punto de todos los que le rodeábamos parecíamos vivir en un reino de encantada quietud y buen humor. De tal condición pueden dar constancia mis hijos, quienes tienen una memoria muy delicada de su abuelo. Pues bien, sucedió que regalamos a Alicia un juguete de IA llamado Furby, y que, aunque derrocado por numerosos gadgets posteriores, hay que reconocer que tenía su encanto, lo que explica que todavía pueda hallarse en la red, en plataformas de coleccionismo. Furby era un muñeco de aspecto entre humanoide y animal, con el que uno podía interactuar, y que, paulatinamente, acababa adquiriendo habilidades lingüísticas que estaban, de alguna manera, vinculadas a la frecuencia de las interacciones con él. Recuerdo, con total claridad, a mi padre en la terraza de la casa de la playa, a solas con Furby, mientras yo lo contemplaba desde el salón. El muñeco de repente dice, con su voz gangosa e infantil, «me aburro». Y mi padre, apurado, que le responde «¿y qué quieres que haga yo?». Este hombre mayor, capaz de tanto amor, fue llamado a amar de nuevo debido a ese juguete elemental. Estamos troquelados por máquinas no menos que las crías de patitos que siguen al biólogo Konrad Lorenz.