Que no son gigantes, sino molinos de datos

Inteligencia Artificial es un mal nombre, el nombre equivocado. Pero también el mejor, y no porque esté al revés. Puede que todo el libro de Adela Cortina que nos hemos propuesto comentar se resuma en esta breve frase: “El primer deber de una ética de la ciencia es no engañar”.^[1]CORTINA, Adela: ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada. Paidós/ Planeta, Barcelona, 2024, p. 12. (En adelante citaré sólo con el número de página entre paréntesis). El aforismo contiene mucho más de lo que parece a simple vista. Pues que una ciencia tenga deberes está lejos de resultar evidente, puede que hoy más que nunca. Y como casi todos los aforismos, por lo menos los valederos, parece que comienza in media res, esto es, que dice, sobre todo, a partir de lo que sustrae y deja no dicho. Pero no es la filosofía de Cortina una que guste de los enigmas gratuitos, así que, inmediatamente después, afirma: “Somos los seres humanos quienes tenemos capacidad de dialogar y decidir hoy por hoy, pero tomar decisiones conjuntas implica hacerlo desde un “nosotros” sin exclusiones, que, valiéndose de los sistemas inteligentes, busque las respuestas adecuadas. Sin embargo, el aumento de la conectividad, gracias a las redes, que debería llevarnos a poder decidir conjuntamente, deliberando, qué queremos hacer de nuestro futuro, no mejora la comunicación veraz. Por el contrario, triunfa una vez más la razón estratégica, que pasa a ocupar todo el espacio público, y se produce el eclipse de la razón comunicativa. Es ésta una pésima noticia si queremos fortalecer la democracia.” (ibidem). Se trata por lo tanto de un conflicto entre racionalidades, y esta razón conflictual es a lo que llamamos con frecuencia locura. De ahí que para nuestro título eligiéramos esta referencia al clásico cervantino. Ocurre que el relato del Quijote no es el de la mera locura, sino el de volverse loco hasta la locura, eso que no siempre con igual estima, seguimos llamando su deconstrucción. Desde luego que hay, sobre todo en la ensayística española, más que abundantes ejemplos que problematizan la idea, un poco simplista, de que el ingenioso hidalgo esté loco o, como en el caso del mejor de estos ejemplos, que como casi siempre, suele ser el de Miguel de Unamuno, muestre una cordura superior. Voy sin embargo a elegir un acercamiento oblicuo; uno que, aparentemente, se desvincula de esta referencialidad clásica de dicho clásico. Es el de Clément Rosset, quien, en Lo imaginario, su aportación a una celebrada publicación de Le Monde sobre lo que sea la filosofía, se propone distinguir entre la imaginación y la fantasía, como dos estrategias del todo diferentes. La segunda es una fuga de lo real, su denegación hechizada, pone como ejemplo la idea del príncipe azul, de ese ideal que nos evita todo acercamiento a lo real, mientras que lo imaginario supone una alteración de lo real, pero que está cortada de la misma tela de lo real, y en cierto modo a su servicio. Y aquí Rosset elige al Quijote como su paradigma. La apreciación es manifiesta, sobre todo viniendo de alguien que ha estudiado con tanta precisión las diferentes duplicaciones de lo real en filosofía.^[2]ROSSET, Clément: Lo imaginario, en V.V.A.A: Doce lecciones de filosofía. Granica, Barcelona, 1983. Y esto, con respecto a la ideología, puesto que de imagen se trata, nos lleva a un dispositivo de visión según el magnífico opúsculo de Sarah Kofman, Cámara oscura de la ideología, en el que sigue el triple registro de esta máquina de inversión de la imagen de lo real en Marx, Freud y Nietzsche.^[3]KOFMAN, Sarah: Cámara oscura de la ideología. Taller de Ediciones JB, Madrid, 1975. Porque es esta triple lectura la que hace tan problemático el concepto de ideología, y que sin embargo Adela Cortina, pese a la interrogación del título, muestra que puede ser opuesto con relativa simplicidad a la ciencia. Aquí hay que anudar el otro hilo de esta trenza, de este texto, que es el más interesante que podemos hallar desde la filosofía de aquí, con respecto a una cuestión de la que todo el mundo habla (IA) y nadie parece saber, me refiero al hilo de la verdad y de la veracidad, cuyos opuestos respectivos son los del error y la mentira: “Conectarse no es comunicarse, es preciso cuidar con esmero la palabra, que para lograr la comunicación tiene que ser, entre otras cosas, veraz. Y, desgraciadamente, son malos tiempos para la veracidad, no tanto para la verdad, que continúa conviviendo con la presunta “posverdad”. Lo que peligra sobre todo es la veracidad, y conviene recordar que lo contrario de la verdad es el error, lo contrario de la veracidad es la mentira” (p. 26). ¿Es mentirosa la ideología, es errónea? Que estas preguntas sean todavía posibles indica, por así decir, el pecado original de este concepto; uno que, a mi juicio, se deshilvana en cuanto lo desprendemos de su matriz marxista, puesto que se vería obligado a competir con otros acaso más potentes, como el de concepción del mundo (Weltanschauung) e incluso juego de lenguaje, en el sentido de Wittgenstein, de los que sería un mero subrogado. Pero es que, si lo mantenemos en su ecosistema más o menos afín a Marx, entonces tendríamos que oponer ideología a ciencia, un poco como hace Adela Cortina, aunque las fronteras entre ambas no sean, al menos desde la teoría de la ciencia de Kuhn o, en el extremo, Feyerabend, tan netas, ni tampoco la noción de lo científico tal como la entiende el marxismo originario, no se entienda sin un índice político y pragmático, puesto que su opuesto no es tanto lo acientífico como lo utópico.

No obstante, y sin despreciar estas salvedades, la distinción de Cortina resulta pertinente por lo que se refiere a algunos de los anuncios en torno a la Inteligencia Artificial, que son los del transhumanismo y el posthumanismo, a cuyo examen dedica el tercer capítulo, desde lo que Julian Huxley considera una religión sin revelación, y lo que en realidad supondría una cierta revalorización de la hibris, esa antigua desmesura, orgullo y arrogancia, que merecían el castigo mítico, ahora entendidas como una cualidad positiva, (p. 46) por ejemplo hoy por parte de los nuevos magnates tecnológicos, desde allí, decíamos, hasta la abolición de la muerte, como defendía el cosmismo ruso, o la singularidad de Kurzweill, con una hibridación del humano y la máquina, que daría lugar a una especie nueva (p.51). La posición de Adela Cortina es la de la resistencia de la razón, incluso al precio de parecer ingenua o frágil frente a ciertas críticas reactivas, como la que propone entre nosotros Ignacio Castro Rey, en su muy bien formulado ensayo Antropofobia.^[4]CASTRO REY, Ignacio: Antropofobia. Inteligencia Artificial y crueldad calculada. Pre- Textos, Valencia, 2024. Desgraciadamente, el vigor del estilo en filosofía no siempre va acompañado de una potencia conceptual igualmente perspicua. La razón siempre dice lo mismo, pero en voz baja: aparenta inocencia, aunque bien podría entenderse como tenacidad. Así, Cortina escribe: “El primer deber ético del transhumanismo consiste, pues, en aclarar si sus propuestas de totalidad -sus utopías- tienen valor científico, que es el valor sobre el que descansa su crédito. Es decir, discernir qué hay de científico y qué rebasa los límites de lo científicamente acreditable. Evidentemente, es real y posible la prolongación de la vida, y, en este sentido, un desafío ético inminente consiste en preguntar cómo organizar esa vida prolongada, que cambia muchas de nuestras expectativas actuales. Son posibles y reales el aplazamiento de la muerte por enfermedad, la mejora de la calidad de vida en las edades tercera y cuarta, la creación de inteligencias ampliadas, la construcción de IA, la biomejora de capacidades humanas y todas las ventajas que comporta la industria 4.0. Pero el salto a la inmortalidad, la salud perpetua y las superinteligencias, incluso a la IA general, hoy por hoy no es científico. Puede ser un proyecto, pero sin base científica suficiente.” (pp. 54-55). ¿Por qué decimos que hay algo de ingenuo en un planteamiento que, sobre todo, resulta tenaz? Pues porque parece que se entiende mejor como una llamada de atención que como una verdadera descripción del proceso subyacente, que no lo definiría como la gran Singularidad sino como el gran Escamoteo a escala planetaria, en torno a la llamada Inteligencia Artificial. De ahí que este trabajo de Cortina tenga entre sus más notables valores el de establecer definiciones y diferencias, con una caracterización mínima de inteligencia como “la capacidad de perseguir metas, planificar, prever consecuencias de las acciones y emplear herramientas para alcanzar las metas. La inteligencia sería entonces la capacidad de resolver problemas con instrumentos.” (p. 33). La primera noción de inteligencia que recoge Cortina, y en lo que ya puede adivinarse un eco de la potente interpelación de la técnica, es la de la superinteligencia, “un tipo de inteligencia que, si llegara a existir, superaría a la humana, de modo que las máquinas podrían sustituir al hombre. Esta modalidad de IA es la que da lugar a las propuestas transhumanistas y posthumanistas.” (p, 34). Yo, a diferencia de la autora, no estoy seguro de que la aportación de John von Neumann, que, en El ordenador y el cerebro, modelizó, aun con las amplias limitaciones de la época (1958), las similitudes estructurales entre las capacidades computacionales y las de la cognición en el cerebro humano deba mezclarse con el credo trans-post. Y sin embargo me inclino a pensar que su aportación sienta las bases de la perspectiva de análisis funcionalista, que es el fundamento de la IA si es que necesita de alguno, y creo que estas cursivas enfáticas, serán comprendidas cuando termine mi comentario, puesto que ya aparece implícita la distinción entre “lenguaje” y lenguaje (sin comillas) de la que hará uso Putnam: “la lógica y las matemáticas en el sistema nervioso central, cuando se las considera como lenguajes, deben ser estructuralmente distintas de aquellos lenguajes a los que se refiere nuestra experiencia corriente. Debe también señalarse que el lenguaje aquí implicado puede corresponder a un código reducido, en el sentido descrito previamente, más que a un código completo: cuando nos expresamos matemáticamente, podemos estar analizando un lenguaje “secundario” construido mediante el lenguaje “primario” realmente utilizado por el sistema nervioso central. Así, las formas externas de nuestras matemáticas no son absolutamente relevantes para evaluar cuál es el lenguaje matemático o lógico verdaderamente utilizado por el sistema nervioso central. Sin embargo, las anteriores observaciones acerca de la fiabilidad y la profundidad lógica y aritmética prueban que de cualquier forma que esté configurado el sistema, no puede diferir considerablemente de lo que consciente y explícitamente consideramos como matemáticas.”^[5]VON NEUMANN, John: El ordenador y el cerebro. Antoni Bosch, Barcelona, 1980, p. 87. La segunda noción de inteligencia a tener en cuenta según la autora es la inteligencia general, “aquella que puede resolver problemas generales. Ésta es la forma de inteligencia típicamente humana, en la que trabajan las mentes más brillantes, y constituye el fundamento de la IA: el objetivo de la IA, como disciplina científica, es conseguir que una máquina tenga una inteligencia de tipo general similar a la humana.” (p. 39). Y, por último, “la inteligencia especial es la que lleva a cabo trabajos específicos; es la propia de sistemas inteligentes capaces de realizar tareas concretas de forma muy superior a la inteligencia humana, porque pueden contar con una inmensa cantidad de datos y también con algoritmos sofisticados, que pueden llevar a resultados.” (pp. 40-41)

Sara Degli-Esposti, que es investigadora en el Centro Superior de Investigaciones Científicas, da algunas pistas sobre lo que yo llamo el gran Escamoteo, si bien no suscribiría ella la naturaleza esencialmente crítica de mi abordaje. Degli-Esposti resume el origen, los titubeos, los impases y, como yo sostengo, los trueques de denominaciones: “La inteligencia artificial representa un conjunto de ciencias (incluyendo la lógica matemática, la estadística, las probabilidades, la neurobiología computacional, la informática) que pretende imitar las capacidades cognitivas del ser humano. Este conjunto de teorías y técnicas se basa en la suposición de que todas las funciones cognitivas (el aprendizaje, el razonamiento, el cálculo, la percepción, la memorización e incluso el descubrimiento científico o la creatividad artística) pueden describirse con una precisión tal que sería posible programar un ordenador para reproducirlas. Como vocablo y como disciplina se suele contar que la IA nació oficialmente durante un curso de verano organizado por cuatro investigadores estadounidenses en 1956 en el Darmouth College, en Hanover (Estados Unidos). Sin embargo, muchos historiadores consideran el libro Cibernética de Norbert Wiener (1948) el punto de partida de la disciplina hasta que se produjo una división entre la cibernética y la IA sobre cuestiones relacionadas con los “sistemas simbólicos” y el papel de la psicología frente a la neurofisiología. Cada vez se trazaban más fronteras entre el modelado del cerebro y lo que se conoció como IA simbólica hasta el renacimiento de las redes neurales en la década de 1980. Los investigadores al principio creían que la construcción de una inteligencia de nivel humano llevaría unos pocos años, un par de décadas como máximo. Ese optimismo inicial se desvaneció en la década de 1970 dando paso a los llamados “inviernos de IA”, a los que siguieron nuevos momentos de esplendor. Podemos afirmar que desde hace medio siglo la IA sigue generando expectativas.”^[6]DEGLI- ESPOSTI, Sara: La ética de la inteligencia artificial. CSIC/ Catarata, Madrid, 2023, pp. 13-14. En estos inviernos y primaveras, como recoge por su parte Adela Cortina, se han planteado cuestiones filosóficas de calado como las de la (auto) concienciadesde una caracterización meramente funcional u otra ontológica (p. 37), o la distinción entre inteligencia artificial fuerte o débil tal como la plantea el filósofo americano John Searle. Pues “La fuerte implicaría que un ordenador es una mente y es capaz de pensar igual que un ser humano, pero lo que intenta demostrar Searle es que la IA fuerte es imposible, porque la máquina carece de la intencionalidad por la que los humanos damos significado a lo que nos rodea: una máquina no conoce el significado de los símbolos que maneja. Sin un cuerpo, las representaciones abstractas carecen de contenido semántico: no puede haber inteligencia general sin cuerpo. A este respecto es célebre el experimento de la caja china del que habla Searle: una manipulación sintáctica sin comprensión semántica carece de sentido.” (p. 39) Esta ausencia de procesamiento semántico es la ausencia de lo intencional como aboutness, y traigo aquí a colación las palabras de Searle, que suponen, en cierto modo, un acercamiento de la filosofía analítica y de la herencia de Brentano en la fenomenología de Husserl: “La noción clave en la estructura de la conducta es la noción de intencionalidad. Decir que un estado mental tiene intencionalidad significa simplemente que es sobre algo. Por ejemplo, una creencia es siempre una creencia sobre algo, que tal y tal es el caso, o un deseo es siempre un deseo de que tal y tal suceda o sea el caso. Intentar, en el sentido ordinario, no tiene ningún papel especial en la teoría de la intencionalidad. Intentar hacer algo es solamente un género de intencionalidad junto con creer, desear, esperar, temer y así sucesivamente. Un estado intencional (…) tiene característicamente dos componentes. Tiene lo que podríamos llamar su contenido, que lo hace ser sobre algo, y su “modo psicológico” o “tipo” (…) se puede tener el mismo contenido en tipos diferentes. Así, por ejemplo, puedo querer salir de la habitación, puedo creer que saldré de la habitación, puedo intentar salir de la habitación.”^[7]SEARLE, John: Mentes, cerebros y ciencia. Cátedra, Madrid, 1985, p. 69. Es obvio que no hay nada de esto en una máquina.

Por eso, en el primer planteamiento del funcionalismo de Hilary Putnam, esto es, en la teoría que postula, como mínimo una analogía funcional entre la máquina y el cerebro, resulta tan relevante el desmentido del punto de vista intencional. En este caso recurriendo al concepto de análisis semántico de Paul Ziff, para el que la idea de intencionalidad no es una noción primordial, contra lo que piensa, por ejemplo, Roderick Chisholm, verdadero puente entre la filosofía anglosajona y la fenomenología continental, dice Putnam: “como sostengo que la problemática mente- cuerpo es estrictamente análoga a la de la relación entre estados estructurales y lógicos, y no que los dos problemas sean idénticos, me basta con una analogía adecuada, en este caso, entre “lenguaje” de máquina y lenguaje humano; puede que Chisholm sostenga la imposibilidad de una semántica “conductista” del tipo considerado por Ziff (es decir, una semántica que no admita la “intencionalidad” como concepto primordial). Pero, aunque esto fuera cierto, no sería relevante, ya que, si cualquier teoría semántica es aplicable al lenguaje humano, habría que demostrar por qué una teoría totalmente análoga no sería aplicable al lenguaje de una máquina adecuada.”^[8]PUTNAM, Hilary: Mentes y máquinas, en ROSS ANDERSON, Alan, ed.: Controversia sobre mentes y máquinas. Orbis, Barcelona, 1985, p. 156. La afinidad con Ziff por parte de Putnam no deja de resultar llamativa, toda vez que el primero muestra hasta qué punto las preguntas sobre el sentimiento de los robots son inapropiadas, ya que estos carecen de autenticidad psicológica. También es cierto que el propio Putnam más adelante rompería con el funcionalismo en teoría de la mente. Aunque esta ruptura no se dará de una vez, sino por pasos contados, desde el reconocimiento de la inadecuación de la máquina teórica de Turing para mostrar la analogía con la mente, hasta llegar, como muestra Ramón Rodríguez, en su interesante ensayo Desmontando la máquina: las razones de Putnam contra el funcionalismo, sin perder el punto de vista del lenguaje, al desahucio teórico del mentalismo en favor de una orientación externalista, atenta a los factores históricos y sociales que inciden sobre la competencia lingüística, de tal manera que pudiera renaturalizarse la noción de intencionalidad.^[9]RODRÍGUEZ, Ramón: Desmontando la máquina: Las razones de Putnam contra el funcionalismo, en LOGOS. Anales del Seminario de Metafísica. Universidad Complutense, Madrid, 2006, pp. 53-76. En esta sucesión de primaveras exaltantes, y de otoños silenciosos, juega un papel nada pequeño Allen Newell, quien, por lo menos, empezó a roturar un territorio que, de lo contrario, se nos antojaría demasiado amplio y disperso, y aunque haya sido desbancado por la fuerza de las últimas direcciones en IA, por lo menos se agradece el afinado de las diferencias. Newell, quien asociado con Shaw y Simon, pudo enfocar al mismo tiempo la programación computacional, la teoría de la decisión y de la conducta administrativa, señalaría, en Inteligencia Artificial y el concepto de mente, hasta tres concepciones de la IA: a) como exploración de funciones intelectuales, b) como ciencia de los métodos débiles, y c) como psicología teórica.^[10]NEWELL, Allen: Inteligencia Artificial y el concepto de mente. Revista Teorema, Valencia, 1980. Probablemente b), aun cuando es indiscutible la vigencia de los métodos a los que se refiere (generación y comprobación, búsqueda heurística, ascensión máxima, comparación e hipótesis y comparación), haya sido fagocitada por el desarrollo de sistemas expertos, y c), lo que es fundamental para nuestra propia hipótesis de trabajo, haya desaparecido del horizonte de incumbencia de la IA. En este largo periplo, no podríamos desoír la aportación de Andy Clark y David Chalmers, esto es, la tesis de la mente extendida, que sería a su vez un externalismo, pero según los autores, activo, para distinguirlo del de Putnam, y aunque independiente del funcionalismo, compatible con el mismo. Ellos sostienen que “las acciones epistémicas modifican el mundo con el objetivo de favorecer y mejorar los procesos cognitivos como el reconocimiento o la búsqueda. En cambio, las meras acciones pragmáticas modifican el mundo porque algún cambio es deseable por sí mismo. (…) Nuestra propuesta es que las acciones epistémicas requieren extender el crédito epistémico. Si, al enfrentarnos a una tarea, hay una parte del mundo que funciona como un proceso que, si se hiciera en la cabeza, no dudaríamos en reconocerlo como parte del proceso cognitivo, entonces esa parte del mundo es (así lo afirmamos) parte del proceso cognitivo. ¡Los procesos cognitivos no están (todos) en la cabeza! (..) En estos casos, el organismo humano se vincula a una entidad externa en una interacción de doble sentido, creando un sistema acoplado que puede verse como un sistema cognitivo de pleno derecho. Todos los componentes del sistema desempeñan un papel causal activo, y de manera conjunta gobiernan la conducta, tal como lo hace normalmente la cognición.”^[11]CLARK, Andy y CHALMERS, David: La mente extendida. KRK, Oviedo, 2011, p. 65. Una variante de este externalismo es la que defiende Laura Tripaldi en Mentes paralelas, un sugestivo ensayo que, prestando oído al mismo tiempo a las intimaciones de la mitología y a toda suerte de anomalías y zonas de sombra en la teoría de los materiales, aborda de otra manera la cuestión de la mente, puesto que un material “inteligente” es aquel que resulta capaz de responder a determinados estímulos,  y esto hace que podamos hablar de un panpsiquismo de nuevo cuño, no ya más allá de lo humano y lo animal, sino incluso más allá de lo biológico.^[12]TRIPALDI, Laura: Mentes paralelas. Descubrir la inteligencia de los materiales. Caja Negra, Buenos Aires, 2023.

Pues bien, lo que sostengo es que toda esta problemática, sobre la que los filósofos llevamos tiempo ocupándonos, en mi caso por más de tres décadas, y que ha planteado cuestiones sustantivas sobre qué sea la mente y sus capacidades, ha sido sustituida por otro asunto bien diferente, aunque siga sosteniendo el nombre de Inteligencia Artificial. En este sentido, y como muchos de los lectores, creo que el libro de Kate Crawford titulado con el, en principio poco atractivo, aunque muy motivado, título de Atlas de IA, ha supuesto una completa revelación. Crawford afirma que la IA no es artificial ni inteligente. Se trata de una industria extractiva, brutal e imperialista como todas las formas de minería del pasado, aunque el mineral que se extrae ahora son los datos, y para ello, para este nuevo avatar del capitalismo, se requiere de una ingente cantidad de recursos naturales (agua, energía, minerales), así como de un desmantelamiento de las antiguas formas de organización del trabajo, que ya eran de por sí brutales, por otras que resultan más brutales todavía. Y esto supone una reestructuración geopolítica del mundo, de cuyos efectos basta con asomarse a los mass media para comprender su alcance.^[13]CRAWFORD, Kate: Atlas de IA. Poder, política y costes planetarios de la Inteligencia Artificial. Ned, Barcelona, 2023. En este brillante ejercicio de desenmascaramiento, la perspectiva no es ya la antigua de filosofía de la mente, que hemos seguido hasta aquí, ni siquiera la de una ética aplicada, que parece ser la tónica dominante, y que tiene en el libro de Adela Cortina que comentamos uno de sus ejercicios más satisfactorios, sino que Crawford se acerca a la economía política, a la geopolítica y a la ecología, porque este es el significado y los nuevos retos a los que nos conmina este nuevo capitalismo basado en los algoritmos y en las máquinas susceptibles de aprendizaje automático.

De nuevo, hay que agradecer a Cortina la precisión a la hora de establecer distinciones adecuadas, por ejemplo, en la roboética, puesto que podemos hablar de la roboética como 1) la ética profesional de los roboticistas, y que “es la ética con que los seres humanos deben gestionar el uso de los robots, por ejemplo, de modo que se respete la dignidad humana, se reduzcan las desigualdades y se protejan los derechos de los más débiles” (p. 91), como 2) la ética de las máquinas, “la dimensión ética de la IA que se ocupa del comportamiento moral de los seres con IA, entre ellos, los robots. Una ética de los robots consistiría en algún código moral incorporado en los robots mismos.” (p. 93), y como 3) la ética de agentes morales artificiales perfectamente autónomos, aunque Cortina añade que este tercer significado “no tiene referente hoy por hoy” (p. 95). Puede que el ensayo más exhaustivo sobre este aspecto sea el de Mark Coeckelbergh, La ética de los robots, en el que explora los problemas éticos que plantean, o podrían plantear en el futuro, dado que esta ética aplicada es, por su propia naturaleza, una ética proyectiva, con los robots industriales (trabajo), robots asistentes (hogar), robots asistenciales (sanidad), coches autónomos (agencia moral y responsabilidad distribuida), robots androides inquietantes (susceptibles de ser deseados sexualmente o torturados), drones y robots militares. La tesis de Coeckelberg, que me parece harto interesante, sobre todo cuando se la ausculta en toda su complejidad, es la de que “la ética de los robots y, de forma más general, la filosofía de la robótica no trata solo sobre robots, sino que también lo hace en gran medida sobre los humanos. (…) Trata, por supuesto, sobre máquinas, pero también se preocupa por un rango de temas que tratan todos ellos sobre lo humano: cuán significativo es el trabajo, cómo se están transformando nuestras sociedades y cómo deberían estar organizadas, qué son las buenas relaciones sociales y personales, si es aceptable engañar a las personas, qué implica respetar la dignidad humana, qué es un buen sistema sanitario, qué son la ética y la moral, qué queremos decir cuando hablamos de agencia y responsabilidad morales, si le debemos algo a los no humanos, cómo se fundamenta la posición moral de los propios humanos, qué es una guerra justa y aceptable moralmente (si es que es aceptable), y cómo la experiencia de la vulnerabilidad y la mortalidad humanas pueden operar como base para la ética. La ética de los robots trata, así, sobre nosotros: el presente y el futuro de nuestra moralidad, las sociedades y la existencia humana.”^[14]COECKELBERG, Mark: La ética de los robots. Cátedra, Madrid, 2024, p. 154. En comparación con este libro, y también de modo significativo, el suyo La filosofía política de la Inteligencia Artificial, me resulta menos logrado, a lo mejor porque se reduce a una serie de notas tomadas a modo de sugerencias. De hecho, Coeckelberg interpreta su trabajo como un complemento al de la ética de la IA.^[15]COECKELBERG, Mark: La filosofía política de la Inteligencia Artificial. Una introducción. Cátedra, Madrid, 2023.

La idea de una legislación de los sistemas inteligentes y los robots tiene, como todo el mundo sabe, un origen literario en la ciencia ficción de Isaac Asimov, pero es que todo eso que se llama ideología californiana, una mixtura poderosa de utopismo, de neoliberalismo y de sacralización de la tecnología, como una suerte de versión de derechas de la revolución científico técnica de la que se había apropiado antes la izquierda, nunca abandona ese contexto, ya sea con las propuestas de privatización de la carrera espacial de Elon Musk o con el impacto editorial de gurús de cierto mesianismo determinista como Kurzweil o Harari. En este sentido, es significativa la aportación de Frank Pasquale, en Las nuevas leyes de la robótica, que pretende adaptar el primitivo dispositivo legal de Asimov a una redefinición y mayor precisión de los problemas que plantea esta suerte de experiencia distribuida.^[16]PASQUALE, Frank: Las nuevas leyes de la robótica. Defender la experiencia humana en la era de la IA. Galaxia Gutenberg, Barcelona, 2004.. La primera ley es la de complementariedad, por la que los sistemas robóticos de IA deberán servir de complemento a los profesionales humanos y no reemplazarlos. La segunda sería de restricción mimética, en el sentido de que los sistemas robóticos o la IA no han de falsificar lo humano. La tercera se refiere explícitamente al uso militar de los sistemas inteligentes, en el sentido de que los sistemas robóticos y la IA no deben fomentar la carrera armamentística de suma cero. La cuarta y última sería una ley de identificación, por la que los sistemas robóticos y la IA tienen que indicar siempre la identidad de su(s) creadores, controladores y propietarios. Adela Cortina ha analizado la legislación europea sobre el particular, que no va en una dirección muy diferente a la que subyace en la propuesta de Pasquale: “El marco ético para una IA confiable se reconoce desde 2019 y en los documentos posteriores de la Unión Europea explícitamente como humanocéntrico, aunque señalando también que una de las metas consiste en respetar la naturaleza. Los sistemas inteligentes son instrumentos para mejorar la vida humana y la naturaleza, y no fines en sí mismos. Una afirmación que discutirían quienes entienden que los robots humanoides pueden tenerse por autónomos y, por supuesto, transhumanistas y posthumanistas. Pero los documentos de la Unión Europea referidos a la IA son en todos los casos humanocéntricos.” (p. 69). Lo que parece omitir la legislación europea es que la variación industrial a la que nos enfrentamos, y de ahí el extraordinario valor de la denuncia de Kate Crawford, es sucia, reproduce condiciones de trabajo que considerábamos abolidas, esquilma recursos minerales, actúa negativamente sobre el acceso ciudadano al agua y sustrae cantidades ingentes de energía eléctrica. Sí, está claro que no son gigantes, no tenemos enfrente un hado o un fatum mágico y colosal como el que pronostica y/o promueve Harari. Son molinos gigantes de datos, eso sí, que pueden resultar igual de aplastantes.

No es seguro, en definitiva, que todo pueda o deba ser regulado, dado que una regulación, en estos procesos de índole planetaria, es también una concesión o admisión. Digamos que es una orientación de índole aristotélica la que casi siempre nos lleva a juzgar como subalterna la revisión ética de problemas que afectan a la polis global. En definitiva, el padre de la ética de la IA como disciplina académica, que es el profesor italobritánico Luciano Floridi,^[17]FLORIDI, Luciano: Ética de la Inteligencia Artificial. Herder, Barcelona, 2024. entiende la IA y sus desafíos como una parte subalterna de la filosofía de la información. Así que podría afirmarse que la cibernética de Wiener salió por la ventana, pero retorna, remozada, por la puerta principal. Entre nosotros, Javier Anta, en Información y significado, sobre el que solicito toda la atención dado el extraordinario interés de sus investigaciones teóricas, y que ha sido traductor de este mismo Floridi, amplía modula e incluso critica el planteamiento de Floridi. Bien fundado en la tradición analítica anglosajona, Antas considera, contra el intelectualismo del profesor oxoniense, que hay datos sin formato proposicional que son capaces de producir conocimiento.^[18]ANTA, Javier: Información y significado. Una introducción a la filosofía de la información. Herder, Barcelona, 2024, p. 171. Entre los libros revisados para intentar ponernos, por así decir, al día, dado que la bibliografía es inagotable, yo señalaría una rareza, que tiene que ver también con la comunicación. Me refiero a Internet no es lo que crees que es, de Justin E. H. Smith, quien propone una adaptación del método de la ontología histórica de Ian Hacking e incluso, aunque con matices, de la genealogía de Michel Foucault, mostrando, y aquí resonaría con el trabajo de Laura Tripaldi en mentes paralelas, que la telecomunicación podría ser anterior a la misma conciencia.^[19]SMITH, Justin E.H.: Internet no es lo que crees que es. Una historia, una filosofía, una advetencia. Cátedra, Madrid, 2024, p. 64..

La cuestión de fondo no es, a pesar de que la crítica vaya en muchas ocasiones también por allí, al menos cuando Cortina muestra el reflejo especular de la ideología frente a la ciencia, que la IA no pueda cumplir algunas de las promesas que nos hace para el futuro. Lo que me importa, sobre todo si tenemos en cuenta el libro de Kate Crawford, es que algunas cosas de las que dice que hace hoy en realidad no las hace. La ética de la Inteligencia Artificial se propone, con diferentes matices, regular para que los usuarios, sobre todo en la robótica de servicio y cuidados, no confundan la máquina con un ser humano. Pero, en realidad lo que sucede, es que la IA pretende hacer pasar el trabajo, rutinario y bastante abusivo, de los seres humanos por el trabajo de una máquina o un algoritmo. Tener subcontratados a cientos de trabajadores, por ejemplo, en Turquía, para etiquetar datos en un proxy no es muy atractivo y acaso no facilita la detracción de recursos financieros, pero todo esto se mejora cuando nos referimos a una nube o a cualquiera de las nociones etéreas y mucho más limpias que proponen a las administraciones. Tampoco nos dice nadie que la industria de los datos pone en riesgo el suministro de agua y de energía eléctrica para el común de la ciudadanía. Así que la sustitución o el escamoteo es doble. Primero, la industria se apropia del nombre de una investigación que era puntera en filosofía, lógica y psicología cognitiva, y, segundo, difumina la dureza de su realidad con mensajes de tranquilizadora limpieza y sostenibilidad. Tanto es así que hasta la extrema izquierda anticapitalista adopta con bastante ingenuidad una terminología que está tomada de esta nueva variedad del capitalismo, en la que si algo va a acelerarse, desde luego, son los procesos de aceleración, y como siempre, al precio de un empeoramiento de la vida de la mayoría y de los parámetros ambientales. De ahí que Antonio Negri o Michael Hardt, entre otros, recurran a la chiboleta del General Intellect o del nuevo trabajo inmaterial. La cámara oscura opera como el mundo invertido. Alguien prefiere que pensemos que son gigantes.

Puede que nunca hayamos tenido una oportunidad más exagerada de contemplar eso que Heidegger llamaba Gestell a propósito de la técnica, esto es, un encuadramiento que hace de la fisis una suerte de reserva o recurso. Jean–Luc Nancy, uno de los pensadores más importante del siglo XX, diría, En la frágil piel del mundo, que “la relación de las técnicas con una naturaleza supuestamente exterior ya no se puede separar del conjunto tecnológico y, por eso, la infinitud técnica implica, en consecuencia, la tendente eliminación entre naturaleza y técnica. La infinitud técnica implica, por tanto, y al mismo tiempo, aquello de lo que es contemporánea: la destitución de la metafísica entendida como elaboración especulativa de una sobrenaturaleza. La “muerte de Dios” es en esencia el nacimiento de la “tecnología” en un sentido que podría hacer que ocupara el lugar de la metafísica.”^[20]NANCY, Jean- Luc: La frágil piel del mundo. De Conatus, Madrid, 2021, p. 71. Sabemos que Adela Cortina es en cierto modo heredera de la filosofía de la Escuela de Frankfort, algo que pone de manifiesto en el libro que hemos comentado, juzgando cómo la razón comunicativa había servido hasta ahora de dique al empuje de la razón instrumental de la técnica, a la que ella había añadido, un poco en la línea de Martha Nussbaum, una razón cordial, esto es, el logos configurado según los afectos.  Y es precisamente un pensador de la tercera generación frankfortiana, como Hartmut Rosa, quien nos advierte contra un nuevo estilo de malestar cultural, ligado estrechamente a la Gestell técnica, de la que la Inteligencia Artificial podría ser su apoteosis. Ese malestar es el de una nueva soledad, que oscila entre la indolencia apática, la decepción y la ira, dado que el mundo nos produce resonancia, nos reta, acompaña o interpela, justo por su condición de indisponible, un concepto de origen teológico que Rosa desempolva para su sociología diagnóstica.^[21]ROSA, Hartmut: Lo indisponible. Herder, Barcelona, 2020. Y ocurre, está ocurriendo, que la IA sólo promete, incluso aunque no siempre lo pueda conseguir, la disponibilidad total, esto es, nuestro propio infierno en el que nada resuena ya o interpela. Contemplo, antes de apagar el ordenador, el brillo de página en la pantalla, intento imaginar que hablo con alguien, que me dirijo a ti, por ejemplo, y que no eres, que no lo soy yo, un bot conversacional. ¿Lo habré conseguido? ¿Me estoy engañando?