“Desgarrar el alma adormecida”: esta frase de Gregorio Magno es el lema de la edición 2024 del New York Encounter. El Metropolitan Pavilion, centro de congresos de Chelsea, a dos pasos del icónico Flatiron Building, volverá a animarse del 16 al 18 de febrero con una nueva edición de este evento organizado por la comunidad de CL en Estados Unidos. «¿Qué le está pasando a nuestra humanidad?», se preguntan los organizadores en el texto de presentación del lema. «No faltan motivos para reflexionar sobre esta cuestión. Imágenes cotidianas de violencia gratuita, una epidemia de suicidios, sentirse ahogados por la imposición de ideologías contrapuestas con sus respectivos lenguajes (empezando por los colegios), la amenaza potencial de la Inteligencia Artificial generativa, la sensación de parálisis frente al futuro, el sufrimiento y el mal privados de significado o redención, el cansancio generalizado, el malestar, el entumecimiento y la falta de deseo… Estos signos sugieren que nuestra humanidad está adormecida. ¿Qué puede despertarla?». Debates, exposiciones y espectáculos intentará dar un respiro a estas preguntas que parecen cada vez más urgentes, en Estados Unidos pero también en todas las latitudes. Entre los temas que en los últimos meses han provocado más discusiones –al que también está dedicada la revista Huellas de febrero– está la IA. El Encounter le dedica una exposición titulada “AI and I: Wonder, Create, Work” (“IA y yo: asombrarse, crear, trabajar”). Hablamos con su comisario, Davide Bolchini, director de la Luddy School of Informatics, Computing and Engineering de la Universidad de Indiana en Indianápolis.

¿Cómo nace esta exposición?
Al acabar la última edición del New York Encounter lo comenté con varios colegas que trabajan conmigo en la universidad. Muchos compañeros y alumnos ya usaban ChatGPT y era un fenómeno que suscitaba muchas preguntas. Nos parecía que el Encounter era un lugar privilegiado para abordar el tema yendo realmente a fondo en nuestra relación con estas nuevas herramientas tecnológicas. Discutiendo con los organizadores del Encounter y otros amigos del sector con los que hemos trabajado en esta exposición, surgió la gran pregunta sobre la que queríamos que girara todo el recorrido.

¿Qué pregunta?
Como decía el historiador Melvin Krantzberg, la tecnología no es ni buena ni mala, pero tampoco es neutra. Por su naturaleza, abre, muestra nuevos horizontes, pero necesariamente cierra otros o los pone en discusión, a veces con fuerza. Cuando tienes herramientas que parecen replicar el producto de la actividad humana o que al menos saben hacer lo que yo llamo un first draft of anything, un primer esbozo de cualquier cosa, y además están diseñadas para hacerlo cada vez mejor, te preguntas si hay algo irreductible en la aportación humana, si hay algo que la máquina no pueda replicar. Si el producto de la actividad creativa se puede reproducir, ¿qué aporta el hombre?

La exposición se titula “IA y yo”.
Sí porque si vas hasta el fondo de la pregunta sobre cuál es la aportación insustituible del hombre tienes que preguntarte qué es el yo.

¿Cómo os pusisteis a trabajar?
Lo primero que pudimos constatar es que se habla mucho de IA generativa, pero pocos la conocen directamente, así que el primer paso de nuestro camino consistió en probar varias de las herramientas que hoy están al alcance de todos, experimentando con su uso según las exigencias de cada uno, según fuera un profesor, un científico, un profesional… Luego intentamos explicar los modelos que hacen que esas aplicaciones funcionen, que son esencialmente de naturaleza estadística.

¿En qué sentido?
El texto que se genera como respuesta se forma a partir del cálculo de probabilidades con que las palabras aparecen juntas en los textos con sentido completo que ya existen. ChatGPT no sabe lo que te está respondiendo, pero sabe que el texto que te ofrece tiene una altísima probabilidad de que tenga un sentido completo frente a la pregunta que le has hecho. Y los resultados son realmente asombrosos.

Pero ya se sabe que ChatGPT no es muy fiable.
Pero es interesante entender por qué no lo es. Se trata de sistemas casi imbatibles a la hora de generar contenidos sobre cualquier tema, opinando sobre todo y hasta resolviendo problemas en pocos segundos, pero lo que está claro es que no comprenden las informaciones que dan. Hasta tal punto que en algunos casos nos enfrentamos a las llamadas “alucinaciones”: respuestas falsas pero tan plausibles que podrían ser verdaderas.

¿Por ejemplo?
Hemos visto que ChatGPT daba como referencias artículos periodísticos de cabeceras muy importantes pero que nunca se han escrito. Al menos en sus primeras versiones, no sabían hacer razonamientos que para nosotros son sencillos. Por ejemplo, cuando dices: «Si una camiseta mojada tarda una hora en secarse, ¿cuánto tiempo hace falta para que se sequen tres?». El sistema te responde que hacen falta tres horas. O, por ejemplo: «Mi gato estaba vivo a las 10. A las 16 se puso malo. ¿Estaba vivo a las dos de la tarde?». El algoritmo responde: «No». El sistema estadístico no proporciona a la máquina un sentido común o, en cualquier caso, el sentido de la realidad. Esto es porque la inteligencia, como decía santo Tomás, tiene mucho que ver con la verdad, que es adaequatio rei et intellectus, es decir, correspondencia entre la mente, o el lenguaje, y la realidad.

Por tanto, la máquina es tonta.
En el fondo, son límites que también se podrían superar con versiones más sofisticadas de las mismas herramientas. Hay otras cuestiones más profundas. En la exposición vemos el ejemplo de Vauhini Vara, que es una de las primeras escritoras profesionales que ha experimentado con IA generativa en el proceso de creación de una novela. Explicó en un artículo que llevaba tiempo queriendo escribir un libro sobre lo que había vivido con la muerte de su hermana, pero era incapaz. Lo hizo con la ayuda de IA y mucha gente se ha sentido identificada con esa descripción de la experiencia del dolor. Sin embargo, Vara dice: «Yo sé que lo que está escrito en el libro no se corresponde con lo que viví». Y añade: «Escribir es comunicar una expresión posible de una conciencia particular, de una cierta experiencia del mundo que es única». Por tanto, lo que creo no solo depende del refinamiento de las palabras del texto, sino que es un intento de «aclarar lo que es el mundo desde el punto de vista desde el que lo observo». Y eso no tiene nada que ver con el método estadístico que utiliza la IA para generar textos. Falta una “coherencia” que deriva de una relación íntima e irrepetible con la realidad.

¿Esa relación con la realidad es lo que nos distingue de las máquinas?
El gran lingüista Noam Chomsky escribió un artículo precioso a principios del año pasado donde decía, en pocas palabras, que todo acto creativo del ser humano lleva por definición un elemento de moralidad. Es decir, la creatividad implica el deseo de dar una aportación al mundo. Es un intento –como decía Steve Jobs, to make a dent in the universe– de arañar el misterio.

LEE TAMBIÉN – La cuarta revolución

El misterio no se puede grabar en una base de datos…
Como decimos en la exposición, hay un diálogo precioso de Platón donde Sócrates discute con Fedro sobre la relación entre la vida y la expresión “técnica” o artística, como puede ser también la escritura o la pintura. Las obras que salen de las manos de los hombres, se dice en un momento del diálogo, parecen tener aspectos que cobran vida y es como si te hablaran. Pero si tratas de interrogar a esos artefactos, no te responden. Sócrates dice que la producción artística es solo una imagen muda de un alma que trabaja. Entonces la cuestión es, volviendo a la actualidad y a la relación con los productos de la tecnología contemporánea, qué es lo que decidimos delegar a esas imágenes.