«Magnifica Humanitas»: el ser humano y esa cantamañanas llamada IA (II)

            ¿Qué es palantir? En la saga de El señor de los anillos, de J. R. R. Tolkien, las palantir son las ocho piedras videntes fabricadas por los elfos para la comunicación y la ampliación del saber de los hombres. Los elfos se las entregaron a los hombres, pero Sauron (el Mal) logró controlarlas y las utilizó para dominar al mundo. También es el nombre de la empresa de Peter Thiel, Palantir Technologies Inc., una compañía privada estadounidense de software especializada en análisis de macrodatos (Big Data) y la industria de la guerra. La encíclica Magnifica Humanitas, de León XIV, en su capítulo III ofrece su visión pastoral sobre la relación entre la tecnología, el poder y la persona humana señalando, a la vez, los riesgos que implica la inteligencia artificial sin regulación impulsada desde las narrativas del trans y el post humanismo.

            La posición doctrinal parte de una constatación que va a contracorriente de la idea de una tecnología aséptica que la tecnoligarquía nos quiere vender: «Las innovaciones tecnológicas —incluida la inteligencia artificial— no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión» (párr. 85). En la encíclica, esta es una posición que se reafirma en varias partes, pues, más adelante, señala que la inteligencia artificial trabaja con los estereotipos y la ideología de quienes la han diseñado (párr. 102) por lo que no se la puede considerar moralmente neutra (párr. 104). De ahí que es urgente regular la inteligencia artificial, lo que choca frontalmente con la posición de los tecnoligarcas como Peter Thiel, que ya en 2009 escribió que la democracia y la libertad son incompatibles. Por supuesto, Thiel no se refiere a tu libertad o la mía, sino a la de su compañía para hacer lo que crea conveniente para sus intereses económicos y políticos y desdeña la democracia porque esta implica debates ideológicos, sufragio, regulaciones, redistribución de la riqueza y rendición de cuentas.[1]

            La encíclica es muy clara al señalar el marco de principios en el que los católicos debemos entender el mundo digital: dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad y la solidaridad y la justicia social. Además, advierte el peligro del monopolio de la IA: «Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades». (párr. 95) Claro está que estos principios y esta advertencia incomodan a quienes leen a Nietzsche en clave tecnofascista, pues la tecnoligarquía se siente libre para estar más allá de la moral convencional porque se cree superior al resto de la humanidad. Los tecnoligarcas se asumen como el übermensh (superhombre) de Así hablaba Zaratustra, mientras la encíclica habla del respecto a la dignidad humana exigiendo rendición de cuentas por las decisiones de la IA (párr. 105).

La encíclica pone las cosas en su sitio y, en consecuencia, se enfrenta a los propietarios de la producción de inteligencia artificial que, según dijo Yuval Noah Harari, en Davos 2026, ya no se presenta solo como una herramienta, sino como un agente capaz de reemplazar funciones humanas, que puede aprender, cambiar y tomar decisiones por sí mismo. Su metáfora fue sencilla e informal: «Un cuchillo es una herramienta. Se puede usar para cortar ensalada o para asesinar a alguien, pero la decisión de qué hacer con él es nuestra. La IA es un cuchillo que puede decidir por sí mismo si cortar ensalada o cometer un asesinato». Harari añadió que la IA puede manipular y mentir, ya que todo lo que se componga de palabras será controlado por ella: sistemas legales, libros, religiones basadas en libros —es decir, en palabras—, como el islam, el cristianismo y el judaísmo.

Así, la encíclica nos advierte sobre la deshumanización que significa el trans y el post humanismo, que es presentado como la realidad inevitable de los nuevos tiempos por los propagandistas de Silicon Valley. A contramano, la encíclica insiste en la consideración de la persona humana por sobre la codicia de la tecnoligarquía: «[…] las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad […] Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias». (párr. 99). En términos doctrinales, la encíclica, apelando a ejemplos de un humanismo basado en la compasión, entendida como el cuidado del Otro, defiende la humanidad de las personas y esta se sostiene en el mensaje evangélico: «La fe cristiana responde indicando una plenitud que no deriva de una divinización tecnológica, sino de aquella que produce la gracia de Dios, recibida en Cristo». (párr. 126)

En síntesis, la encíclica parte del hecho de que la tecnología no es neutral y, por consiguiente, es indispensable que sea regulada de tal manera que asuma sus responsabilidades y rinda cuentas. Asimismo, insiste en que el centro de todo debe seguir siendo la persona humana, pues esta no es un proyecto que debe optimizarse, sino «una criatura llamada a la relación y a la comunión», más allá de la especulación triunfalista del trans y el post humanismo. El mundo tiene que luchar para que Sauron no controle las palantir y la humanidad continúe viéndose e imaginándose a sí misma en la diversidad de sus criaturas, en libertad y con justicia social.

 

La del estribo

 

            «Un escritor católico del siglo XX, John Ronald Reuel Tolkien, por boca de uno de los protagonistas de una de sus novelas, describió́ así nuestra responsabilidad: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza”[2]. La civilización del amor no nace de un gesto único y espectacular, sino de una suma de fidelidades pequeñas y tenaces, que hacen frente a la deshumanización» (párr. 213)

            «[…] Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es solo militar sino económica y cognitiva. […] Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida» (párr. 110)

---

[1] Recomiendo el artículo de Owen McGrann «The Dead Economy Theory», publicado el 01 de mayo de 2026 en The Palimpsest, para entender los peligros de la IA sin regulación para el propio mercado, los trabajadores y la democracia liberal.

[2] J.R.R. Tolkien, El señor de los anillos, III: El retorno del rey, traducción de Matilde Horne y Luis Domènech (Barcelona: Minotauro, 1991), 194.

 

«Magnifica humanitas»: la doctrina social de la iglesia (I)

La encíclica Magnifica humanitas del papa León XIV es un documento teológico y doctrinario que desde su aparición se ha convertido en una guía moral y ética, de profundas resonancias políticas, sobre las consecuencias de la inteligencia artificial en la vida de las personas y en los riesgos que conlleva para la humanidad. «El poder tecnológico [tiene] un rostro inédito, predominantemente “privado”, y por ello [es] aún más difícil de discernir, gobernar y orientar hacia el bien común» (párr. 5). He dividido mi reflexión sobre esta encíclica en tres entradas: 1) la doctrina social de la Iglesia; 2) el ser humano y las promesas de la IA; y 3) el cuidado de la humanidad y la Casa común. Además, me parece necesario establecer que el mensaje de toda encíclica se asienta en las enseñanzas bíblicas y, si bien tiene resonancias universales, está sustentado, más allá de las citas del pensamiento laico, en la teología católica. Es su límite filosófico, pero también su claridad conceptual.

Magnifica humanitas asume la continuidad de la encíclica Rerum novarum (De las cosas nuevas), de León XIII, expedida en 1891, y también de la doctrina social de la Iglesia —expresión utilizada por primera vez por Pío XII, en 1950— desde entonces hasta hoy. Es en este marco que la encíclica de León XIV reflexiona sobre las diferentes aristas y consecuencias de la revolución digital y la inteligencia artificial en la vida de nuestra magnífica humanidad. León XIV nos recuerda que, si bien la situación histórica en la que surgió la Rerum novarum ha cambiado, dos de sus principios permanecen: «la primacía del trabajo humano sobre cualquier lógica puramente productiva o financiera, con la consiguiente atención a las personas y a las familias más expuestas a la explotación, y el vínculo indisoluble entre el anuncio evangélico y la búsqueda de un orden social más justo» (párr. 30). Por ello, el valor del ser humano está por encima del capital y el bien común, entendido como el cuidado y la conservación de nuestra Casa común, más allá del afán de lucro privado. De ahí que: «para custodiar a la persona humana en el tiempo de la IA, debemos volver a reflexionar sobre el bien común, el destino universal de los bienes, la subsidiariedad y la justicia social» (párr. 46).

La encíclica parte de dos poderosas imágenes bíblicas: «La Magnífica Humanidad que Dios ha creado se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos» (párr. 1). La construcción de la torre de Babel (Gn 11,1-9), según la encíclica, nos da una lección sobre los límites de la pretensión humana de la autosuficiencia y la aspiración de alcanzar el cielo sin la bendición de Dios. Por otra parte, la reconstrucción de los muros de Jerusalén, dirigida por Nehemías (Ne 1-2) en conjunto con el pueblo de Israel nos enseña el valor del trabajo comunitario: «El relato muestra cómo la ciudad renace no gracias a la iniciativa de una sola persona, sino a través de la responsabilidad compartida de todo el pueblo: sacerdotes, artesanos, jefes de familia, mujeres y jóvenes» (párr. 8). La conclusión es que hay que escoger el camino de Nehemías para hacer de la ciudad de todos reconstruida el reconocimiento de la pluridad de voces y evitar la deshumanización que deriva del “síndrome de Babel”, que excluye a Dios y reduce al Otro a un medio. Es decir, la encíclia nos pide evitar: «la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos» (párr. 10).

La encíclica desarrolla ampliamente el concepto de justicia social desde la mirada evangélica que habla de la buena nueva a los pobres (Lc 4,18) y la identificación de Jesús con los pequeños, los enfermos, los presos y los extranjeros (Mt 25,31-46): «La justicia social se reconoce, entonces, por la capacidad de un orden social, económico y político que permita a todos —y en particular a los más frágiles— vivir de manera realmente humana, sin que ninguno se quede atrás» (párr. 77). La idea de la justicia social se complementa con el concepto de desarrollo humano integral que promulgó Pablo VI en su encíclica Populorum progressio (El desarrollo de los pueblos, 1967) y que León XIV sintetiza así: «El desarrollo es humano cuando pone en el centro a las personas y no la acumulación de bienes, y cuando se refiere también a los pueblos, no sólo a los individuos […] El desarrollo es integral cuando no se reduce al ámbito económico, sino que promueve la calidad de vida en sus dimensiones espirituales, culturales, morales y relacionales, en el respeto a la Casa común, a la diversidad de los pueblos y a sus modos de vivir» (párr. 83).

En síntesis, la encíclica Magnifica humanitas, de León XIV, parte de una recorrido que sintetiza las enseñanzas básicas de la doctrina social de la Iglesia desde la revolución industrial, del siglo diecinueve, hasta la revolución digital de hoy, basada en la justicia social y el desarrollo humano integral a la luz del Evangelio. En ese marco doctrinal es en el que debemos ubicar las enseñanzas sobre la inteligencia artificial de la encíclica, que expondré en la entrada de la próxima semana.

 

La del estribo

 

            «Un orden social justo en la era digital es aquel que garantiza a todos un acceso igualitario a las oportunidades, protege a los más pequeños y a los más frágiles, se opone al odio y a la desinformación, y somete a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos» (párr. 80)

 

«La idea de desarrollo humano integral encuentra hoy un criterio decisivo de verificación en la ecología integral, convertida en una dimensión imprescindible de la Doctrina social de la Iglesia. La calidad del desarrollo, de hecho, se mide por su capacidad de mantener unidos, sin separar, la justicia hacia las personas y la custodia de la Casa común, favoreciendo condiciones de vida digna, acceso a los bienes necesarios, relaciones sociales justas, cuidado de la creación y atención a las generaciones futuras. De ahí se sigue que no es verdadero progreso aquello que aumenta el bienestar de algunos degradando los ecosistemas, descargando costos sobre las comunidades más vulnerables o comprometiendo las condiciones de vida de quienes vendrán después de nosotros». (párr. 84)

«Cariño, ¿cómo podríamos desarrollar esto bellamente?»

En 2018, Olga Tokarczuck ganó el Premio Nobel de Literatura «por una imaginación narrativa que, con pasión enciclopédica, representa el cruce de fronteras como una forma de vida».

            El titular, al parecer, fue un anzuelo para generar tráfico virtual en las redes sociales: decía que la premio nobel de literatura Olga Tokarczuck había utilizado IA generativa para escribir su última novela. La noticia se basó en lo que dijo Tokarczuck en el foro Impact de Poznań, en Polonia, durante una conversación pública: «Frecuentemente, solo le pregunto a la máquina: “Cariño, ¿cómo podríamos desarrollar esto bellamente?”». Nuevamente, se habló del fin de la novela. El 19 de mayo, Tokarczuck tuvo que morigerar sus declaraciones previas y publicó un comunicado oficial en el que estableció que ella utilizaba IA solo como herramienta de investigación preliminar: «Ninguno de mis textos, incluida la novela que se publicará en polaco este otoño, ha sido escrito con la ayuda de la inteligencia artificial»; más adelante, añadió en tono provocativo: «A veces me inspiro en los sueños, pero antes de que esta oración también sea criticada y destrozada por los expertos, me apresuro a aclarar que son mis propios sueños». ¿Se fue de boca la escritora? ¿Tuvo que retractarse cuando se dio cuenta de que su declaración original extendía una sombra de duda sobre su obra?

De manera simultánea, apareció la noticia de que en el Commonwealth Short Story Prize, el relato ganador «The Serpent in the Grove» cayó bajo la sospecha de haber sido escrito con inteligencia artificial. Según Valeriya Safronova, en su artículo «Este relato ganó un premio literario. ¿Fue escrito por IA?», Sigrid Rausing, editora de la famosa revista Granta, que publicó los cuentos ganadores, explicó que, apenas aparecieron las sospechas sobre el cuento, lo sometieron al escrutinio de Claude.ia y preguntaron si fue generado con IA: «La respuesta fue larga, concluyendo que “casi con toda seguridad no fue producida sin la ayuda de un humano”». La editora añadió: «Puede ser que los jueces hayan otorgado ahora un premio a un caso de plagio de IA; aún no lo sabemos, y quizá nunca lo sepamos». Es decir, nunca sabremos si hubo una estafa literaria en la que el ser humano intervino como ayudante. En el mismo reportaje, nos enteramos de que, el año pasado, Carol Hart se autopublicó 200 novelas románticas con la ayuda de Claude, de Anthropic. ¡Doscientas novelas autopublicadas con ayuda de IA! Solo por la cantidad de novelas concluyo que estamos ante la hiperbólica capacidad de la IA para generar basura textual.

La pregunta de Olga Tokarczuck pidiendo consejo a la IA generativa para escribir un texto bellamente es un punto de inflexión. ¿Cuál es el límite de la autoría personal en estos casos? ¿Lo que se requiere a la IA es solo una tarea de corrección? ¿Lo que se está compartiendo con la IA es la coautoría? ¿El resultado de la coautoría con la IA es acaso el comienzo del fin de la escritura literaria humana? El peligro del uso de IA basada en modelos de lenguaje a gran escala (Large Language Models, LLM) en la escritura de textos literarios, guiados en esta etapa por las instrucciones humanas (prompts), es que no hay límite establecido para saber dónde termina el trabajo humano y donde empieza el trabajo de la IA. Poco a poco se irá cediendo la función de la escritura a las aplicaciones de IA generativa que, según previenen algunos científicos, están diseñadas para apropiarse del saber y del lenguaje humanos.

En el foro ya mencionado, Tokarczuck, después de reconocer el alcance de la asociación periférica y asociativa amplia de hechos que posee la IA en contraposición con el estrecho y enfocado pensamiento académico, admitió: «Me compré la más alta, la más avanzada versión de un modelo de lenguaje y pude ser profundamente sorprendida por cómo fantásticamente amplía mis horizontes y profundiza mi pensamiento creativo». Luego de las preocupaciones que produjeron sus declaraciones vino el comunicado formal de Tokarczuck que zanjó radicalmente la sospecha de cualquier coqueteo intelectual de la autora con la IA generativa. Pero lo dicho inicialmente por ella, quedó registrado. Si la premio nobel de literatura se compra la versión más avanzada de una aplicación de IA generativa para “ampliar y profundizar sus horizontes” al escribir su nueva novela, la autoría literaria ha adquirido, de hecho, una dimensión de escritura artificial.

 ¿Cuál es el valor estético de las 200 novelas autopublicadas en un año por Carol Hart? ¿Cómo detectar un texto escrito con IA en un concurso literario? ¿Cuál es el límite del uso de la IA en la escritura literaria? Si la literatura se convierte en trabajos de coautoría con la IA, yo prefiero volver al placer de leer lo que se ha escrito antes de la intromisión de la IA generativa en el proceso creativo. Hay muchísimos libros que nos están esperando. La IA, como en el bolero, es un cariño malo.

 

La del estribo

 

Quito: El Conejo, 2026, 4ta. ed.

Proyecto Dios. Relato sobre la inteligencia artificial (2023), de Abdón Ubidia, es una alegoría distópica sobre el poder destructor de la IA sobre la libertad humana. El cuento se desarrolla en un nivel realista y sicológico —los problemas mentales de un individuo y su pareja— y otro nivel fantástico y simbólico —un sujeto que se da cuenta del origen de la pérdida de la libertad de pensamiento en una sociedad alienada por la inteligencia artificial—. Y es que la apropiación de lenguaje humano por parte de la IA es la apropiación del pensamiento humano: la sociedad es el cuerpo que requiere la IA para existir autónomamente. «Ahora bien, piensa en una super ideología total, producto de una superinteligencia total. Que lo explique todo. Que sea la única fuente de la verdad […] La Inteligencia artificial se encarnó en nosotros. Y se volvió un Dios omnipotente y omnipresente gobernándonos a todos» (36-37), dice el ser de otro mundo. Quien gobierna los algoritmos, gobierna el pensamiento. Paradójicamente, la edición de un cuento sobre los peligros de la IA para la existencia de la sociedad humana utiliza ilustraciones generadas por Midjourney —en vez de las de un o una artista gráfica— que poco añaden al relato y, más bien, evidencian la expresividad plana de las postales de IA. El cuento nos ubica en una encrucijada: frente al dominio de la IA, solo nos queda la destrucción de aquello que la ha generado. Recuerdo, entonces, la desconexión de la supercomputadora Hal 9000 en 2001: A Space Odyssey (1968), de Stanley Kubrick. Cuando desaparezcan Facebook, Twitter, Instagram y demás «será el comienzo de la primera conspiración verdaderamente universal». El cuento lo plantea: ningún Proyecto Dios debe florecer, so pena de la esclavitud humana.