«Magnifica Humanitas»: la educación en la era digital (III)

Tomado de ACI Prensa / Crédito: Daniel Ibáñez / EWTN News.

             En el párrafo 172 de la encíclia Magnífica Humanitas, León XIV señala que la raíz de la deshumanización en la era digital reside en algunas corrientes poshumanistas que plantean que hay seres humanos de segunda clase que deben estar al servicio de las élites, que se consideran seres superiores y que, además, poseen los elementos tecnológicos que les permiten ejercer, sin límites y sin rendición de cuentas, el poder de control sobre la humanidad. Por ejemplo, el CEO de Anthropic Dario Amodei señaló en una entrevista que el bombardeo de EE. UU. a una escuela en Minab, Irán, que mató a 168 estudiantes y docentes «es un caso de uso de IA que ni siquiere viola nuestros límites [red flags]». Así, «en nombre del progreso se puede llegar a pensar en “sacrificios necesarios”, y hacer pagar a los más vulnerables el precio de una presunta optimización de la especie» (párr. 117) o justificar crímenes de guerra. La encíclica de León XIV propone, desde una ética del cuidado, cómo entender la educación en la era digital.

El planteamiento de entrada nos ubica en la necesidad de la verdad como un bien común, de ahí la urgencia de generar mecanismos fiables de control democrático y rendición de cuentas de las empresas de IA, y yo añadiría, más aún cuando venden sus productos como indispensables para uso indiscriminado y casi mágico en el sector educativo: «La primera tarea que nos corresponde es no demonizar ni idolatrar los medios, sino gestionarlos a partir de un punto fijo: la verdad es un bien común y no una propiedad de quienes tienen poder o visibilidad». (párr. 137). Si no existen los mecanismos democrático que limiten su poder, la IA devendrá el mayor instrumento de control ideológico y político en manos privadas, esto es, en manos de una tecnoligarquia amoral, que se percibe a sí misma como seres humanos superiores a quienes les está permitido vivir más allá del bien y del mal.

La publicidad de aplicaciones de IA para la educación se empeña en señalar la rapidez para resolver las tareas de escritura, una supuesta perfección textual y un acceso inmediato e ilimitado de cualquier información. En realidad, se promociona el resultado de un producto que nos hace olvidar que el aprendizaje implica un proceso y el cometimiento de errores para su superación. En el producto generado por la IA, la persona humana que está aprendiendo no construye conocimiento con la materia de su aprendizaje sino que, sobre todo, se dedica a desarrollar la habilidad técnica para generar indicaciones (promps) —promps que también los desarrolla y ofrece la propia IA—. Una primera consecuencia de todo esto es que «la omnipresencia de los medios digitales genera una cultura de la inmediatez y la sobreestimulación, que alimenta el cansancio, el aburrimiento y la apatía ante el esfuerzo que supone buscar la verdad». (párr. 139). En este marco, la distopía que nos propone la tecnoligarquía es una escuela y una universidad reducida a fábricar humanos habilidosos, chips de carne humana, personas de segunda clase que habitarán los backrooms del tecnocapitalismo.

La encíclina da un mensaje que es también una advertencia para la docencia, especialmente la docencia católica que tiene un particular compromiso ético y doctrinario: «Educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla […] Debemos aprender a prescindir de la IA y proteger a nuestros jóvenes de la promesa de la máquina perfecta, de esa sutil seducción que hace parecer inútil el pensamiento humano precisamente cuando más se necesita». (párr. 140) Este es un mensaje que cobra relevancia ahora que, en algunas instituciones educativas de ciertas élites católicas, se presenta y publicita a la IA como la más avanzanda tecnología que, aparentemente, garantizaría la mejor educación del mercado —simbólicamente, estaríamos convirtiendo a la IA en un nuevo becerro de oro—. Sin embargo, lo que estas instituciones estarían fabricando es, sobre todo, humanos amorales que permiten que la IA los reemplace en la generación del pensamiento y el saber, porque el afán de lucro se habría convertido en su principal motivación.

Asimismo, para la comunidad educativa es fundamental prestar atención a la advertencia que nos hace León XIV respecto de los riesgos que implica una navegación en Internet sin restricciones ni control parental para niñas, niños y adolescentes. «En la red no son raros los fenómenos de captación, chantaje y explotación sexual de menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos y de herramientas de IA capaces de manipular imágenes y vídeos» (párr. 141) Hay que cuidar a los menores y para ello es necesario involucrarse en el mundo digital. Las restricciones sobre la navegación en Internet y el uso de la IA son infructuosas cuando no van acompañadas de propuestas que involucren a padres, madres y docentes en un proceso educativo que no le tema a estas herramientas, pero que señale sin tapujos sus riesgos y confronte, desde la ética del Evangelio, los contenidos del tráfico nocivo de la red y las narrativas de los mensajes de odio.  

Finalmente, «es necesario promover una verdadera higiene de la atención: ritmos que incluyan silencio, estudio reflexivo, lectura, análisis ponderado; sin estos elementos, la libertad interior puede verse comprometida». (párr. 146) Habría que utilizar la IA para apoyar el proceso de aprendizaje y la construcción de saberes del ser humano; procesos que suelen ser lento y con errores, y no utilizar la IA de manera que reemplace al ser humano en dichos procesos. El reemplazo de la persona humana se da bajo la apariencia de un instrumento cuando, en la práctica, la IA asume la condición de un agente que crea contenidos pirateados a través de modelos de lenguaje extendidos bajo la máscara de una tecnología colaborativa. El mensaje del papa León XIV es una propuesta pedagógica centrada en la persona humana: «La escuela no está llamada a perseguir la velocidad del mundo digital, sino a ofrecer aquello que lo digital por sí solo no puede dar: tiempo compartido para aprender y relaciones fiables». (párr. 147) No está por demás tener en cuenta que la IA le sirve al poder político de la tecnoligarquía para bombardear la escuela y la sociedad con la implantación de una ideología deshumanizante y también con misiles.

 

 

La del estribo

 

«La búsqueda de la verdad es un elemento esencial para la democracia, que es en sí misma un instrumento de participación en el bien común. Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita. Esta, en efecto, no se sustenta únicamente en normas y procedimientos, sino, ante todo, en una relación leal con los hechos y en una orientación real hacia el bien de las personas y del conjunto de la sociedad. El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo, para el cual, como escribió la filósofa Hannah Arendt, los súbditos ideales no son tanto aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)». (párr. 134) 

Foto de Hanna Arendt, tomada de: «Hanna Arendt: una pensadora sin barandas», Nueva Sociedad, diciembre 2025.

  

Pablo Picasso, Guernica, 1937, óleo sobre lienzo, 776,6 cm x 349,3,

Museo Nacional Centro de Arte Reina Sofía, Madrid, España.

«La cultura y el arte, cuando son auténticos, custodian esta chispa, impidiendo la normalización del mal. De ese modo, algunas obras han asumido un valor casi profético: la Novena Sinfonía de Beethoven como deseo de unidad; Guernica como denuncia de la deshumanización; La lista de Schindler como una invitación a no entregar el pasado al olvido». (párr. 122)