El uso de la inteligencia artificial y sus riesgos en la enseñanza de la escritura académica

            La última sesión del diplomado de escritura académica, del que soy docente, versó sobre la inteligencia artificial, IA, y su efecto en la enseñanza de la escritura académica. Durante el curso, como un proceso de experimentación, yo hice cada una de las tareas que envié a mis estudiantes con aplicaciones de IA como ChatGPT y Bard: párrafos narrativos, descriptivos, de comparación y contraste de 200 palabras; ensayos de argumentación y de comparación y contraste de 700 palabras.

Los objetivos de mi investigación fueron: 1) comprobar que todas las tareas del curso, tal como estuvieron concebidas, eran susceptibles de ser cumplidas en minutos mediante una aplicación de IA; 2) demostrar a los estudiantes del diplomado, que son docentes, la dificultad de detectar qué trabajo es redactado por IA y cuál no; y, 3) reflexionar, entre quienes participamos del diplomado, acerca de la honestidad académica y el uso de IA en el cumplimiento de tareas.

La conclusión provisional es que, si bien la IA se ha convertido en un instrumento, inevitable e imprescindible, para el proceso de investigación, la IA también constituye un riesgo, de incalculables consecuencias, para el desarrollo de una destreza básica como escribir, si aquella reemplaza al estudiante en el ejercicio mismo de la escritura.

 

¿Qué es la inteligencia artificial?

 

Antes que nada, partamos de una definición general: «La inteligencia artificial, IA, es una rama de la informática que se ocupa de la creación de agentes inteligentes, que son sistemas que pueden actuar de forma autónoma para lograr sus objetivos. La IA se basa en la idea de que los sistemas informáticos pueden imitar la inteligencia humana en tareas como el razonamiento, el aprendizaje y la resolución de problemas».

La IA, entre otras, tiene una amplia gama de aplicaciones cotidianas: 1) asistentes virtuales como Siri o Alexa; 2) automóviles autónomos; 3) cirugía robótica; 4) reconocimiento facial; 5) instrumentos domésticos como el robot que aspira y trapea; 6) publicidad en función de los intereses del público escogido.

 

Riesgos de la inteligencia artificial

           

           Si bien la IA es una tecnología que, sin duda, mejorará nuestras vidas, no hay que perder de vista algunos riesgos inherentes a su desarrollo actual y futuro: sesgo, privacidad, seguridad y otros.

Sesgo: dado que la IA se basa en datos, estos pueden ser sesgados y si los datos para entrenar un sistema de IA están sesgados esto puede generar resultados injustos o discriminatorios. En este sentido, «un sistema de IA utilizado para predecir la probabilidad de que una persona sea condenada por un delito podría estar sesgado en contra de las personas de color. Esto se debe a que los datos utilizados para entrenar el sistema podrían reflejar los sesgos de la aplicación de la ley, que históricamente ha sido discriminatoria contra las personas de color».

Privacidad: la IA requiere enorme cantidad de datos para su entrenamiento y desarrollo, que incluye información personal como datos de ubicación, datos biométricos y datos de salud; el uso de estos datos afecta la privacidad de las personas. Así, «un sistema de IA utilizado para rastrear los movimientos de las personas podría ser utilizado para espiar a las personas» y «un sistema de IA utilizado para identificar personas en imágenes podría ser utilizado para crear una base de datos de rostros de personas».

Seguridad: Dado que, en el momento actual, los sistemas de IA son vulnerables a los ataques cibernéticos, si un sistema de IA es atacado, podría ser utilizado para causar daño o para robar información. «Por ejemplo, un sistema de IA utilizado para controlar un vehículo autónomo podría ser atacado para causar un accidente. Un sistema de IA utilizado que opera un sistema de armas podría ser atacado para causar daños».

Además, se estima que el desarrollo de la IA, en un futuro cercano, generaría un crisis social por la pérdida de puestos de trabajo, ya que los sistemas de IA automatizarán tareas que, actualmente, son realizadas por las personas; asimismo, la IA tendría una peligrosa influencia en las decisiones humanas, lo que conduciría a una dependencia intelectual permanente y a la toma de decisiones erróneas; y, finalmentente, su impacto en la sociedad conduciría a modificar la convivencia social y las prácticas democráticas tal como hoy las conocemos.

 

IA y escritura académica

           

           ¿Se asemeja el uso de la IA para la escritura al uso de la calcudora para resolver problemas matemáticos? Aún no estoy seguro de ello. Me parece que la calculadora es un auxiliar del estudiante para resolver problemas y que la IA es, en cambio, un reemplazo del estudiante para realizar un ejercicio de escritura. Si la IA puede escribir todos los ejercicios que se requieren para desarrollar la escritura académica, y, en este sentido, hacer las tareas del estudiante, ¿serían mayores los riesgos que los beneficios de usarla?

No quiero ser pesimista sin más. Los beneficios de la IA para que los estudiantes escriban de manera más eficiente y efectiva, ya está en uso. En primer lugar, «la IA puede ayudar a los estudiantes a encontrar información, a organizar sus ideas y a corregir errores. También puede ayudar a los estudiantes a aprender sobre diferentes estilos de escritura y a desarrollar su propio estilo». En segundo, «la IA puede ayudar a los profesores a evaluar la escritura de los estudiantes de manera más precisa y eficiente. Por ejemplo, la IA puede ayudar a los profesores a identificar errores gramaticales y de estilo, así como a proporcionar retroalimentación constructiva a los estudiantes».

Los riesgos, asimismo, ya se perciben, no solo como potenciales sino como problemas que, actualmente, nacen y se multiplican sin control. Y aquí es donde radica mi pesimismo en tanto docente. Del sesgo ya hemos hablado más arriba; aquí solo añadiremos lo nocivo que el sesgo, disfrazado de tecnología, puede resultar para los trabajos de investigación que terminarán cargados de prejuicios o normalizaciones ideológicas aceptadas por el establecimiento.

Dos son los problemas más graves del uso indebido de la IA durante el proceso de aprendizaje de la escritura académica. El primero, es el plagio: si la IA puede escribir las tareas, es decir los ejercicios que debe realizar quien está aprendiendo, es como si el estudiante le pidiera a alguien más que le haga su tarea: cumple con el deber, pero no aprende. El segundo, es la dependencia: el uso abusivo de la IA para realizar tereas terminará por suplantar a quien necesita desarrollar, justamente con la práctica de la propia escritura, las habilidades de la escritura académica.   

            Hay que tener consciencia de los riesgos potenciales de la IA en la escritura académica. Para minimizar estos riesgos, se recomienda: «a) utilizar la IA como una herramienta complementaria, no como un sustituto de la escritura humana; b) ser consciente de los sesgos potenciales de los datos utilizados para entrenar los sistemas de IA; y c) enseñar a los estudiantes sobre el plagio y cómo evitarlo». Adicionalmente, es indispensable tener claro el sentido de la honestidad académica y reflexionar sobre una verdad de perogrullo: si un estudiante me entrega un ejercicio hecho con IA y no por ella o por él, no es a mí a quien está engañando sino a sí mismo.

 

Final, no tan abierto

 

            Todos los ejercicios enviados, en el curso de diplomado, para ejercitar la escritura académica también fueron realizados por una aplicación de IA. ¿Podría enviar otro tipo de ejercicio? Hasta donde le he dado vueltas al asunto, no es posible: la única manera de aprender a escribir es escribiendo. ¿Qué hacer para prevenir que, por pereza o falta de escrúpulos, quienes estén estudiando elijan que la IA haga sus tareas? No tengo una respuesta definitiva al respecto; sin embargo, es posible que tengamos que, por un tiempo, implemetar las tareas en clase y a mano, sin posibilidad de consultar Internet. O, hablar con nuestro estudiantado y reflexionar sobre los problemas éticos y prácticos que se derivan del permitir que la IA piense y escriba por nosotros. O, por lo pronto, utilizar ambas estrategias.

            En un artículo aparecido, originalmente, en The New York Times el 24 de marzo de 2023 y reproducido parcialmente por un sinnúmuero de medios digitales, el famoso historiador israelí Yuval Noah Harari, junto a Tristan Harris y Aza Raskin, cofundadores del Center for Humane Technology, advierten, dramáticamente, sobre el caos que producirá la IA si no es regulada oportunamente. Harari y sus colegas afirman que el lenguaje es el sistema operativo de la cultura humana y que la IA puede piratearlo y manipularlo. Ya sucedió con la IA detrás de las redes sociales que aumentó la polarización social, socavó nuestra salud mental y deshizo la democracia. Ellos advierten que, una vez que llegue el caos producido por la IA, será demasiado tarde para remediarlo: «La democracia es una conversación, la conversación se basa en el lenguaje, y cuando el lenguaje mismo es pirateado, la conversación se rompe y la democracia se vuelve insostenible»[1].

 

Nota bene: En este artículo, que describe el problema de manera general e inicial, la información recogida sobre IA y todos los textos entrecomillados —salvo el último que está debidamene referido— fueron producidos por una aplicación de IA. Las imágenes que ilustran el artículo fueron producidas por la IA llamada Craiyon bajo mis instrucciones. Tanto la introducción y la conclusión así como las advertencias sobre el uso indiscriminado de la IA son de mi exclusiva autoría.

---

[1] Yuval Noah Harari, Tristan Harris y Aza Raskin, «Cuál es el caos irremediable que producirá la inteligencia artificial si no se la regula antes», Infobae, 30 de marzo de 2023, https://www.infobae.com/america/the-new-york-times/2023/03/30/cual-es-el-caos-irremediable-que-producira-la-inteligencia-artificial-si-no-se-la-regula-antes/

La bitácora de Carlos Béjar Portilla

De mi archivo: En 1990, Carlos Béjar Portilla publicó el cuentario Puerto de luna y la novela corta La Rosa de Singapur con el número 39 de la Colección Antares, editada por Libresa. La primera edición del cuentario Puerto de luna fue publicado, en 1986, por la Casa de la Cultura Ecuatoriana, núcleo del Guayas. Yo fui el autor del estudio introductorio de la edición de Libresa, que ustedes pueden consultar en mi sitio web. Los dos artículos que reproduzco a continuación tienen su origen en aquel estudio.

 

Carlos Béjar Portilla (Ambato, 1938). Vivió cuatro años en Baños, hasta que, en 1942, su familia se trasladó a Guayaquil, en donde se radicó. (Foto tomada del blog Momento digital. El placer de leer en línea)

Los monos enloquecidos

La bitácora de Carlos Béjar Portilla (I)

Hoy, 14 de enero de 1991

 

           

            Decir que Carlos Béjar Portilla (Ambato, 1938) es el punto de arranque de algo nuevo siempre será riesgoso; sin embargo, asumo el riesgo porque, a pesar de no pertenecer a ningún grupo literario en particular, él es la cabeza visible, la propuesta estética más madura, del movimiento de escritores que irrumpe en la década de los 70 rompiendo, de manera definitiva, toda atadura con el realismo social.

            Puerto de luna (cuentos) y La Rosa de Singapur (novela corta) aparecieron en 1990, con el número 39 de la Colección Antares, editada por Libresa. A propósito, esta colección llegó a los cincuenta títulos entre obras clásicas y contemporáneas con estudios introductorios serios dirigidos, sobre todo, a maestros y estudiantes.

            Dos obras por el precio de una, como diría algún publicista elemental. En esta entrega, hablaré del cuentario, según el neologismo utilizado por Cecilia Ansaldo, en su profunda ponencia sobre el cuento, presentada en el IV Encuentro sobre Literatura Ecuatoriana Alfonso Carrasco Vintimilla, realizado en Cuenca.

            Puerto de luna es la concentración de las preocupaciones temáticas y estilísticas de Béjar. Cuentos con una enorme economía de lenguaje; personados trazados con líneas gruesas para su descripción física, pequeños indicios de su interioridad; conflicto apretado y anécdota contada en forma sustantiva. Esta economía, a veces, va en merma de la propia posibilidad narrativa del cuento y no consigue armar una estructura acabada («Punto muerto», «El taxi color amarillo», «Mañuco»).

            En cambio, en «Puerto de luna», el cuento que le da nombre al volumen, la economía de lenguaje funciona de manera exacta. El primer párrafo plantea el ambiente exterior de la acción. El segundo, introduce sutilmente el elemento fantástico. El tercero, no presenta la información necesaria para saber que se trata de fantasmas que recorren puertos también fantasmas. El cuerpo, sirve para que el narrador se introduzca en la historia como personaje. Del quinto al octavo, desarrolla la historia de amor entre este y Dolly. En el séptimo, menciona un elemento nuevo —indicio verdadero— que trae violentamente el tiempo de lo narrado a la actualidad. El último párrafo resuelve la contradicción entre realidad y fantasía y logra romper el tiempo circular de la historia. «Henry Fiol» y «Epílogo imaginario, por Jorge Luis Borges» consiguen, de igual manera, aquella excelencia.

            Béjar organiza en el libro un juego de referencias cruzadas, de guiños culturales, de propuestas vitales con la lectura, que vuelven placentera la lectura del cuentario. Cuentos de ambiente marinero se conjugan con la novelina La Rosa de Singapur, que comentaré en la próxima entrega. Hasta tanto, con estas aguas navegamos.

 

 

Los monos enloquecidos

La bitácora de Carlos Béjar Portilla (II)

Hoy, 21 de enero de 1991

 

            Costumbre de Béjar, en lanzamientos de libros y exposiciones, al calor de Guayaquil y del ron con cola, el escritor atrapaba en su red al prójimo para hablar de una novela de mar provista únicamente de los aparejos indispensables.

            La Rosa de Singapur, para los que se perdieron el artículo del lunes anterior, apareció en 1990, con el número 39 de la Colección Antares, editada por Libresa, en un volumen que incluyó su cuentario Puerto de luna, comentado en la entrega anterior.

            Ya no es la situación lo que sostiene al texto, como sucedía en Tribu sí (1982, finalista del premio Seix Barral de 1973), su novela anterior. En esta ocasión, se trata de una novela corta en la que Béjar revela su deseo de contar cosas. De narración sustantiva y ambiente marino, La Rosa de Singapur desarrolla su discurso en el género de la novela de aventuras.

            La novela se presenta como un manuscrito encontrado en una botella, en la playa, por el capitán José Chimistra, quien informa a la Capitanía del Puerto, anexando el manuscrito, el 4 de noviembre de 1992. El narrador —el que escribe el manuscrito— asume su manera de decir como si estuviera escribiendo una bitácora o libro de a bordo.

            La Rosa de Singapur es también la novela de la búsqueda de la paz interior del ser humano, que habrá de conseguir al fundirse, ser uno, con la naturaleza; cuestión que ya estaba presente en Tribu sí. Los amigos de aventura: Miguel, el Vasco; el Fakir, Ku man Ku y el narrador son los protagonistas —nuevamente, la idea de la tribu— que están juntos, en 1946, la noche del naufragio del Faraón, se encuentran, en 1967, en una isla solitaria, al final de sus vidas marinas, fundidos con la naturaleza.

            Esa búsqueda es el hilo narrativo que va tejiendo las peripecias hasta formar una bien construida colcha hecha de diversos retazos, pues la narración expresionista —descripciones en trazos gruesos, personajes y ambientes esbozados en pocos párrafos—, acentuada en lo que sucede fuera del mar (por ello esa alusión pasajera a Sonia, la bailarina o a El Rincón de los Artistas), permite que el narrador contraponga la complejidad de lo cotidiano —en tierra— con la sencillez de la paz interior —en la mar—: una isla donde los humanos, desde lejos, «parecen pájaros marinos».

            Esa sensación de anécdotas truncas se da porque la economía del lenguaje está planteada como característica discursiva, aunque se exagera en el caso de la vida del cocinero malayo Ku man Ku, de quien se sabe muy poco para ser el protagonista.

            Pocos le creyeron a Béjar, pero aquí está La Rosa de Singapur navegando. «Pequeños rizos, viento de popa». Lectores de a bordo: a expandir las páginas del libro como si fueran las velas de una pequeña embarcación.    

El profeta centenario

Gibrán Jalil Gibrán, Autorretrato y musa, 1911, Museo Soumaya (Foto: R. Vallejo, 2023)

            En mayo de este año, estuve en el Museo Soumaya, de la Fundación Carlos Slim, en Ciudad de México. En la sala Gibrán Jalil Gibrán del museo, se exhiben manuscritos, mecanuscritos, cartas, primeras ediciones de sus libros, fotografías, objetos y un acervo de pinturas, dibujos e ilustraciones del poeta y artista libanés-norteamericano.[1] Más allá de que la visita al museo es una experiencia maravillosa, el recorrido que hice por cada una de las piezas de la sala dedicada a Gibrán me regresó a mi adolescencia, al tiempo de mi iniciación en el placer solitario de la lectura y a su libro icónico. Durante algún tiempo, lo releí como se relee la Biblia: con el espíritu abierto al poema de un mundo sin poesía. El profeta (1923), de Gibrán Jalil Gibrán, es una obra centenaria y ampliamente conocida que perdura debido al espiritualismo ecuménico de su prosa poética y a un tono sapiencial que cuestiona al saber establecido y a sí mismo, más allá de cierto tufillo a sermón de autoayuda que ha motivado la indiferencia de los academicistas.

            Después de vivir doce años en Orfalís, el profeta Almustafá está por regresar a la isla donde nació. La gente lo rodea y le pide que irradie su sabiduría antes de la partida. Almustafá aborda veintiséis asuntos, sobre los que es interrogado, en sendos poemas en prosa. Los sermones de Almustafá en El profeta son una mezcla exitosa del espiritualismo cristiano y la tradición islámica expresados en términos ecuménicos. Así, Almustafá señala que la religión reside, básicamente, en el propio individuo, algo que sintoniza con la popularización del hipismo en los sesenta, la new age de los setenta y el eclecticismo de la posmodernidad: «Vuestra vida cotidiana es vuestro templo y vuestra religión. Siempre que entréis en ella, llevadla con vosotros vuestro ser, todo entero»[2]. En los años de entreguerras, fue un mensaje de esperanza que cada uno asumió a su manera, ya que la presencia de Dios es una bella imagen panteísta: «Lo veréis sonriendo en las flores, y luego alzarse, y agitar las manos en los árboles». Además, como cada concepto contiene su contrario, los lectores asumen la enseñanza como un enunciado esotérico: «Vida y muerte son una misma cosa […] Qué es morir sino estar desnudo en el viento y fundirse con el Sol»[3].

            La prosa sapiencial de El profeta continúa hablándonos hoy día por cuanto al desarrollar ciertos temas que atañen a la humanidad lo hace cuestionando los dogmas de las religiones oficiales y procurando un sendero de libertad al individuo, sin escamotear la contradicción inherente a la vida misma. De esta manera, si dice que «cuando el amor os llame, seguidlo», también advierte: «Porque así como el amor os corona, también os crucificará. Así como os hacer crecer y prosperar, también os podará». Y concluye con un giro de sentido abierto: «El amor no tiene más deseo que colmarse a sí mismo».[4] Al hablar del matrimonio, por ejemplo, su mensaje irrumpe en contra del yugo de la pareja, que ha sido la prédica de las religiones, y lo planteó, hace un siglo, como la unión de dos individuos que viven por sí mismos y comparten la experiencia de la vida: «Cantad y danzad juntos, y regocijaos pero que cada cual esté a veces solo, así como las cuerdas del laúd están solas, aunque vibren con la misma música»[5]. En el mismo sentido, la prédica sobre los niños, que es citada en cada bautizo o ceremonia de graduación, habla de la independencia que los hijos deben heredar de sus padres y la inevitabilidad de ser personas por sí mismos: «Vuestros hijos no son vuestros. Son los hijos y las hijas del anhelo de la Vida por perpetuarse […] Podréis darle vuestro amor, pero no vuestros pensamientos, porque tiene sus propios pensamientos»[6]. La prédica habla para todos en la medida en que los conceptos que contienen su opuesto atraviesan el libro en términos no dogmáticos: así la alegría es tristeza, la libertad es esclavitud y «¿qué es el mal, sino el bien, torturado por su propia hambre y su sed?»[7].

            Finalmente, el éxito de El profeta se debe también a un tufillo de libro de autoayuda que, si bien multiplicó sus lectores, le impidió el respeto de cierta crítica académica. Conceptos vagos, ideas de talla única, preceptos que sirven para todos en cualquier tiempo y lugar. Al momento de la partida, Almustafá dice en términos difusos: «Y en esto reside mi honor y mi recompensa: En que siempre que me acerco a esa fuente a beber, encuentro que el agua viviente misma está sedienta; y me bebe, al tiempo que yo la bebo»[8]. La idea de que lo que podemos expresar es apenas una sombra de lo que conocemos se difumina en una imagen hasta desdibujar la idea: «Vuestros pensamientos y mis palabras son ondas de una memoria sellada que conserva el registro de nuestros ayeres, y de los días antiguos en que la tierra no sabía nada de nosotros, ni de sí misma, y de las noches en que la tierra estaba revuelta en un caos»[9]. O, cuando habla del discurso y opone a este, como era de esperarse, el silencio y da como consejo una idea vaga, contradictoria en sí misma, pero útil para cualquiera: «Hay entre vosotros quienes buscan al parlanchín por miedo a estar solos. El silencio de la soledad les revela su propio ego desnudo, del que ansían escapar».

El profeta, prueba de impresión, editorial Knopf, 1923. Museo Soumaya. (Foto: R. Vallejo)

            Según sus biógrafos, Gibrán Jalil Gibrán (Bisharri, Líbano, 1883 – New York, 1931), llevó una vida contradictoria con la espiritualidad que predicó en El profeta. Según su ahijado Jean Gibrán, el artista fue «un ser humano frágil, que estaba consciente de su propia fragilidad»[10]. Dicen que murió, en soledad, debido a una ingesta excesiva de arak, bebida alcohólica de la que era adicto, al punto de que escondía en el interior de su bastón una pipeta con arak. Yo lo veo bebiendo hasta morir, celebrando lo vivido, convencido de la trascendencia del espíritu y de la complementariedad de la vida y la muerte, tal como lo dijo Almustafá: «Debierais conocer el secreto de la muerte. Pero, ¿cómo, a menos que lo busquéis en el corazón de la vida? […] Porque, ¿qué es dejar de respirar, sino liberar el aliento de sus inquietos lazos, para que pueda alzarse y expandirse, y buscar a Dios, sin trabas»[11]. Mi espíritu continúa vivo en el corazón abierto a la palabra de la poesía, gracias también a las enseñanzas de Almustafá, el profeta.

---

[1] Museo Soumaya, Ciudad de México

[2] Gibrán Jalil Gibrán, El profeta [1923], versión castellana de Sergio René Madero (México D.F.: Editorial Orión, 1972), 152. Leí por primera vez el libro, de adolescente, en esta edición popular.

[3] Gibrán, El profeta, 157 y 158.

[4] Gibrán, El profeta, 27 y 29.

[5] Gibrán, El profeta, 34.

[6] Gibrán, El profeta, 37.

[7] Gibrán, El profeta, 127.

[8] Gibrán, El profeta, 168.

[9] Gibrán, El profeta, 166.

[10] Shoku Amirani & Stephanie Hegarty, «Kahlil Gibran’s The Prophet: Why is it so loved?», BBC News, 12 May 2012, https://www.bbc.com/news/magazine-17997163 Jean Gibran es autor de Kahlin Gibran: His Life and World, 1991.

[11] Gibrán, El profeta, 157 y 158.