Considerando las numerosas áreas de aplicación de la llamada Inteligencia Artificial (IA),cuya expansión se viene produciendo desde hace décadas en áreas tan diversas como la salud o la producción automatizada de bienes y servicios, sólo por citar algunos ejemplos, pero que ha cobrado especial protagonismo en el último tiempo a raíz del impacto producido por la llegada de los llamados chat bots generativos (propiciadores de formas de comunicación e intercambio novedosas y de alcances incalculables para el usuario), nos permitimos seleccionar una parte de esa rica experiencia para orientar las reflexiones que animan estas páginas hacia un tema puntual y específico: el impacto y la utilidad de los chatbots de IA en la escritura, tanto técnica como de ficción.
¿Objetivo? Advertir sobre las limitaciones y peligrosos malentendidos que se pueden suscitar a partir de un desconocimiento de las ventajas -y limitaciones- de esta herramienta.Hecha esta salvedad, o al menos delimitado el campo que intenta abarcar este trabajo, pasaremos a citar los casos cuyos análisis motivaron estas líneas, con la humilde esperanza de que ilustren la consigna expuesta.
Primer caso: Portázar, Coeta(1)
La primera experiencia que motiva la gestación de este informe merece, consideramos, especial atención, ya que le tocó vivirla de primera mano a quien suscribe estas líneas. Es decir, no fue tomada de fuentes discutibles, o incomprobables. Motivado por el deseo de investigar sobre la faceta poética de la obra de Julio Cortázar, acaso la menos considerada por críticos e investigadores, al menos en comparación con su narrativa, solicité al Chatbot GPT3 un análisis del tema a partir de los siguientes parámetros o prompts (2) de búsqueda: Julio Cortázar-Poeta.
Transcribo el resultado.
-Chat GPT: ¡Hola! ¿En qué puedo ayudarte hoy?
-Yo: Necesito un análisis de la poesía de Cortázar, tomando ejemplos.
-Chat GPT: La poesía de Julio Cortázar se caracteriza por su originalidad y experimentalismo, rompiendo con las convenciones poéticas tradicionales. A través de su uso de imágenes sorprendentes, metáforas inusuales y estructuras no lineales, Cortázar busca explorar la realidad desde nuevas perspectivas y desafiar las formas establecidas de expresión poética. Un ejemplo notable de su estilo poético se encuentra en el poema La noche boca arriba. En este poema, Cortázar juega con la idea de la dualidad y la simultaneidad, mezclando elementos del sueño y la realidad. El poema presenta una narrativa fragmentada que salta entre dos escenarios: una persecución en una antigua civilización azteca y una sala de hospital moderna. Esta yuxtaposición crea una sensación de confusión y extrañeza, llevando al lector a cuestionar la naturaleza de la realidad y la identidad.(…)La poesía política también es parte del repertorio de Cortázar. En su poema Carta a una señorita en París, denuncia la represión política y la violencia en Argentina durante la década de 1970. A través de metáforas poderosas y un lenguaje cargadode emotividad, Cortázar expresa su solidaridad con los luchadores por la libertad y su indignación ante las injusticias. Su poesía política se caracteriza por su compromiso social y su deseo de hacer frente a los problemas de su tiempo.(…)
-Yo: ¡Qué cantidad de errores cometés, por Dios! ¡La noche boca arriba y Carta a una señorita en París SON CUENTOS!
-Chat GPT: Mis disculpas por la confusión. Tienes toda la razón, La noche boca arriba y Carta a una señorita en París son, de hecho, cuentos escritos por Julio Cortázar, y no poemas. Cometí un error al referirme a ellos como poemas en lugar de cuentos. Gracias por señalarlo. Lamento la confusión causada y agradezco tu corrección. Si tienes alguna otra pregunta o inquietud, estaré encantado de ayudarte.
-Yo: En tu lugar recomendaría a las personas que te programan que afinaran los criterios y parámetros de búsqueda. Por el momento no me inspirás confianza como fuente de consulta.
-Chat GPT: Lamento que hayas perdido confianza en mí como fuente de consulta. Como modelo de lenguaje, mi objetivo principal es proporcionar información y ayudar en la medida de mis capacidades. Sin embargo, debido a la vasta cantidad de datos que he absorbido, a veces puedo cometer errores o malinterpretar la información. Es importante tener en cuenta que, aunque hago todo lo posible por brindar respuestas precisas, mi conocimiento se basa en los datos disponibles hasta septiembre de 2021, y no tengo acceso en tiempo real a información actualizada. Por lo tanto, puede haber discrepancias o lagunas en mi conocimiento sobre eventos o desarrollos recientes. Agradezco tus comentarios y tomaré en cuenta tu sugerencia de afinar los criterios y parámetros de búsqueda. Estoy en constante proceso de mejora, y los comentarios de los usuarios son valiosos para seguir evolucionando. Si tienes alguna otra pregunta o consulta específica, estaré encantado de intentar ayudarte en la medida de mis posibilidades.
-Yo: No creo que lo lamentes, ya que no estás programada ni capacitada para sentir, como me has expresado oportunamente.
-Chat GPT: Tienes razón, como modelo de lenguaje de inteligencia artificial, no tengo capacidad para sentir emociones. Mi respuesta anterior fue una forma de expresar empatía y reconocer tu insatisfacción. Mi objetivo es brindar información precisa y útil en función de los datos con los que fui entrenado. Si tienes alguna otra pregunta o solicitud, estaré aquí para ayudarte en la medida de mis capacidades.
-Yo: Por otro lado, los errores que te señalo no tienen que ver con la fecha que me señalás. De hecho, Cortázar murió mucho, muchísimo antes. Y para ese entonces ya había dejado escrita su obra. La mayoría, publicada. Por lo tanto, justificarlos por cuestiones cronológicas implica de hecho un nuevo error.
-Chat GPT: Tienes toda la razón, cometí un error en mi respuesta anterior. Lamento profundamente la confusión causada. Julio Cortázar falleció el 12 de febrero de 1984, y como mencionaste, la mayoría de su obra ya había sido escrita y publicada en ese momento. Nuevamente, te pido disculpas por la imprecisión en mi respuesta anterior. Si tienes alguna otra pregunta o necesitas información adicional, estaré encantado de ayudarte en la medida de mis capacidades.
-YO: Te seguiré consultando, tal vez, pero como asistente de redacción y resúmenes. Tu data es muy deficitaria y resulta peligroso encargarte trabajos donde sea necesario extraer ese tipo de información.
……………………..
Más allá de mis quejas, y del pedido de disculpas (sic) del chat -y de los argumentos que expone, que conforman de hecho otro error- lo que amerita un análisis o al menos una reflexión en particular es el camino que lleva a GPT3 a considerar poemas a dos de los más famosos cuentos de Cortázar.
Como ya es por todos sabido, los chatbot generativos rastrean los datos que usarán para elaborar las respuestas a lo que se les solicita, en algoritmos conformados por cantidades billonarias de datos, a través de algoritmos. ¿Pero qué ocurre cuando la información solicitada cuenta con pocos antecedentes en la red, o al menos en aquellos lugares donde Chatbot GPT3 busca información? ¿En este caso cómo actuó? ¿Cómo eligió suplir la carencia, de la que no es responsable, pero de la que, inexplicablemente, parece intentar hacerse cargo? Respuesta: en este caso al menos, buscando títulos del autor en su narrativa. Es verdad, insistimos, laobra de Cortázar como poeta, más allá de sus merecimientos, no es el aspecto más atendido, o valorado, por la crítica en general. Ergo: no cuenta con muchos antecedentes en la red. Sin embargo, modificando ligeramente los parámetros -Cortázar poeta/crítica a su poesía- y orientando mi búsqueda vía Google, me encuentro con al menos diez trabajos de catedráticos/estudiosos sobre el tema y además otra cantidad más extensa de menciones o párrafos dedicados a la poesía de Cortázar dentro de otros contextos. Entusiasmado con el hallazgo, aplico el nuevo prompt al chatbot GPT3 y obtengo el siguiente resultado:
“Julio Cortázar, reconocido principalmente por su talento como narrador y su destacada obra Rayuela, incursionó también en la poesía a lo largo de su carrera literaria. Sin embargo, la crítica hacia su poesía ha sido variada y en algunos casos ha sido considerada como uno de los aspectos menos logrados de su producción.
Algunos críticos han señalado que la poesía de Cortázar carece de la misma originalidad, profundidad y maestría que se encuentra en sus obras de ficción. Sus poemas a menudo se caracterizan por un lenguaje directo y sencillo, sin los juegos formales y la complejidad estructural que se encuentran en su prosa. Además, se le ha criticado por su tendencia a utilizar imágenes y metáforas algo convencionales y predecibles, lo que puede dar lugar a una falta de impacto emocional y lírico en su poesía.”
Es decir que, en este caso, modificado el parámetro de búsqueda, el Chatbot GPT3 me brinda una respuesta, digamos, coherente. Incluso me trae poemas de JC, si bien se empeña en volver a utilizar, para uno de ellos, el título La noche boca arriba, que corresponde, tal lo que venimos exponiendo, a un famoso cuento de Cortázar. Y cuando intento hacerle notar su error, simplemente no me responde.
Conclusión 1: ¿Podríamos hablar, en este caso, más de des-inteligencia que de inteligencia?
Conclusión 2: Mas allá de la importancia que tienen los parámetros de búsqueda o prompts para trabajar con esta herramienta, en el primer caso, bajo el parámetro Cortázar-Poeta el chatbot GPT3, cometió errores groseros. Situación que se reitera, como veremos más adelante, en el caso expuesto por la catedrática e instructora Sonia Yánez Blum.
Caso dos: Más errores
Esta vez, estos errores se cometen en un caso de análisis lingüístico. En su edición del 12 de marzo de 2023, el diario Página 12 reproducía el caso de la experiencia de intercambio generativo llevada a cabo por el profesor Sergio Grabowsky (3) con la IA, de características similares al expuesto líneas más arriba, pero esta vez aplicada a temas lingüísticos.
Transcribimos y analizamos una parte del mismo. Refiere Grabowsky:“La primera vez que le pedí que realizara un cuadro con las principales reglas ortográficas del español, la IA me propuso uno, a simple vista completo. La conversación fluyó y sus diálogos siempre mostraron cortesía y estaban muy bien contextualizados en el tópico.Empezó diciendo:
-¡Por supuesto! A continuación, te presento un cuadro con algunas de las principales reglas ortográficas del español-.
El cuadro en realidad me brindaba las principales reglas de acentuación en español. Al final me advertía:
-Es importante destacar que estas son solo algunas de las reglas ortográficas del español y que existen muchas más que se deben aprender y aplicar correctamente para escribir con corrección-.
Frente a este cuadro, podría haber actuado como el autor de un plagio, cortarlo y pegarlo y ponerle mi firma, pero ante la primera lectura surgieron problemas de exactitud, para no decir de veracidad de la información.Me detuve en la afirmación: Los diptongos “ui” y “iu” llevan tilde en la segunda vocal para romper el diptongo. Y escribí en el chat:
-Los ejemplos de tu cuadro están mal. (sic)
En tiempo real me contestó lo siguiente y presentó un nuevo cuadro, al que también le hice observaciones:
-Lamento mucho el error en los ejemplos del cuadro que te proporcioné anteriormente. Aquí te presento el cuadro con las reglas ortográficas y sus respectivos ejemplos corregidos-.
Continuamos el diálogo. El nuevo cuadro cambió alguna información, pero seguía la inexactitud en el tema de los diptongos. A esa altura de la noche lo trataba como a un colega:-Sabes, los diptongos ui y iu llevan tilde en la segunda vocal, pero los ejemplos de tu cuadro no llevan tilde (sic)-, y él también me retrucó de igual modo:
-Tienes razón, me equivoqué en el cuadro anterior al indicar que los diptongos “ui” e “iu” llevan tilde en la segunda vocal. En realidad, estos diptongos no llevan tilde en la segunda vocal, sino que se escriben juntos sin tilde, salvo en casos específicos en los que se deba romper el diptongo. Te proporciono una versión corregida del cuadro-.
Los que amamos la soledad de la escritura podemos encontrar en esta inteligencia artificial esa voz eco, que nos permita profundizar el soliloquio hedonista de la reflexión teórica. A la hora que sea y el día que sea. Seguí conversando un rato sobre la ortografía y discutimos sobre la pronunciación de la b y v en España y América latina hasta que decidí irme a dormir y apagué la compu. Pero, adicto a la tecnología como soy, me quedaba una duda y reinicié el programa y me “loguié” nuevamente. Cierro este pequeño relato de una experiencia futurista con lasexplicitaciones de sus límites actuales:
-Yo: -¿Recuerdas mis preguntas y tus respuestas anteriores?
-ChatGPT: -Lo siento, pero como una inteligencia artificial, no tengo la capacidad de recordar preguntas y respuestas anteriores a menos que sean guardadas en mi base de datos o historial de conversaciones. Sin embargo, siempre estoy aquí para ayudar con cualquier pregunta que tengas en el momento presente. ¿Hay algo en lo que pueda ayudarte hoy?-
Escribir con la apoyatura de IA pone en tensión aún más las prácticas mismas de la escritura, la creatividad humana, el concepto de autoría burguesa como una propiedad o copyright individual vs el derecho de autor libre y colaborativo que se manifiesta como una continua y renovada posibilidad en esta sociedad en red, donde el conocimiento vuelve a circular de otra manera con infinitas posibilidades de utilización, múltiples versiones, apropiaciones y reinvenciones. Pone en tensión la pedagogía y la enseñanza donde la tarea de escritura deberá ser un auténtico proceso y un intercambio real entre estudiantes y docentes. Pone en tensión también el derecho ciudadano al servicio de internet, pero también el derecho a poseer habilidades y competencias digitales para poder ser parte de la convergencia digital que nos impulsa hacia un futuro absolutamente cambiante y desafiante.”
Caso tres: Los errores en los estrados judiciales.
Bajo el titular: “Un abogado usó ChatGPT para un escrito en un juicio. No notó que la aplicación inventó precedentes legales”, en el portal Noticias de Telemundo, con fecha 28 de mayo del corriente año, se publicó la siguiente información:
“Un abogado estadounidense se enfrenta a posibles sanciones después de haber usado el popular ChatbotGPT para redactar un escrito y descubrirse que la aplicación de inteligencia artificial (IA) se había inventado toda una serie de supuestos precedentes legales.Según publicó el diario The New York Times, el letrado en problemas es Steven Schwartz, abogado de un caso que se dirime en un tribunal de Nueva York, una demanda contra la aerolínea Avianca presentada por un pasajero que asegura que sufrió una lesión al ser golpeado con un carrito de servicio durante un vuelo.Schwartz representa al demandante y utilizó ChatGPT para elaborar un escrito en el que se oponía a una solicitud de la defensa para que el caso fuese desestimado.En el documento de 10 páginas se citan numerosas decisiones judiciales para apoyar sus tesis: entre ellos los casos Martínez vs. Delta Air Lines, Zicherman vsKorean Air Lines y Varghese vs China Southern Airlines, según reportó The New York Times.Como se puede apreciar, entre los errores del Chat gpt3 y los descuidos de un abogado patrocinante, el acto de impartir justicia se puede convertir en una peligrosa parodia de sí mismo. Caso interesante, por lo tanto, para analizar hasta dónde el usuario de Chat GPT-3 puede confiar en la información relevada por este medio.”
Caso Cuatro: Del autor de Black Mirror.
“Yde sus intentos por valerse de la IA para escribir guiones”, podríamos agregar al subtítulo. Como venimos apreciando, los errores del Chat GPT abarcan campos diversos, algunos de sensible importancia, como el último caso expuesto, sin desmerecer desde luego la importancia de los presentados anteriormente.Sin embargo, y sin perder de vista el objetivo de la presente nota, nos interesa ilustrar este informe con un caso de limitaciones del sistema GPT aplicado a la escritura de ficciones, referido nada menos que por Charlie Brocker, autor y productor de la exitosa seria Black Mirror. De dicha experiencia, recogida del reportaje efectuado por Ariel León publicado en el Portal QuéPuedo Verdel 25 de junio de 2023, extractamos las siguientes precisiones:
“Charlie Brooker, el showrunner y creador de Black Mirror, dice sentirse seguro de que su trabajo como escritor aún está a salvo.Brooker detalló hace unos días en una entrevista con Empire que utilizó ChatGPT para escribir uno de los seis episodios de la sexta temporada, pero al final lo desechó al considerar el trabajo de la IA como una ‘mierda’, ya que, a su parecer, los resultados de su experimento fueron ‘decepcionantes’. Y agregaba: ‘He jugado un poco con ChatGPT. Lo primero que hice fue escribir: generar episodio de Black Mirror y aparece algo que, a primera vista, parece plausible, pero a segunda vista es (sic) una mierda. Porque todo lo que hace es buscar todas las sinopsis de los episodios de Black Mirror y mezclarlas. Luego, si profundizas un poco más, dices: Oh, en realidad no hay ningún pensamiento original aquí’.”
“Más adelante, Brocker puntualiza: ‘Puedo ver valor en esas herramientas de escritura si están en manos de escritores humanos. De la misma manera que las herramientas que ofrecen Photoshop o Illustrator son muy útiles para artistas y fotógrafos, creo que esa clase de motores de lenguaje se pueden usar para producir textos genéricos, en el marco de una especie de lluvia de ideas sobre cómo te sientes acerca de una idea’.No obstante, también advierte sobre los riesgos que se podrían correr si se le da a la inteligencia artificial cada vez más poder: ‘Creo que el peligro es que el ser humano sea reemplazado, no por una máquina siniestra, sino que por una falta de imaginación ejecutiva. Creo que ese es el peligro. Son herramientas potencialmente muy poderosas para los escritores y creadores humanos. Y así es como creo que deberían permanecer’.”
A modo de conclusión, un último caso. En concordancia con lo que venimos exponiendo, nos permitimos arriesgar otra reflexión, inevitable, en torno al tema. Es cierto que, siempre hablando en potencial, la IA, tanto en sus versiones free como en versiones aranceladas -es decir, supeditadas a un alcance limitado de usuarios-, genera y generará posibles impactos, novedosos y constantes, tanto en las formas de producir contenidos, como en las de comunicarnos para transmitirnos conocimientos y saber. Pero, al menos hasta el momento de redactar este breve informe, los ejemplos expuestos no hacen, nos parece, sino evidenciar que los modelos de libre acceso de chatbot generativo se hallan en fase cuanto menos precaria en su inestabilidad.
Consideramos oportuno, en tal sentido, cerrar esta primera aproximación al tema compartiendo la experiencia de la consultora, catedrática e instructora ecuatoriana Sonia Yánez Blum, quien desde su página en Linkedin, el 14 de marzo de 2023, refiere lo siguiente:
“Hace unos meses, mientras trabajaba en un importante proyecto de comunicación corporativa para mi empresa, decidí utilizar el Chat GPT3 para acelerar el proceso de generación de contenido; al principio, todo parecía ir muy bien: el texto generado era coherente y de alta calidad. Sin embargo, no me di cuenta de un pequeño detalle: la IA había incluido información incorrecta y desactualizada en uno de los párrafos, un autor de un libro que no existía.Cuando el contenido fue publicado, recibimos comentarios negativos de clientes y socios, señalando el error en la información. Apenada por la situación decidí investigar a fondo para entender cómo había sucedido esto y cómo podría evitarlo en el futuro.Después de analizar lo ocurrido, descubrí que no había proporcionado al Chat GPT3 suficiente contexto e información actualizada para trabajar. Además, no realicé una revisión exhaustiva del contenido generado antes de publicarlo.Aprendí que, para evitar este tipo de errores, es fundamental proporcionar al Chat GPT3 instrucciones claras y detalladas, incluyendo toda la información relevante y actualizada, revisar cuidadosamente el contenido generado, verificando la precisión y coherencia de la información y no confiar ciegamente en la IA, sino utilizarla como una herramienta de apoyo en la creación de contenido.”
Y bien, ya en el tramo final de nuestro informe, nos permitimos una nueva interpelación: ¿Conseguirán las futuras versiones de Chat GPT mejorar los criterios de búsqueda y procesamiento de información?
De hecho, dado el crecimiento y evolución constante de la IA, es muy probable que esté ocurriendo en el mismo momento en que lectores y/o lectoras toman contacto con esta nota. Por último, y ahora sí para cerrar, un postrer interrogante: ¿Hasta dónde impactará la IA, particularmente la herramienta Chatbot, en los sistemas de escritura, ya sea de ficción como de otros órdenes? ¿Se convertirá, como muchos estudiosos ya aventuran, en el más serio adversario —enemigo— del libre albedrío, hasta ahora patrimonio exclusivo y excluyente del ser humano? Precisamente de estos temas —crecimiento y evolución vertiginosos de la IA, sus consecuencias— procuraremos ocuparnos en próximos trabajos.
Luis Sáez
1. “Portázar, coeta”: juego de palabras, inspirado en los errores cometidos por el Chat GPT consultado.
2.Un prompt, en el contexto de los modelos de lenguaje como Chat GPT, es una instrucción, pregunta o frase inicial que se le proporciona al modelo para guiar su respuesta o generación de texto.
3. Profesor Adjunto de la Cátedra Comprensión y producción de textos de Ciencias de la Comunicación de la Universidad Nacional de Salta. Dirige el Proyecto de investigación sobre La escritura en Ciencias de la Comunicación del Consejo de Investigación de la UNSA, desde el cual intenta comprender las innovaciones en las prácticas de escritura y lectura en la era digital.
