Inteligencia artificial… Ahora o nunca

El boom de las inteligencias artificiales está acaparando varios aspectos de la vida, y en las noticias y redes sociales se ha tomado esto a la ligera. Un poco en broma nerviosa, un poco en serio. Muchos se han preguntado por el posible fin de la humanidad a manos de estas tecnologías y sus usos, otros preguntándose ¿qué carreras o trabajos serán reemplazados en el futuro? y ¿Cómo estas tecnologías afectarán a mi privacidad?

También han invadido el ámbito del entretenimiento, con humoradas como el Papa y sus piruetas en skate, y un sinfín de aplicaciones en imágenes y videos, que nos hacen dudar de la realidad que recibimos a través de nuestros medios de comunicación y dispositivos electrónicos.

Estas últimas semanas un grupo de desarrolladores e industrias tecnológicas han puesto la alerta, planteando la posibilidad de detener un momento el desarrollo de esta tecnología. La famosa “caja negra” y el rápido desarrollo entre el ChatGPT 3 y sus sucesores, que según lo que muchos comentan, “otorgan respuestas aún más inteligentes”, “proporcionando respuestas correctas a los planteamientos”, ya están generando algunas voces de alerta frente a esta ola imparable.

Bueno, es indudable que estas tecnologías abren un mundo de posibilidades, aunque sus repercusiones tardaremos en verlas, pero, más allá de qué pase en el futuro con estas tecnologías, si “Skynet”, “la Matrix” o “Ultrón” ganan la batalla, es necesario preguntarse sus posibles repercusiones presentes.

Sin ser paranoico, me hice la pregunta de cómo estas plataformas de análisis de textos pueden afectar hoy el quehacer universitario.

En nuestro mundo universitario, el potencial uso de esta herramienta por parte de investigadores, estudiantes de pregrado y postgrado, podría acelerar algunos procesos de investigación permitiendo lecturas de documentos científicos de manera rápida o generar textos y revisiones que minimicen los errores humanos, sin embargo, lo que más se repite como miedo, es el potencial mal uso para la presentación de trabajos que pueden generar conclusiones e información errada a distinto nivel, desde trabajos semestrales, redacciones para pruebas online e incluso en la elaboración de tesis y/o redacción de artículos.

Para entender un poco hice un pequeño ejercicio, le pregunté a ChatGPT 4 lo siguiente:

• Hola, ¿puedes darme una referencia bibliográfica en formato APA de un trabajo científico real, que este indexado a Web of Science y que haya analizado la morfometría geométrica del ala de la mariposa (Vanessa Carye)?

Una pregunta bastante detallada con varias palabras clave para este tema. A lo que me responde:

• ¡Hola! Por supuesto, aquí te dejo una referencia bibliográfica en formato APA de un trabajo científico real que analizó la morfometría geométrica del ala de la mariposa Vanessa carye:
• Kottek, M., Gries, C., & Ebsen, J. R. (2013). Geometric morphometric analysis of Vanessa cardui (Lepidoptera: Nymphalidae) wings in a hybrid zone: morphological evidence for differential mating success. Biological Journal of the Linnean Society, 109(3), 533-546.

Vuelvo a preguntar:

• Hola, ¿podrías hablarme del trabajo de: Kottek, M., Gries, C., & Ebsen, J. R. (2013). Geometric morphometric analysis of Vanessa cardui (Lepidoptera: Nymphalidae) wings in a hybrid zone: morphological evidence for differential mating success. Biological Journal of the Linnean Society, 109(3), 533-546.

A lo que responde:

1. ¡Por supuesto! El trabajo de Kottek et al. (2013) se centró en el análisis de la morfología de las alas de la mariposa Vanessa cardui en una zona híbrida, donde diferentes poblaciones de la especie se encontraban y se apareaban. Utilizaron la morfometría geométrica para analizar las diferencias en la forma de las alas entre las poblaciones, y para investigar si estas diferencias estaban asociadas con el éxito de apareamiento de los individuos en la zona híbrida. Los autores recolectaron mariposas de cuatro poblaciones diferentes en el sur de Europa, dos de ellas pertenecientes a la subespecie Vanessa cardui cardui y las otras dos a la subespecie Vanessa cardui immigrans. Utilizaron un análisis de componentes principales (PCA) para analizar la variación en la forma de las alas entre las poblaciones, y encontraron que las poblaciones de cada subespecie tenían una forma de ala característica y distintiva. Además, los individuos de la subespecie V. cardui cardui tenían alas más grandes que los individuos de V. cardui immigrans. Los autores también realizaron un análisis discriminante canónico (CDA) para investigar si la forma de las alas estaba relacionada con el éxito de apareamiento en la zona híbrida. Descubrieron que los machos que tenían alas más similares a las de la población local tenían más éxito de apareamiento que aquellos con alas más diferentes. Esto sugiere que la forma del ala puede ser un factor importante en la selección de pareja en esta especie de mariposa. En general, el estudio de Kottek et al. (2013) proporciona evidencia de que la morfología de las alas de Vanessa cardui está asociada con el éxito de apareamiento en una zona híbrida. Este estudio también demuestra el valor de la morfometría geométrica como una herramienta útil para investigar la variación en la forma de las alas de las mariposas y su relación con el comportamiento reproductivo.

Este texto de aproximadamente 300 palabras posee gran coherencia a la lectura, haciendo algunas referencias e incluso agregando citas dentro del texto y que, a pesar de no tener gran profundidad, es un texto que parece perfectamente útil para su uso, sin embargo, aquí viene lo interesante del ejercicio:

Al buscar la referencia en la revista científica entregada Biological Journal of the Linnean Society, 109(3), 533-546. 

Esa numeración corresponde al año 2013, sin embargo, NO corresponde al trabajo publicado en ese volumen/páginas y no tiene relación a la pregunta de morfometría de mariposas original. El trabajo verdadero (según la referencia entregada) es el siguiente:

• Roger T. Hanlon, Chuan-Chin Chiao, Lydia M. Mäthger, N. Justin Marshall, A fish-eye view of cuttlefish camouflage using in situ spectrometry, Biological Journal of the Linnean Society, Volume 109, Issue 3, July 2013, Pages 535–551, https://doi.org/10.1111/bij.12071

Además, lo más grave respecto al trabajo Kottek et al. (2013) al que ChatGPT hace referencia, es que DICHO TRABAJO NO EXISTE EN NINGUNA REVISTA O PUBLICACIÓN.

La respuesta tampoco me entregó ninguna referencia similar o de los más de 3.000 artículos relacionados a morfometría en mariposas (Lepidoptera), tampoco menciona siquiera los trabajos que sí existen del tema:

• Escobar-Suárez, S., Villalobos-Leiva, A., Fabres, A., Órdenes, R., Cruz-Jofré, F., Laroze, D., Correa, M., Valladares M.A., Cáceres, J.S. & Benítez, H. A. (2023). A geometric morphometrics and genetics characterization of Vanessa carye in an extreme elevational gradient in the Chilean Altiplano. Zoologischer Anzeiger. https://doi.org/10.1016/j.jcz.2023.04.001

¿Qué podemos concluir de esto? Aquí está lo peligroso del asunto en nuestro quehacer:

1. La máquina puede generar textos bastante buenos de algunos temas, sin embargo, son genéricos y no se sabe el origen de dicha información, algunos estudiantes o académicos que podrían verse motivados a usar estas herramientas con la ilusión de estar generando textos con asidero en bases de datos (ej. Google u otras), se ponen en la situación de estar entregando información completamente inventada por la máquina, con errores graves o simplemente sin el soporte de investigación alguna en el tema.
2. Este peligro se suma a la vorágine de generar tesis o memorias en lapsos de 1 semestre (4 meses efectivos) o a la demanda por generar publicaciones rápidamente para ser “competitivos” en la adjudicación de fondos y cumplir metas de investigación.
3. Sin la supervisión adecuada y los controles correspondientes (éticos, pero también institucionales), una práctica de ese tipo nos puede llevar fácilmente a generar publicaciones erróneas, con falta de rigor científico y que pueden traer consecuencias graves, desde el punto de vista legal o consecuencias para quienes usen esa información publicada.

A todas estas alertas observadas, podemos sumar aspectos positivos de estas herramientas, sabemos que las IA llegaron para quedarse y no habrá otro remedio que estar al tanto. En docencia pueden ser una herramienta poderosa para el aprendizaje, para generar actividades y evaluaciones cada vez mejores, para acelerar procesos de revisión e innovación en el aula.

Desde ya vamos atrasados, nosotros como académicos y directivos debemos ponernos al día respecto a su uso, lo que nos permitirá dirigir de la mejor manera a nuestros estudiantes en este mundo que se abre. Como algo alentador, recientemente se han vinculado estas IA a bases de datos definidas, algunas de ellas incluso pueden leer textos entregados por el usuario, estas mejoras optimizarán la búsqueda y relevancia de la información entregada, de manera de ser la herramienta que necesitamos.

Desde ya me gustaría dejar esta carta para abrir el debate, de manera seria y responsable, incentivando la formación adecuada de nuestros estudiantes, que busque resguardar la calidad de los productos, creaciones y material publicado por nuestra institución.