No. 151-152 / 2023 / ensayo
Luis Alberto Fernández Marfil, Jorge Alberto Sánchez Garza, David Eduardo Martínez Garza
UNIVERSIDAD ANÁHUAC (ONLINE)
Resumen: ChatGPT es un modelo de lenguaje que utiliza aprendizaje automático y procesamiento del lenguaje natural. Aunque puede procesar información, su potencial para producir nuevos conocimientos aún está por evaluar. Para originar conocimiento, los usuarios no sólo deben formular las preguntas correctas, sino también analizar y discernir la información obtenida. En este trabajo se describe el programa ChatGPT y se evalúa su potencial en la producción de conocimiento por medio del análisis de un caso de estudio.
Abstract: ChatGPT is a language model that uses machine learning and natural language processing. Although it can process information, its potential for producing new knowledge is still to be evaluated. To produce knowledge, users must not only formulate the right questions but also analyze and discern the information obtained. This paper describes ChatGPT and evaluates its potential for producing knowledge through the analysis of a case study.
En noviembre de 2022, ChatGPT fue lanzando al púbico con base en el modelo de lenguaje GPT-3. Esto significó un cambio en la Inteligencia Artificial (IA) ya que es un sistema muy sofisticado de aprendizaje automático y procesamiento de lenguaje. Con esta herramienta es posible desarrollar un texto coherente con lenguaje natural.
En febrero de 2023, ChatGPT logró su mayor estabilidad y los desarrolladores anunciaron una nueva versión (GPT-4) para marzo de 2023. Esta tecnología avanza rápidamente por lo que es necesario evaluar su potencial. Si esta tecnología procesa información ya publicada en diferentes medios, cabe preguntarse sobre la producción del conocimiento: ¿se trata de una herramienta que permite producir conocimiento nuevo y original?, ¿cuál es el papel del software y cuál es el papel del usuario? En este trabajo se pretende analizar cómo se puede usar esta tecnología para que constituya una herramienta orientada a la producción de conocimiento.
La irrupción de ChatGPT
ChatGPT es un modelo de lenguaje artificial basado en Inteligencia Artificial (IA) que utiliza técnicas de aprendizaje profundo para generar respuestas a partir de una entrada de texto. El modelo es capaz de interpretar el lenguaje natural humano y generar respuestas que simulan la interacción con una persona real. Este modelo de lenguaje ha sido entrenado con enormes cantidades de texto de diferentes fuentes y ha aprendido a asociar palabras, frases y contextos de forma automática. Cuando un usuario hace una pregunta o escribe una frase, el modelo utiliza su conocimiento previo para generar una respuesta que sea relevante y coherente con la entrada. La herramienta puede realizar esta tarea gracias a su capacidad para capturar y entender el contexto y las relaciones entre las palabras y frases en un texto. Esto significa que le es posible comprender el significado subyacente de una pregunta o declaración y producir una respuesta que sea coherente y significativa (Morales, 2023; Hernández et al., 2021; Brown et al., 2020). Sus capacidades fueron probadas por el experto en sociedad de la información y conocimiento Manuel Castells, quien publicó un artículo de opinión con su estilo de escritura por medio de ChatGPT (Castells, 2023).
Una de las principales características de ChatGPT es su capacidad para mantener conversaciones fluidas y naturales con los usuarios. Además, tiene la capacidad de aprender de las interacciones anteriores, lo cual le permite mejorar su rendimiento y ajustar sus respuestas a medida que interactúa con los usuarios. Otra de las características destacadas de ChatGPT es su capacidad para adaptarse a diferentes temas y campos del conocimiento. Esto lo hace especialmente útil en entornos educativos y de investigación ya que permite acceder a información relevante de manera rápida y eficiente.
Las ventajas del ChatGPT han catapultado el uso de esta herramienta desde sus inicios para diversos fines. Un estudio elaborado por Resume Builder entre mil líderes empresariales de Estados Unidos destacó que 58% lo utilizó para redacción y creación de contenido y 55% dijo que la calidad del trabajo producido por ChatGPT es excelente. A pesar de esa rápida aceptación y adopción, hay quienes sugieren que hay que tratar a esta tecnología como un juguete y no como una herramienta. Incluso, el CEO de OpenAI advirtió que ChatGPT no debe usarse para nada relevante (Ferrer-Bonsoms, 2023). Pese a las advertencias, no se puede negar que la herramienta será cada vez más utilizada.
¿Cómo se produce el conocimiento científico?
El proceso básico para generar nuevo conocimiento científico varía según la disciplina o el campo en el que se esté trabajando; pero, en general, se puede describir el siguiente procedimiento heurístico (de generación de conocimiento): observación, formulación de preguntas, revisión de literatura, hipótesis, diseño y ejecución de experimentos o trabajo de campo, análisis de datos, conclusiones, publicación y difusión.
Sin embargo, la producción de conocimiento científico no es un proceso neutro, objetivo y lineal que se reduzca a describir hechos por medio de una aplicación rigurosa del método científico, centrado en el análisis lógico y empírico, como pretendió establecer la corriente del Positivismo lógico del Círculo de Viena (Lorenzano, 2002). Producir conocimiento es una tarea compleja, pragmática y constructivista, inmersa en un contexto conformado por una red de actores y procesos sociales, políticos y económicos (Latour, 2007). El conocimiento es una propiedad emergente y surge de premisas que consideran escenarios complejos y contextos diversos. Propiedad emergente significa que, para que sea un nuevo conocimiento, no se trata sólo de resolver silogismos ya que las conclusiones no deben estar totalmente contempladas en las premisas. El resultado surge de la interacción de muchos actores (humanos y no humanos), quienes observan el mundo desde múltiples perspectivas (Latour, 2007). También es resultado del análisis de muchas fuentes de información, que son procesadas con la poderosa mente humana, en un ejercicio crítico y reflexivo.
El pensamiento crítico-reflexivo busca analizar y cuestionar las formas de dominación, opresión y alienación que existen en la sociedad y la tecnociencia moderna. Su objetivo es la liberación humana y la superación de las injusticias y desigualdades. Los enfoques contemporáneos implican no sólo reconocer la diversidad de conocimientos y perspectivas, también promueven un diálogo de saberes (Ruffini, 2017). De esta manera, los saberes ausentes se hacen presentes y es posible ver lo que era invisible.
El lenguaje es el medio fundamental para la transmisión y la construcción del conocimiento. A través del lenguaje las personas pueden comunicar sus experiencias, pensamientos e ideas; lo que permite crear, preservar y difundir conocimiento (Escobar, 2007; Vivas, 2016). El lenguaje es esencial para la reflexión y el pensamiento crítico, por este medio las personas pueden analizar, evaluar y sintetizar información para crear nuevos conceptos y teorías. El lenguaje también es importante para la construcción de significados compartidos y la creación de un sentido de la realidad.
Como modelo de lenguaje, ChatGPT genera texto que puede considerarse conocimiento nuevo, en cierto sentido, ya que combina la información y los patrones que “aprende” a partir del entrenamiento para crear respuestas coherentes a las preguntas y afirmaciones que se le presentan. Sin embargo, es importante tener en cuenta que su capacidad para generar texto es limitada por su programación y entrenamiento, y no tiene la capacidad de producir conocimiento nuevo por sí mismo. Su capacidad para generar texto se basa en el aprendizaje estadístico y no en la creatividad o el razonamiento. Esto nos lleva a analizar la diferencia entre la Inteligencia Artificial (IA) y la Inteligencia Humana (IH).
Diferencia entre la Inteligencia artificial y la Inteligencia Humana
La Inteligencia Artificial (IA) es una rama de la informática que se ocupa de crear sistemas que pueden realizar tareas que normalmente requieren de inteligencia humana como el reconocimiento de patrones, la toma de decisiones y el aprendizaje. Estos sistemas son diseñados para procesar grandes cantidades de datos y generar resultados precisos y eficientes. Por otro lado, la Inteligencia Humana (IH) se refiere a la capacidad de los seres humanos para aprender, razonar, resolver problemas, adaptarse al entorno y tomar decisiones (Zawacki-Richter et al., 2019). La IH es un producto de la evolución biológica y se basa en la compleja interacción de diversos procesos cognitivos, emocionales y sociales (Salazar, 2018).
Los seres humanos poseemos habilidades que no han sido replicadas por una IA como la creatividad y el pensamiento crítico. Tenemos la capacidad de identificar y resolver problemas; ser empáticos, espontáneos, creativos y adaptativos. Podemos utilizar las emociones, anticipar escenarios y hacer juicios de valor éticos, estéticos o morales.
Un riesgo en el uso de la IA es que sus sesgos de origen pueden generar resultados igualmente sesgados. Para Noam Chomsky, Ian Robert y Jeffrey Watumull (2023) estos sistemas se caracterizan por su amoralidad e incompetencia lingüística. Los autores muestran su preocupación sobre que la ciencia se degrade y se envilezca nuestra ética al incorporar a la tecnología una concepción errónea del lenguaje y del conocimiento. Consideran que el defecto más profundo de la IA es la ausencia de la capacidad crítica: decir no sólo lo que ocurre, lo que ocurrió y lo que ocurrirá —eso es describir y predecir—, sino también lo que no ocurre y lo que podría y no podría ocurrir.
La creación de recursos educativos es una tarea fundamental en cualquier programa de estudios. Este proceso puede ser muy laborioso y consumir mucho tiempo y recursos. ChatGPT puede ser de gran ayuda en este proceso, pero es importante evaluar si implica la construcción de conocimiento nuevo para entender el papel del usuario y el papel de la máquina. En este artículo se presenta un análisis del uso de ChatGPT en la creación de recursos educativos. Se obtuvieron testimonios de usuarios, que utilizaron ChatGPT en el desarrollo de recursos educativos para una maestría en línea, a través de un cuestionario.
Según los testimonios, ChatGPT ha sido utilizado para generar introducciones a las materias, guiones de video, actividades de aprendizaje y ejemplos para los estudiantes. El proceso de desarrollo de contenido con ChatGPT ha sido bastante sencillo y eficiente ya que sólo se debe proporcionar la información necesaria y específica para que ChatGPT pueda generar el texto de manera autónoma.
Gran parte de la estrategia de uso se centró en hacer las preguntas o solicitudes correctas. El usuario interactúa con el ChatGPT por medio de prompts que son frases o preguntas que guían la interacción con la herramienta. Dichos prompts deben contener el contexto y estar claramente formulados, definidos y precisos (incluir tema, estilo, tono y contexto) para tener una respuesta exitosa ya que la IA depende de la información que se le proporciona (Morales-Chan 2023). Para llevar a cabo un adecuado desarrollo de contenido, los usuarios elaboraron una guía que incluyó los modelos de prompts para cada etapa del diseño de contenido: introducción de la materia, fines de aprendizaje, problemática, actividades, recursos y guiones para videos.
Una ventaja destacable del uso de ChatGPT es la velocidad con la que se pueden generar los recursos educativos. A pesar de que el contexto proporcionado debe ser detallado y explícito, los resultados son rápidos y eficaces. Además, la calidad de los recursos generados es buena en cuanto a redacción y contenido. Sin embargo, también se han detectado algunas desventajas en el uso de ChatGPT: ha inventado información o ignorado las indicaciones proporcionadas, lo que puede generar resultados no deseados. Además, se ha detectado que al pedirle a ChatGPT que recomiende videos de You Tube, en algunas ocasiones ha generado títulos y enlaces falsos. Estas fallas pueden ser un problema para los usuarios que buscan resultados precisos y confiables. Además, aunque ChatGPT es capaz de generar contenido original y personalizado, no puede generar conocimiento nuevo, sino que se limita a generar contenido basado en la información proporcionada.
Apunte final. El potencial del ChatGPT y el papel del usuario
El ChatGPT puede ser una herramienta útil en la creación de recursos educativos. Su capacidad de generar texto autónomo y personalizado puede ahorrar tiempo y recursos en la creación de recursos educativos. Sin embargo, es importante tener en cuenta sus limitaciones y estar atentos a las fallas que puedan surgir en su uso, como los sesgos de información. El uso de ChatGPT debe ser considerado como un complemento y no como un reemplazo de la creatividad y el conocimiento humano en la creación de recursos educativos.
En el ámbito de la investigación, ChatGPT podría ser utilizado como herramienta para el análisis y procesamiento de grandes cantidades de datos de texto, encontrar patrones, crear nuevos modelos y situaciones para el análisis o predicción de fenómenos complejos. Esto es útil para generar hipótesis, pero es la creatividad y la capacidad de razonamiento de los humanos las que permiten probarlas, generar ideas y producir de conocimiento nuevo.
ChatGPT funciona por medio de un procesamiento lineal, se introducen prompts que son procesados para obtener información. Sin embargo, producir conocimiento científico va más allá de esta tarea concreta, implica una relación social y un proceso colectivo, que se lleva a cabo con una actitud ética, crítica y reflexiva encaminada a producir un diálogo de saberes que abone a la emancipación humana. Si se usa como una herramienta, ChatGPT puede convertirse en un apoyo para potenciar el desarrollo de conocimiento. Por el momento, no parece que el programa sea capaz de ejecutar las tareas complejas de una investigación. No le podemos pedir al sistema que nos proporcione la fórmula de una nueva vacuna. Como la IA funciona con modelos estadísticos o probabilísticos, no puede generar un pensamiento contraintuitivo. La tarea de producir nuevo conocimiento sigue recayendo en el usuario, al reflexionar sobre la información obtenida, por medio de un pensamiento abstracto y crítico, que contemple escenarios complejos, probables e improbables.
Fuentes
- Brown, T, Mann, B, Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D., Wu, J., Winter, C., Hesse, C., … Amodei, D. (2020). Language models are few-shot learners. Recuperado de: https://arxiv.org/abs/2005.14165
- Castells, M. (25 de febrero de 2023). ChatGPT. La Vanguardia. Recuperado de: https://www.lavanguardia.com/opinion/20230225/8782438/chatgpt.html
- Chomsky, N., Roberts, I. y Watumull, J. (8 de marzo de 2023). The False Promise of ChatGPT. New York Times. Recuperado de : https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html
- Escobar, G (2007). Importancia del lenguaje en el conocimiento y la ciencia. Revista Virtual de Estudos da Linguagem, 5(8). Recuperado de: http://www.revel.inf.br/files/artigos/revel_8_importancia_del_lenguaje_en_el_conocimiento_y_la_ciencia.pdf
- Ferrer-Bonsoms, C. (26 de febrero de 2023). Las empresas empiezan a reemplazar trabajadores con ChatGPT a pesar de las advertencias de su creador: "No debe usarse para nada importante". Business Insider. Recuperado de: https://www.businessinsider.es/empresas-empiezan-reemplazar-trabajadores-chatgpt-1206456
- Hernández, R., Amado-Salvatierra, H., & Morales, M. (2021). Integrating a conversational pedagogical agent into the instructional activities of a Massive Open Online Course. In S. Caballé, S. N. Demetriadis, E. Gómez-Sánchez, P. M. Papadopoulos, & A. Weinberger (Eds.), Intelligent Systems and Learning Data Analytics in Online Education (pp. 31-45). Academic Press. https://doi.org/10.1016/B978-0-12-823410-5.00005-X.
- Latour, B. (2007). L’espoir de Pandore. La Découverte.
- Lorenzano, P. (2002). Presentación de La concepción científica del mundo: el Círculo de Viena. Redes, 9(18) 103-149.
- Morales, M. (2023). Explorando el potencial de Chat GPT: Una clasificación de Prompts efectivos para la enseñanza. Galileo. Recuperado de: http://biblioteca.galileo.edu/tesario/handle/123456789/1348
- Ruffini, M. L. (2017). El enfoque epistemológico de la teoría crítica y su actualidad. Cinta de moebio, (60), 306-315.
- Salazar, A. (2018). La inteligencia artificial vs la inteligencia humana. Duazary, 15(3), 249 – 250.
- Vivas, J. (2016). ¿Por qué el estudio del lenguaje es fundamental para la cognición? Sophía, (20), 65-85.
- Zawacki-Richter, O., Marín, V.I., Bond, M. et al. Systematic review of research on artificial intelligence applications in higher education – where are the educators?. Int J Educ Technol High Educ 16, 39 (2019). https://doi.org/10.1186/s41239-019-0171-0