Creo que, como todas las personas interesadas en la tecnología, he estado trasteando con ChatGPT desde que se abrió al público.
Es una ‘inteligencia’ 1 artificial conversacional. Era una iniciativa sin ánimo de lucro de OpenAI para impulsar nuevas ideas de negocio en el ámbito de la IA (hablo en pasado porque ya no es así, así fue presentada). Es, por tanto, un producto no final sino un beta, algo para probar y que tiene muchas limitaciones. Por ejemplo, no está(ba) conectada a Internet, no puede buscar en la web 2, ha sido alimentada con contenidos hasta 2021, no posteriores; por lo tanto no está actualizada.
Lo primero que se me ocurrió, como profesora universitaria, es que se había acabado lo de pedir resúmenes de libros a los alumnos. Probé a generar un resumen de un libro con ChatGPT, lo pasé por Turnitin y Turnitin no encontró nada de plagio. 0.
El pedir un resumen de un libro no busca el resultado sino el proceso. No deja de admirarme cómo gente que dice tener una vida profesional externaliza las tareas de leer y resumir a agentes externos. Como si estudiar fuera inútil, como si tu resumen fuera igual que el del vecino, como si lo interesante no se escondiera en los repliegues, como si un párrafo en el medio de un extenso capítulo no fuera quizá la joya que estabas buscando. En fin, como si la vida intelectual fuera un procesador de textos.
Ya que estamos insistiendo tanto en la formación de capacidades, hay algunas que se perderán si ya no hacemos resúmenes: la gestión de grandes cantidades de información no se puede externalizar no porque ChatGPT lo haga mal (más abajo daré algunos ejemplos) sino porque el conocimiento que cada uno de nosotros tiene proviene de esa exposición al conocimiento que otros han adquirido y han escrito. Hay un término que me gusta mucho y que lo explica, es la koinonía, la nueva combinación que se opera en cada persona cuando intertextualiza, cuando combina lo que ha acumulado en una nueva síntesis de conocimiento. Es irrepetible y es patrimonio exclusivo de la raza humana -la única inteligencia natural del mundo visible- realizar esa recombinación del saber. No habrá jamás máquina que pueda replicar eso.
ChatGPT es tu nuevo cuñado
Lo que primero llama la atención de este sistema es la verborrea. Jamás te responderá que no tiene información sobre un determinado tema sino que la palabrería lo inunda todo en una conversación con ChatGPT. Y el que mucho habla, mucho yerra.
1. He probado a mandarle algunas tareas y, como dice Antonio Ortiz, si no eres siempre fiable, nunca eres fiable. Tiene dificultades en español, mezcla el español con el inglés y le pasan cosas tan absurdas como confundir el rape (pescado excelente) con el verbo to rape, violar.
2. Puedo entender que se plantee uno utilizar ChatGPT en el aula y corrigiendo esa información, como propone Lluis Codina. Podría hacerlo en la asignatura de Documentación Audiovisual que tengo en este segundo cuatrimestre. Así que me puse a pedirle información tanto en inglés como en español y el resultado es que es inútil.
Por ejemplo, le he pedido que me resuma un artículo sobre el uso de los archivos audiovisuales de cuatro cadenas europeas y responde lo siguiente:
Le indico que se equivoca y le doy el título del artículo y sí, acierta con el artículo pero hace un resumen genérico (podría haber copiado el abstract y ni eso hace). Le digo que el resumen es superficial y deshaciéndose en disculpas (típico rasgo del marketing) se vuelve a equivocar.
Le digo que eso no es verdad según va cambiando las versiones de lo que dice el artículo y al final pasa esto:
Es decir: al final le he resumido yo el artículo y le he dado la clave de su contenido. Como no es la primera vez que me ocurre y en otras ocasiones, al volver a preguntarle sobre la materia en la que daba información errónea, contestaba de forma acertada, más que inteligencia artificial es inteligencia colectiva. En realidad somos los usuarios los que estamos proporcionando valor a ChatGPT, como en toda esta nueva economía de las élites extractoras de datos.
Don Estupendo, que por la mañana nos cuenta lo que por la noche estuvo leyendo
La excusa que se suele dar sobre estos fallos es que le queda mucho que mejorar, que es un producto en prueba-error. Al principio se presentaba como sin ánimo de lucro y abierta, pero OpenAI ha ido moviéndose rápidamente hacia el lucro y lo ha hecho tras aumentar su valor gracias a los usuarios que hemos hecho (millones de personas) el trabajo para que una élite de millonarios esté ahora contando billetes.
Su comportamiento es el de don Estupendo. No es aprendizaje, no es conocimiento, es un loro. Por ese motivo me ha llamado la atención (o no, esto es un rasgo de la comunicación efímera) que entre profesores universitarios se anime a utilizarlo para las clases. No en asignaturas informáticas sino en otros campos de conocimiento. Ya digo que entiendo su uso para revelar su auténtico funcionamiento, como propone Codina, pero utilizarlo como herramienta de estudio es un chiste malo.
La alucinación y la palabrería
Como se puede ver en el ejemplo anterior, incluso dándole el título del artículo y diciéndole su contenido, se inventa cosas como decir que el artículo trata sobre Antena3 cuando esa cadena no se menciona en el artículo. Esto es un efecto de lo que se llama alucinaciones de las inteligencias artificiales que aquí se explica bastante bien.
El sistema, como decíamos antes, es incapaz de callar y rellena su incapacidad con un aluvión de palabrería muy convincente, cual cuñado que se inventa los datos que haga falta para llevar razón.
Como es de prever, ante estas alucinaciones la respuesta de los responsables de OpenAI es que mejorará con el tiempo pero hay expertos que lo ponen en duda dada la propia arquitectura de los modelos. En realidad, los que están alucinando son algunos usuarios, al tomarse literalmente en serio el nombre de inteligencia artificial.
1 Utilizo el nombre convencional pero creo que en algún momento abandonaremos el marketing y seremos lo suficientemente rigurosos como para no llamar inteligencia a la combinación de grandes datos y algoritmos. Especialmente cuando no sabemos muy bien qué es la inteligencia natural, como para dar ese nombre a algo artificial. Animo a leer esta entrada del blog Collateral Bits En nombre de la inteligencia
2 Eso ha cambiado en las últimas semanas y se conecta a Internet.
Si te ha interesado esta entrada, podrían interesarte éstas:
Desenmascarando la inteligencia artificial