Los retos que supone ChatGPT

Hace no mucho, en este mismo blog Raúl Pérez publicó un artículo sobre la herramienta de inteligencia artificial de moda en estos momentos, ChatGPT y me parece un tema lo suficientemente relevante como para dedicarle alguna reflexión más. 

ChatGPT es un modelo de lenguaje natural desarrollado por OpenAI. Es un sistema de inteligencia artificial que utiliza el aprendizaje profundo (deep learning) para generar respuestas a preguntas y conversaciones en lenguaje natural. 

Se basa en un modelo de lenguaje llamado GPT (Generative Pre-trained Transformer), que ha sido entrenado en una gran cantidad de datos de texto para poder generar respuestas coherentes y relevantes a preguntas y conversaciones en tiempo real. 

Los 175.000 millones de datos con los que ha sido adiestrado ofrecen un resultado poco menos que espectacular. Se le puede preguntar en lenguaje normal sobre prácticamente cualquier tema y, en escasos segundos, responde de forma aparentemente humana y convincente. Lo mismo te da una lección de filosofía budista como te escribe un poema, te hace el guion de una película, te recomienda series de televisión, te hace una redacción para el colegio, te aprueba un examen de derecho de rango universitario (que ya ha ocurrido), te genera un código de programación para conseguir el objetivo que le fijes, te describe características de productos y te hace recomendaciones de compra. Además todo esto lo hace en varios idiomas, de hecho su español es más que aceptable. 

Jugando un poco con la herramienta (que, dicho sea de paso, ya tiene 100 millones de usuarios desde que se abrió al público a finales de noviembre de 2022), se observa que, a pesar de su espectacularidad, tiene también algunos fallos importantes. Por ejemplo, si uno le corrige alguna de las respuestas, te responde amablemente disculpándose y dándote la razón, incluso si la corrección que has indicado es errónea. Algunos lo comparan con un loro, que responde a todo, pero no es consciente de lo que transmite. 

No obstante, las respuestas que proporciona son en general muy coherentes y completas. Esto, junto con el lenguaje natural que utiliza, hace que sea una herramienta altamente creíble y que muchas empresas estén invirtiendo muchos millones en ella ya que lo ven en el futuro para muchas aplicaciones. 

Invito al lector a experimentar por su cuenta con este software y formarse su propio criterio. Para ello no tiene más que darse de alta de forma gratuita en este enlace. 

En estos momentos hay una enorme lucha empresarial ya que son muchos expertos los que opinan que el buscador que no emplee este tipo de tecnologías quedará pronto obsoleto y dejará de ser utilizado por el gran público. Son estos cambios tecnológicos los que, al igual que ocurrió con el abandono en su día del video Beta, y luego de los VHS, de los disquetes, de los carretes analógicos, y tantas otras cosas, pueden suponer la quiebra para una empresa que no se adapte al cambio. 

Microsoft, al ser uno de los inversores iniciales en OpenAI, está apostando por incorporarlo en su buscador Bing aprovechando el tirón de popularidad de ChatGPT y ganar usuarios. ¿Qué está haciendo Google, que es la herramienta dominante en el mercado con una cuota del 88%? Esta compañía está trabajando desde hace tiempo en una herramienta similar, LaMDA que, dicho sea de paso, está entrenada con el triple de datos que la de OpenAI. Google, al ser el buscador mayoritario en el mercado, no se puede arriesgar a un patinazo por un mal diseño; sin embargo a Microsoft le vale cualquier cosa para mejorar su escasa cuota de participación en el mercado de los buscadores. El futuro en este campo está todavía por escribir. 

El uso de este tipo de aplicaciones presenta algunos problemas que no se nos deben olvidar. 

El primero de ellos, y para mí, el más importante, es el peligro de desincentivar el espíritu crítico. Para entenderlo mejor recordaré que, cuando hacemos una búsqueda de una palabra o un conjunto de ellas en una de las herramientas convencionales (Google, Yahoo, Bing, etc.) se nos devuelve una serie de páginas web perfectamente identificadas entre las que decidimos cuál o cuáles nos parecen más fiables o que responden mejor a nuestra pregunta y las abrimos, es decir tomamos nosotros la decisión de dónde vamos a buscar la solución a nuestro problema y sabemos quién nos la ofrece. 

Las respuestas que ofrecen este tipo de aplicaciones basadas en la inteligencia artificial son únicas y categóricas (da con la misma seguridad lo que es cierto que lo que no lo es), dando una sensación de que las ofrece un experto que está al otro lado de la línea, y además, en general, no indican las fuentes de donde saca la información. Es un efecto similar al que tenemos cuando una persona, a la que consideramos experta en una materia, nos da su opinión sobre algo que le preguntamos relacionado con esa área. Nuestra tendencia es a creerle.  

El problema es análogo (aunque no tan acusado) a la predisposición que tenemos a tomar solo en consideración la primera página de respuestas que nos propone Google a cualquier búsqueda. Por comodidad no miramos más allá, pero la realidad es que hay más respuestas posibles. 

Lo que ocurre con ChatGPT y otras similares es que la herramienta es solo tan buena como su entrenamiento lo haya sido (de forma similar a los humanos). Resulta tentadoramente cómodo que alguien nos dé todas las respuestas, pero si algo nos diferencia como seres humanos de las máquinas es la capacidad de ser críticos, de hacernos preguntas y de ser creativos. 

También existe el peligro de la manipulación (intencionada o no) de la información facilitada. El entrenamiento que haya tenido la herramienta puede responder a los sesgos (ideológicos o culturales) de la persona o personas que lo hayan hecho o de los datos de los que haya partido (la información disponible en general en internet no es precisamente un ejemplo de objetividad). El riesgo de los sesgos es que tienden a perpetuarse al irse repitiendo y más en una aplicación que, por su naturaleza, está dotada de credibilidad. 

Cabe también la posibilidad de que la manipulación sea intencionada por parte de algún grupo de presión. Es algo muy difícil de saber si se ha producido, dada la complejidad tecnológica que implica. ¿Quién estaría detrás de esas manipulaciones que pueden basarse simplemente en la selección de las fuentes que interesen? No sería fácil saberlo. En países donde no se respetan las libertades se puede emplear de forma muy clara por parte de las autoridades a fin de tener a la población adoctrinada. La globalización en el uso de estas aplicaciones complica aún más el panorama. 

Si ya concedemos una credibilidad casi total a lo que nos viene por páginas como la Wikipedia, ¿qué podría suceder con una herramienta que está diseñada precisamente para simular ser un experto y ser creíble? La tentación para que algunas partes interesadas con suficiente poder introduzcan subrepticiamente informaciones o conclusiones no suficientemente objetivas es muy grande.

Al igual que en otras herramientas como los buscadores, redes sociales, etc., toda la información que le facilitamos (aunque sea en forma de preguntas) va permitiendo a los algoritmos crearse una imagen de nosotros que es susceptible de emplearse para proponernos comprar determinados productos, reforzar nuestros sesgos ideológicos o emplear esta información para influirnos ya sea en nuestras preferencias políticas o en cualquier otro tema. 

Otro problema que se ha visto es la posibilidad real de que los alumnos (tanto de niveles escolares como universitarios) la utilicen para realizar los trabajos que les encargan en clase. Los resultados que ofrecen herramientas con ChatGPT son realmente buenos y la naturalidad de su lenguaje hace que den el pego fácilmente.  

Esto ha provocado que en muchas Universidades y departamentos de educación ya se haya prohibido su uso al considerarlo un fraude (en el fondo es como copiar a un compañero). 

Como el avance de la tecnología es imparable, ya han aparecido sin embargo aplicaciones que permiten detectar a su vez los textos que no vienen escritos por una persona, sino por una herramienta de este tipo. 

Quizá sea el momento en que tomemos conciencia de que la educación, la formación de nuestros jóvenes, tiene que tener en cuenta la existencia de estas aplicaciones (al igual que ya tiene en cuenta la presencia de las calculadoras y de los ordenadores), tome ventaja de las mismas y se centre en aquellas áreas de ser humano que realmente importan como son el desarrollo de un espíritu crítico, la creatividad, la sensibilidad y el arte. 

El gran avance de estos programas, que se denominan LLM (Large Language Model – Modelo de lenguaje grande) por su capacidad de procesamiento del lenguaje natural, fue imposible de predecir hace solo unos pocos años por lo que hay que pensar que en el futuro nos encontraremos con sistemas todavía más sofisticados y perfeccionados que supondrán nuevos retos para el crecimiento humano y para nuestra libertad. 

Toda esta tecnología está basada en lo que denominamos inteligencia artificial que tiene muchas más aplicaciones que las aquí expuestas y que, dada la extensión de la materia, merece ser tratada en otro artículo. 

A propósito, algunos párrafos de este artículo están sacados literalmente de ChatGPT. Invito al lector a descubrir cuáles.