EL TRUCO DE CHATGPT: Esta inteligencia artificial está metiendo miedo, pero no es para tanto: esto es lo que hay detrás

Foto: Reuters/Steve Marcus.

ChatGTP es una herramienta que puede mantener todo tipo de conversaciones y ha vuelto loco a medio internet. Es cierto que sus resultados son espectaculares, pero está muy lejos de pensar por sí misma

Google lleva tiempo mirando a TikTok por el retrovisor izquierdo, pero hay quien cree que acaba de surgir la tecnología que le puede adelantar por la derecha. Su nombre es ChatGPT, una inteligencia artificial que acaba de ser presentada, en versión beta, al gran público. 

La capacidad de este modelo de lenguaje para simular conversaciones humanas de manera realista ha sorprendido a muchos y ha generado un gran interés en su uso en diversos campos, desde la asistencia virtual hasta la creación de chatbots para empresas. 

Sí, la frase en cursiva la ha escrito este bot y no quien firma la pieza, que se ha limitado a pedirle que escribiera algunas líneas para este artículo.

OpenAI, una de las empresas fundadas por Elon Musk —en este caso, no tiene ánimo de lucro—, es quien está detrás de esta tecnología. Se trata de una firma de investigación en inteligencia artificial que ya ha desarrollado otros proyectos exitosos, como Dall-E —precursor de Dall-E Mini, que también causó sensación este verano— o GPT-3, la tecnología en la que se basa este chat. Hace unos días, publicaron la herramienta de forma abierta en su web, algo que ha desatado la locura en redes sociales, donde se pueden ver todo tipo de conversaciones y peticiones: desde que busque el error de un código informático a que explique el teorema de Bolzano "como si fuera un sevillano muy exagerado". Si quieres probarlo, solo tienes que registrarte aquí.

En efecto, ChatGPT es capaz de hacerte creer que, al otro lado, hay un humano. Por un lado, el sistema está entrenado para ser capaz de entender cualquier tipo de consulta, hasta las más extrañas, en varios idiomas. Como es habitual con estos modelos, las peticiones en inglés siempre funcionan algo mejor que en castellano o en cualquier otra lengua. Después, esta tecnología es capaz de ofrecer respuestas detalladas, precisas y, lo más llamativo, naturales. Además, tiene memoria: puede hacer referencia a conversaciones que hayas tenido antes con ella, pero ese es también su talón de Aquiles, porque es una de las formas más sencillas de engañarla.

"Si le pones trampa, se ve el cartón"

"Ha sido sorprendente por la profundidad de sus respuestas. No se queda en un entendimiento superficial de las sucesivas preguntas y es capaz de hacer interpretaciones mucho más complejas que los sistemas anteriores", explica Álex Barredo, creador del pódcast Mixx.io, donde ha entrevistado a la inteligencia artificial (puedes escuchar aquí el resultado). Entre los puntos que más le llamaron la atención, este divulgador destaca que la "diversidad de temáticas es muy superior", ya que, cabe recordar, el modelo está entrenado con 175.000 millones de parámetros. Así, considera que "es la primera vez que la mayoría de las conversaciones son suficientemente útiles en una mayoría de los casos", en lugar de tener la sensación de que estás hablando con "una centralita de teléfono con una lista limitada de funciones".

Tal y como avisan los propios investigadores en su presentación, su fiabilidad está lejos de ser total, ya que sigue siendo una versión en periodo de prueba, cuyo uso masivo está sirviendo para entrenarla y mejorar los resultados. Además, los desarrolladores han destacado que se han filtrado los resultados para que no toque temas y cuestiones polémicas, para evitar que el experimento no se les vaya de las manos en cuestiones racistas o sexistas —también han evitado conectarlo a internet para controlar todo lo que conocen—, aunque hay quien ha encontrado formas de buscar las cosquillas por ese lado.

Hay más cuestiones a mejorar. "No está entrenado para dar datos ciertos ni para decir la verdad, sino para mantener una conversación fluida y creíble. Por eso, si le pones trampa, se le ve con facilitad el cartón", comenta Julio Gonzalo, catedrático de Lenguajes y Sistemas Informáticos de la Universidad Nacional de Educación a Distancia (UNED) y especialista en inteligencia artificial. En su caso, le preguntó los nombres de poetas españolas del siglo XX. En el listado, aparecía Aurora de Albornoz, a lo que Gonzalo le respondió diciendo que se había equivocado, ya que era una escritora del siglo XVI. En realidad, no lo era, pero la respuesta fue pedirle disculpas e inventarse por completo las fechas de nacimiento y muerte de la escritora.

"Le corriges de buena fe y tiende a dar la razón al interlocutor", cuenta este especialista, que incide en que "es muy difícil arreglar estas cuestiones por los propios objetivos de aprendizaje con los que ha trabajado". "ChatGPT no tiene un conocimiento explícito, sino intuitivo, a partir de lo que ha leído y de una fase de entrenamiento con supervisores humanos”, desarrolla. Ahora lo que falta es la pieza que una ese pensamiento con el racional. "Todavía no se ha encontrado la forma de combinar este tipo de sistemas".

Más cerca de un loro que de ti

Para algunos, es un auténtico punto y aparte en el mundo de la inteligencia artificial, ya que dejaría esta herramienta al filo de la singularidad, que es el momento en que una inteligencia artificial es capaz de desarrollarse de forma autónoma y sin control humano. No todo el mundo lo ve así. "Es tan sofisticado en algunas de sus respuestas que está creando un espejismo de comportamiento racional e incluso algunos investigadores se están viniendo arriba”, considera Gonzalo, que afirma que "hay un hype excesivo". "El avance es espectacular, pero no disruptivo. No se han cambiado las bases de este tipo de sistemas desde 2018".

De hecho, hace unos meses ya hubo una importante polémica al respecto, cuando un ingeniero de Google aseguró que LaMDA —un sistema similar a ChatGTP— había conseguido crear una herramienta para tener conversaciones con conciencia. Aquella afirmación causó un gran revuelo (y muchas dudas), así que le acabaron despidiendo, alegando violación de las políticas de confidencialidad. "En realidad, había sido engañado", recuerda Gonzalo. "Son herramientas que lo hacen tan bien que cuando interactúas te puede dar la sensación de que estás hablando con un ente inteligente".

En este sentido, bromea con que les gusta definir estos sistemas como "cuñados estocásticos". “Aparentan saber de cualquier tema, y en una conversación superficial pueden resultar convincentes, pero si profundizas, te acabas dando cuenta de que hablan de oídas o, directamente, no saben de lo que hablan”, explica, aunque reconoce que "el porcentaje de veces que ChatGPT dice cosas sensatas es asombroso". Con todo, destaca que todavía es pronto para saber su capacidad real. "La primera sensación es que se ha dado un salto cualitativo, pero sin cambiar el paradigma", dice, puesto que se basa en la tecnología GPT-3, que es de 2020.

Barredo también reconoce que "sigue siendo una herramienta con sus limitaciones grandes". "En realidad, el aprendizaje automático, profundo y supervisado sigue siendo mucho más similar a un loro que repite sonidos sin comprenderlos, que a un tipo de inteligencia como la que un humano entendería, como la de un perro pastor o una manada de leones que son capaces de innovar, aprender o mejorar", recopila este divulgador.

¿Un nuevo Google?

Los usos de esta inteligencia artificial son casi tantos como puedas imaginar. Da conversaciones sobre todo tipo de temáticas, como la del pódcast Mixx.io, pero también le puedes pedir guiones de películas o letras de canciones. Incluso que te haga una versión de alguna obra existente, como este A day in the life de The Beatles. Por supuesto, también es capaz de hacer una redacción coherente y bien escrita en unos segundos, algo que puede ser un reto para la educación en un futuro próximo, pero también para el propio periodismo. Aquí van algunos titulares que ha ofrecido para este artículo:

• "El lanzamiento de ChatGPT: el fenómeno que ha revolucionado el mundo de la inteligencia artificial".
• "ChatGPT: el revolucionario modelo de lenguaje que ha causado sensación en el mundo de la tecnología".
• "ChatGPT, el nuevo modelo de lenguaje creado por OpenAI, llega con grandes expectativas pero también con algunas limitaciones".
• "¿Es ChatGPT realmente inteligente? Críticas a su capacidad de comprensión del lenguaje natural".

"Quizá no es miedo lo que me causa, pero sí un poco de intranquilidad. La cantidad de texto y contenido que podrá ser generado por humanos usando esta herramienta puede inundar internet de contenido en apariencia realista", comenta Barredo al respecto, que señala que "podría ser usado por alumnos presentando trabajos a sus profesores usando este tipo de herramientas, o páginas web que generen contenido masivo con incentivos monetarios". En cambio, cree que no hay razones para temerlo, ya que cree que "los mismos sistemas que generan este tipo de contenido son los que son capaces de detectarlo al instante". "El reto será que en el futuro habrá una cantidad infinita de este tipo de modelos, cada uno con sus pesos y parámetros, y entonces será algo más difícil", avisa.

Más allá de los usos fraudulentos, la lista de utilidades es casi infinita. Ahí están las revisiones de código como las mencionadas, pero también puedes pedir que te recopile información de todo tipo, como un tutorial o comparativas de todo tipo. Es lo que hace que muchos piensen que puede ser un sustituto para los tutoriales e, incluso, la propia búsqueda de Google, que hasta hace nada miraba a TikTok como su principal amenaza. "Es la aproximación más cercana a cómo funcionaría realmente en un sistema totalmente desarrollado, y debería asustar a Google", han asegurado en TechCrunch, donde han hecho una prueba en la que le han preguntado los distintos tipos de Pokémon y sus características. El buscador por excelencia no sale bien parado, y una vuelta por las redes sociales te devuelve multitud de comparativas similares.

"No sé qué ocurrirá en el futuro cercano", reconoce Gonzalo cuando le preguntan por el impacto que pueda tener esta tecnología en el buscador. En su caso, reconoce que empieza a ser útil cuando se le pregunta por un tema que conoces bien. "Antes de esta entrevista, quería encontrar una descripción divulgativa de aprendizaje por refuerzo y le he preguntado a ChatGPT en lugar de a Google. La respuesta ha sido justo lo que necesitaba", apunta, dejando caer que "podría ser la primera piedra para un sistema de este tipo, donde la búsqueda sea un diálogo y no un conjunto de enlaces".

Por
Mario Escribano
06/12/2022 - 05:00
Esta inteligencia artificial está metiendo miedo, pero no es para tanto: esto es lo que hay detrás (elconfidencial.com)
www.elconfidencial.com/tecnologia/2022-12-06/inteligencia-artificial-chat-gpt-google_3535364/