Elon Musk cree que lo siguiente que se tiene que desarrollar en el campo de la IA es un 'TruthGPT'.20BITS
A pesar de que el empresario firmaba recientemente una carta que pedía un parón en el desarrollo de las IA de última generación, en sus últimas declaraciones ha confirmado que trabaja en su propia inteligencia artificial generativa.
Desde hace algunos días, crecían por momentos los rumores sobre una plataforma de inteligencia artificial generativa desarrollada por Elon Musk.
Las noticias sobre los planes del magnate, que siempre parece dispuesto a dar que hablar, llegaban solo unos días después de que él mismo saliese a la palestra a pedir que se parase el avance de la IA de última generación. Como suele pasar con Musk, posiblemente todo formaba parte de una trama más elaborada —claramente, con un motivo detrás—.
Así que el giro de los acontecimientos no sorprendió a la opinión pública, acostumbrados todos a estas habituales campanadas del empresario. Más aún: todos podíamos esperar que Musk fuese a por todas con la inteligencia artificial, por un lado, porque él mismo fundó OpenAI, la compañía que está teniendo mayor tirón en el terreno gracias a haber llegado primera al mercado con ChatGPT; por otro lado, porque estaba claro que el actual dueño de Twitter no se iba a quedar fuera de esta fiesta. Además, algunos medios internacionales ya habían dado la voz de alarma.
TruthGPT, la copia de ChatGPT que "no aniquilará a los humanos"
Musk se ha puesto las pilas para hacer frente a Microsoft ChatGPT y a Google Bard, actualmente los chatbots de inteligencia artificial generativa más potentes del sector. Como recoge The Verge, el empresario está trabajando en lo que ha llamado ‘TruthGPT’, una IA alternativa que “busca la máxima verdad” e intenta “comprender la naturaleza del universo”, dijo durante una entrevista con Tucker Carlson de Fox.
El multimillonario ya publicó un mensaje en febrero haciendo alusión a esta utópica plataforma:
Durante la entrevista, Musk mostró su preocupación por el desarrollo sin control de la inteligencia artificial, que según el empresario podría llevar a la destrucción de la humanidad: “Creo que este podría ser el mejor camino hacia la seguridad, en el sentido de que es poco probable que una IA que se preocupe por comprender el universo aniquile a los humanos porque somos una parte interesante del universo”, matizó.
No es la primera vez que Musk expresa sus dudas ante el camino que ChatGPT está tomando. De hecho, el empresario formaba parte del proyecto y decidió apartarse por no compartir la filosofía y el rumbo de este.
Opina que este y el resto de chatbots que existen actualmente en el mercado “están siendo entrenados para ser políticamente correctos”, por lo que aboga por construir una “tercera opción”, frente al dominio de Google y de OpenAI, que tiene un acuerdo de financiación con Microsoft.
Aunque reconoce que “llega tarde”, dice que espera que su proyecto “haga más bien que mal”. En la entrevista, directamente enmarcó su futura plataforma como una ‘corrección de rumbo’ para ChatGPT y dio a entender que los incentivos de ganancias de OpenAI podrían interferir potencialmente con la ética de los modelos de IA que crea. Mientras, ‘TruthGPT’ sería una opción “más transparente”.
Que paren la IA
Como decía, Musk fue uno de los 1.100 tecnólogos que firmaban recientemente una carta en la que se solicitaba frenar el avance de la inteligencia artificial durante seis meses.
“Solicitamos a todos los laboratorios de Inteligencia Artificial que suspendan inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4”, se lee en la carta pública.
Les acusan de “suponer un profundo riesgo para la sociedad y la humanidad” y de que no se está teniendo la planificación y cuidado pertinente. “Se ha producido una carrera descontrolada para desarrollar sistemas cada vez más poderosos que nadie, ni siquiera sus creadores, entienden, predicen o pueden controlar con fiabilidad”, defienden.
La petición requería que el alto en el entrenamiento fuera “público y verificable” e incluía entre sus exigencias que se pausase GPT-5, cuyo desarrollo se ha paralizado por el momento.
Los firmantes establecían que “si la pausa no puede promulgarse rápidamente”, tendrían que ser los gobiernos quienes se encargasen de “intervenir e instituir una moratoria”.
La carta fue publicada en Future of Life Institute, una organización sin ánimo de lucro cuya finalidad es luchar contra los riesgos tecnológicos que considera que puedan llegar a ser un peligro para la humanidad.
Además de Musk, entre los firmantes se encuentran figuras como Yoshua Bengio, profesor de la Universidad de Monreal, que es considerado pionero de la IA moderna; Steve Wozniak, cofundador de Apple, o Jaan Tallinn, cofundador de Skype.
¿De qué fallos se acusa a ChatGPT?
Uno de los principales problemas y probablemente el fallo más señalado es que, por el momento, ChatGPT ‘se fía’ de cualquier fuente, es decir, para generar su respuesta hace caso a toda la información publicada en Internet, se haya o no verificado. Ahí vienen las complicaciones, porque, en resumidas cuentas, lo que hace la herramienta es asumir como verdad cada dato que encuentra en la red. Y ya sabemos que esto no.
Esto ocurre así porque entrenar un modelo de inteligencia artificial como ChatGPT es extremadamente caro. Necesita tener y procesar enormes cantidades de datos para establecer patrones y, a raíz de esto, generar resultados. Para crear su IA generativa de textos, OpenAI hizo que sus sistemas estudiaran innumerables contenidos de Internet, desde estudios académicos hasta comentarios en foros y redes sociales.
Así es como ChatGPT aprendió cómo se expresan los humanos cuando escriben y por eso es capaz de ‘replicarlo’. Pero obviamente esta tecnología está aún inmadura y podemos manipular la herramienta, como se ha demostrado en varias ocasiones.
El uso de las redes sociales o de todo tipo de comentarios en páginas web para entrenar este tipo de chatbots es uno de los motivos por los que todavía es poco fiable. Porque sí: para evitar que los sistemas muestren la parte más tóxica de Internet en su interacción con sus usuarios, sus desarrolladores han configurado filtros para que la IA modere su discurso, pero en su base de datos está grabado a fuego lo más rastrero y cruel de la red.
“Estos modelos se entrenaron con grandes cantidades de datos de Internet escritos por humanos, incluidas conversaciones”, explica OpenAI: “Es importante tener en cuenta que esto es un resultado directo del diseño del sistema (es decir, maximizar la similitud entre los resultados y el conjunto de datos con el que se entrenaron los modelos) y que dichos resultados pueden ser inexactos, falsos o engañosos en ocasiones”.
Es decir: que por muy sofisticado y avanzado que sea su algoritmo de corrección, el método de entrenamiento ha sido un poco ‘a lo bruto’, así que a pesar de los muchos filtros que pueda tener, tapar toda esa avalancha es bastante complicado.
¿Y cuándo veremos ‘TruthGPT’?
Por ahora, no está claro en qué momento del desarrollo se encuentra la plataforma de Musk, ni siquiera sabemos si realmente existe como tal o se trata solo de una más de las ensoñaciones del multimillonario.
Aunque probablemente el empresario, además de hacer una apuesta pública, esté trabajando en avanzar en esta tecnología, puesto que, entre otras cosas, como señalaba, ha creado X.AI, su compañía de inteligencia artificial.
Ha quedado claro que las tecnologías que controlan nuestras vidas serán tan injustas como lo seamos nosotros, dado que se entrenan con nuestras propias experiencias. Resulta complicado encontrar “la máxima verdad” (¿la de quién?). Además, las herramientas de IA generativa se basan en un comportamiento que consiste, precisamente, en inventar en función de los ‘conocimientos’ aprendidos. En otras palabras: mienten.
Así que un producto de inteligencia artificial completamente ecuánime, sin sesgos y 100% veraz parece difícil de alcanzar. Habrá que esperar a ver qué entiende Musk por una herramienta semejante. O puede que solo quiera tener también su juguete de IA para competir con el resto y estar una vez más en la pomada.
NOTICIA19.04.2023 - 05:44H
https://www.20minutos.es/tecnologia/inteligencia-artificial/claves-truthgpt-inteligencia-artificial-copia-chatgpt-elon-musk-5120056/
