Puedes estar tranquilo: la Inteligencia Artificial no es un riesgo para la humanidad
Una reciente investigación de la Universidad de Bath y la Universidad Técnica de Darmstadt en Alemania asegura que los modelos de lenguaje (LLM) como ChatGPT no pueden aprender de forma independiente ni adquirir nuevas habilidades
El rápido desarrollo de la Inteligencia Artificial durante los últimos años está provocando que muchos expertos empiecen a preguntarse hasta dónde puede llegar esta tecnología y cuáles podrían ser las consecuencias de su evolución. En este sentido, varios investigadores han advertido que la IA nos podría dejar sin trabajo y que, incluso, puede llegar a acabar con la humanidad.
Pues bien, si estás preocupado por el futuro de la raza humana, deja de hacerlo, ya que un nuevo estudio acaba de confirmar que la IA no supone una amenaza para la humanidad.
La IA no es un riesgo para el futuro de la humanidad, según un reciente estudio
Recientemente, la página web de la Universidad británica de Bath se hizo eco de una investigación realizada por dicha universidad conjuntamente con expertos de la Universidad Técnica de Darmstadt en Alemania, la cual afirma que ChatGPT y otros modelos de lenguaje de gran tamaño (LLM) no pueden aprender de forma independiente ni adquirir nuevas habilidades, lo que quiere decir que no representan una amenaza real para la humanidad.
Dicho estudio revela que los LLM tienen una capacidad superficial para seguir instrucciones y dominar el lenguaje, pero que, sin embargo, no tienen potencial para aprender nuevas habilidades sin recibir unas instrucciones previas.
Esto quiere decir los modelos de lenguaje de gran tamaño "siguen siendo inherentemente controlables, predecibles y seguros".
Asimismo, según estos expertos, es probable que, con el paso del tiempo, estos modelos consigan generar un lenguaje más sofisticado y ofrecerte unas indicaciones más explícitas y detalladas, pero es altamente improbable que puedan adquirir habilidades de razonamiento complejas.
Para llevar a cabo este estudio, los investigadores de ambas universidades realizaron experimentos para probar la capacidad de los LLM para completar tareas con las que los modelos nunca se habían encontrado antes: las llamadas habilidades emergentes y estos demostraron claramente la ausencia de habilidades de razonamiento complejas emergentes en los LLM.
En este sentido, el Dr. Harish Tayyar Madabushi, científico informático de la Universidad de Bath y coautor de este estudio, afirma que el temor de que la IA pueda acabar con la humanidad es totalmente infundado:
"Si bien es importante abordar el potencial existente para el uso indebido de la IA, como la creación de noticias falsas y el mayor riesgo de fraude, sería prematuro promulgar regulaciones basadas en amenazas existenciales percibidas. Es importante destacar que lo que esto significa para los usuarios finales es que confiar en los LLM para interpretar y realizar tareas complejas que requieren un razonamiento complejo sin instrucciones explícitas es probable que sea un error. En cambio, es probable que los usuarios se beneficien de especificar explícitamente lo que requieren que hagan los modelos y proporcionar ejemplos cuando sea posible para todas las tareas, excepto las más simples".
por David Freire Seguir en
19/08/2024 13:01
・4 minutos de lectura
https://www.lavanguardia.com/andro4all/tecnologia/la-ia-no-supone-una-amenaza-para-la-humanidad-segun-un-nuevo-estudio
