Existen casos de alucinaciones en Internet.©[Guillaume] via iStockPhoto.com
Las alucinaciones de la inteligencia artificial generativa son fallos interpretados de información errónea. Además, pueden ocurrir a causa de entrenamientos sesgados, falta de contexto o limitaciones en los algoritmos.
Las alucinaciones en el entorno de la inteligencia artificial (IA) generativa son informaciones arrojadas por el sistema que, aunque estén escrita de forma coherente, poseen algún dato incorrecto o directamente erróneo.
Por poner un ejemplo, hace poco informamos en 20Bits que el motor de búsqueda Bing incluía la 'supuesta' teoría de la aparición de algoritmos de búsqueda firmada por Claude Shannon, además, ofrecía algunas citas para demostrar la veracidad del 'artículo de investigación'. Sin embargo, el verdadero problema es que Shannon no escribió ningún artículo de ese tipo, teniendo en cuenta que las citas ofrecidas por Bing, en verdad, eran alucinaciones en el lenguaje de la IA generativa.
Como se puede comprobar, las alucinaciones son errores que proceden de problemas en los datos de entrenamiento, fallos en los algoritmos por limitaciones, falta de contexto, interacciones con información incorrecta o complejidad para entender el mundo real. Además, todas estas consecuencias pueden llegar a confundir a los internautas, poner en peligro la precisión de los datos e o incluso compartir información errónea o sesgada.
Entonces, para evitar todas estas situaciones, ¿qué se puede hacer? Se necesita la supervisión por parte de una persona para detectar los datos incorrectos e identificar cualquier problema que no se esté ajustando a la realidad, además, las auditorías y las pruebas exhaustivas también son esenciales porque implican la revisión de registros y evalúan la capacidad de la inteligencia artificial para afrontar peticiones complejas.
No obstante, para reducir los riesgos, esta tecnología puede estar equipada con mayores sistemas de seguridad para evitar que la IA generativa tome decisiones peligrosas o incorrectas con el fin de eludir las alucinaciones, teniendo en cuenta que se busca garantizar que la inteligencia artificial se utilice de manera segura en el día a día.
NOTICIA21.10.2023 - 08:00H
https://www.20minutos.es/tecnologia/inteligencia-artificial/que-son-las-alucinaciones-inteligencia-artificial-por-que-son-un-peligro-5181801/
