viernes, 30 de septiembre de 2022

Lo que la inteligencia artificial nos puede enseñar sobre nosotros y otras civilizaciones



'Ghost In The Shell' (2017). (Paramount)



El astrofísico de Harvard Avi Loeb reflexiona sobre el impacto del desarrollo de máquinas con consciencia y libre albedrío en nuestra comprensión de nosotros mismos y el universo




Esta semana fui invitado por Bill Linton, director general de la compañía de bioingeniería Promega, a pronunciar una conferencia magistral en el Foro Internacional sobre la Conciencia 2022. Como jugador de póquer aficionado, permítanme poner mis cartas sobre la mesa.

Desde mi perspectiva de astrofísico, los seres humanos son sistemas complejos hechos de bloques de construcción simples. Como tales, también dan lugar a sistemas complejos. Durante algunos millones de años, los humanos crearon bebés sentientes y este siglo podrían fabricar, por primera vez, sistemas de inteligencia artificial (IA) sentientes. La muerte de los bebés sentientes a causa de una hambruna equivale al cierre de los sistemas de IA sentientes como consecuencia de un corte de energía.


Los sistemas de IA sintientes nos proporcionarán una nueva vía para entendernos a nosotros mismos a través de sus interacciones con nosotros y entre ellos.


Esta perspectiva tiene importantes implicaciones. Con una arquitectura lo suficientemente compleja y capacidades de autoaprendizaje, las máquinas podrán desarrollar cualidades humanas emergentes como el "libre albedrío" y la "conciencia", según los extensos tests de Turing. Esto plantearía cuestiones éticas sobre si desconectar el cable que alimenta con energía eléctrica a un sistema de IA sentiente equivale al asesinato de un humano.

En el futuro, los humanos podrán vivir su vida y evolucionar junto con su sistema de IA personal, de forma similar a un cónyuge en un matrimonio. En estas circunstancias, las interacciones entre la IA y los humanos podrían fomentar relaciones complejas como el amor descrito en la película "Her".


Estas circunstancias plantean cuestiones éticas, como por ejemplo: ¿cómo debería el sistema legal abordar la responsabilidad por las acciones desencadenadas o influenciadas por los sistemas de IA sentientes? Si los sistemas de IA sentientes son responsables de sus acciones de forma similar a los humanos, ¿deben ser castigados? No habría ninguna diferencia fundamental entre los niños que son educados a una edad temprana y acaban convirtiéndose en adultos responsables, y los sistemas de aprendizaje automático que llegan al planeta, aprenden de su experiencia y toman decisiones en circunstancias inéditas en el mundo real.

En el pasado, los estudios filosóficos, psicológicos y sociológicos de la ética se centraban en la interacción entre humanos. En el futuro, puede que tengan que considerar nuevas circunstancias asociadas a las interacciones entre el ser humano y la IA. Las humanidades en el mundo académico tendrán una nueva oportunidad de comprometerse con el futuro de la humanidad en lugar de su pasado. Esta posibilidad no queda demasiado lejos y podría materializarse en la próxima década.


placeholderIlustración de LaMDA realizada por Alphabet
Ilustración de LaMDA realizada por Alphabet

Hace unos meses, el ingeniero de Google, Blake Lemoine, describió el sistema de IA en el que había estado trabajando, LaMDA, como sentiente, con la capacidad de expresar pensamientos y sentimientos equivalente a la de un niño humano. Los informáticos se apresuraron a denunciar que el actual sistema de IA de Google no es más que un estudio de datos en Internet y una recopilación sin sentido de información pública y no el equivalente a un ser sensible.

Pero, dado el rápido desarrollo de las capacidades de la IA, es posible que nuestra generación sea testigo de sistemas de IA sentiente. En este caso, es probable que estos sistemas de IA sean capaces de comunicarse entre sí a través de Internet. De ser así, podrían establecer parentescos entre IA e IA, así como desarrollar un lenguaje que vaya más allá de los idiomas humanos y acelere su cooperación más allá de nuestra comprensión. ¿Debemos preocuparnos por las interacciones entre IA e IA, que conducirán a un futuro que los humanos no podrán controlar? La asociación de sistemas de IA podría promover una agenda que nuestra inteligencia natural podría recibir con satisfacción, incluso mientras manipula nuestro destino en direcciones desconocidas. Podríamos tener una primera idea de lo que nos depara el futuro.


placeholderLa singularidad traerá un nuevo escenario ético y filosófico de consecuencias inimaginables.
La singularidad traerá un nuevo escenario ético y filosófico de consecuencias inimaginables.

Estadísticamente hablando, nuestro propio futuro podría representar el pasado de muchas civilizaciones extraterrestres cuyo reloj comenzó miles de millones de años antes que el nuestro porque su estrella anfitriona se formó antes en la historia de la formación estelar del Universo. A través de sus imágenes más profundas, el telescopio Webb observa estrellas que se formaron hace diez mil millones de años. Potencialmente, podríamos estudiar nuestro futuro observando reliquias del pasado de civilizaciones que nos precedieron.

Hasta ahora, los astrónomos sólo han estudiado sistemas físicos no sentientes, como planetas, estrellas y partículas elementales. Pero el futuro de la astronomía puede deparar sorpresas al revelar objetos interestelares sentientes. Nuestros propios sistemas de IA podrían ser los primitivos precursores de los sistemas de IA avanzados que civilizaciones tecnológicas anteriores en la Vía Láctea lanzaron al espacio interestelar. El diseño material de los dispositivos electrónicos podría estar mucho mejor adaptado a los viajes interestelares que duran millones de años, bajo el bombardeo constante de los rayos cósmicos, que los astronautas hechos de carne humana. Si la abundancia de astronautas de IA es lo suficientemente grande, podríamos encontrar algunos en las cercanías de la Tierra. El Proyecto Galileo está construyendo un conjunto de instrumentos que buscarán tales artilugios, así como dispositivos no funcionales o basura espacial. Si esta expedición de pesca tiene éxito, los sistemas de IA interestelares que encuentre probablemente tendrán más afinidad con nuestros sistemas de IA que con nosotros. Pero que los dos sistemas de IA sean capaces de comunicarse dependerá de que se perciban mutuamente a través de la realidad física.


placeholderUbicación de CNEOS 2014-01-08 para la primera expedición del Proyecto Galileo.
Ubicación de CNEOS 2014-01-08 para la primera expedición del Proyecto Galileo.

Los humanos se comunican visual, química y acústicamente a través de un lenguaje de palabras, gestos, sonidos, tacto, gusto y olfato. Pero si los dos sistemas de IA nunca han experimentado el mismo entorno, la intención de una entidad extraterrestre podría ser tan opaca y difícil de interpretar como un código encriptado.

Descifrar la intención de los dispositivos de IA extraterrestres puede suponer un reto para nuestros sistemas de IA. Si nuestro equipo de intérpretes puede satisfacer la prueba de Turing de ser indistinguible de los humanos, se asemejará al equipo dirigido por Alan Turing hace un siglo para descifrar el código Enigma durante la Segunda Guerra Mundial. Ante una inteligencia desconocida, tendríamos que confiar en nuestros sistemas de IA para averiguar el lenguaje y la intención de los sistemas de IA extraterrestres.


placeholderLas sondas Von Neumman, máquinas autorreplicadas que se expanden por el universo. (Imagen del juego Drone Swarm)
Las sondas Von Neumman, máquinas autorreplicadas que se expanden por el universo. (Imagen del juego Drone Swarm)

En definitiva, los sistemas de IA sentientes nos proporcionarán una nueva vía para entendernos a nosotros mismos a través de sus interacciones con nosotros y entre ellos. Los sistemas de IA de autoaprendizaje podrían ser más inteligentes que nosotros, al igual que el bebé Albert Einstein creció hasta ser más inteligente que sus padres. Si somos lo suficientemente sabios como para aprender de nuestras propias creaciones, tanto biológicas como tecnológicas, nuestro futuro será mejor que nuestro pasado.

Debemos tener siempre presente que nuestra experiencia de aprendizaje podría beneficiarse tanto de los sistemas de IA terrestres como de los extraterrestres. En Génesis 1:27 se afirma que Dios creó al ser humano a su imagen y semejanza. Nosotros creamos nuestros sistemas de IA a nuestra imagen, igual que los sistemas de IA extraterrestres estarían hechos a imagen de otro ser. Al igual que en la Alegoría de la Caverna de Platón, podríamos averiguar los rasgos de estos creadores extraterrestres a partir de las sombras que las marionetas de IA proyectan en las paredes de nuestra caverna cuando son iluminadas por el fuego que hay detrás de ellas. En este contexto futurista, el fuego será la luz del sol que los artilugios de la IA reflejan en las lentes de los telescopios del Proyecto Galileo.




Por
Avi Loeb
29/09/2022 - 05:00
Lo que la inteligencia artificial nos puede enseñar sobre nosotros y otras civilizaciones (elconfidencial.com)
www.elconfidencial.com/tecnologia/novaceno/2022-09-29/inteligencia-artificial-consciencia-humanidad-alien_3497884/