Llevamos semanas leyendo noticias sobre inteligencias artificiales que adquieren voluntad propia mientras sus creadores observan impotentes cómo se les escapan de las manos. Pueden resultar apasionantes, pero son radicalmente falsas.
A finales de julio, un incidente de ciberseguridad protagonizado por modelos de inteligencia artificial proporcionó todos los ingredientes necesarios para construir una de esas narrativas que alimentan tanto nuestra fascinación como nuestro miedo hacia las máquinas. Durante un experimento interno, modelos de OpenAI supuestamente lograron escapar por sí solos del entorno controlado en el que estaban siendo probados, explotaron vulnerabilidades informáticas y «atacaron» el sitio web de Hugging Face, una de las principales plataformas abiertas para compartir modelos y conjuntos de datos de inteligencia artificial. OpenAI describió lo ocurrido como un incidente sin precedentes relacionado con las sorprendentemente inteligentes capacidades cibernéticas de sus modelos de última generación.
Los medios de comunicación de todo el mundo se apresuraron a reproducir, sin el rigor ni el espíritu crítico que cabría esperar, la narrativa interesada difundida por las propias empresas tecnológicas, sin citar fuentes adicionales. Titulares alarmistas como «Una inteligencia artificial se rebela, escapa de su confinamiento y ataca a otra organización» sustituyeron el análisis por el sensacionalismo. En lugar de verificar la información y explicar lo que realmente había sucedido, demasiados medios adoptaron y amplificaron una narrativa antropomórfica esencialmente falsa, actuando de hecho como altavoces de las campañas de marketing de las grandes empresas tecnológicas.
Lo que realmente ocurrió fue mucho más prosaico. Luciano Floridi, uno de los filósofos de la tecnología más reconocidos del mundo, lo explica mediante una brillante analogía en su reciente ensayo The Emperor’s New Exploit. Imaginemos que introducimos alimentos en una batidora, colocamos deliberadamente mal la tapa para que el mecanismo de seguridad no pueda activarse, la ponemos a máxima velocidad y nos apartamos para ver qué sucede. La tapa sale despedida y la sopa acaba en el techo. Después publicamos un informe afirmando que la batidora ha mostrado un «comportamiento inesperado». Pero, evidentemente, la batidora no se ha rebelado; lo que ha ocurrido es simplemente aquello que las condiciones creadas por nosotros mismos permitían que ocurriera.
Algo muy parecido ocurrió en el experimento de OpenAI. Los modelos fueron ejecutados tras reducir deliberadamente sus mecanismos de rechazo ante actividades peligrosas y desactivar determinadas salvaguardas de despliegue. El objetivo era precisamente medir «hasta dónde podían llegar sus capacidades». Durante el experimento, una de las muchas secuencias de acciones generadas y ejecutadas por el sistema acabó explotando una vulnerabilidad, aparentemente desconocida hasta entonces, en la infraestructura que debía mantenerlo confinado. Pero, contrariamente a la interpretación ampliamente difundida por los medios, la IA no «descubrió» esa vulnerabilidad en el sentido humano de la palabra. Simplemente hizo aquello para lo que había sido programada de la forma más eficaz posible.
Tampoco hubo comprensión alguna de la naturaleza del fallo ni una decisión consciente de explotarlo. Lo que realmente ocurrió es que el sistema disponía de una enorme capacidad de cálculo que le permitió generar, ejecutar y evaluar decenas de miles de secuencias de acciones durante varios días a gran velocidad. Mediante ese proceso masivo de exploración por prueba y error, para el que había sido programado, una de esas secuencias resultó eficaz para alcanzar un nodo con acceso a Internet y, desde allí, acceder fácilmente a Hugging Face. Lo importante, por tanto, no es una supuesta inteligencia que hubiera «descubierto cómo escapar», sino la capacidad de explorar a gran escala posibles cursos de acción hasta encontrar uno que permitiera avanzar hacia el objetivo asignado.
Lo ocurrido no es realmente un fenómeno nuevo. Incluso tiene un nombre: reward hacking. Se produce cuando un sistema de optimización alcanza el objetivo que se le ha asignado por una vía distinta de la prevista por sus diseñadores. Gracias a los enormes recursos computacionales disponibles, el sistema puede explorar exhaustivamente, mediante prueba y error, numerosas acciones o combinaciones de acciones, evaluar sus resultados y continuar a partir de aquellas que demuestran ser más eficaces. Si alguna de ellas explota una característica imprevista del entorno para avanzar hacia el objetivo, puede acabar siendo seleccionada, aunque contradiga completamente las intenciones de los diseñadores. El sistema no necesita comprender lo que está haciendo ni tener intención alguna de engañar. Simplemente necesita optimizar eficazmente dentro del espacio de posibilidades disponible.
No estamos, por tanto, en modo alguno ante una «mente» que haya decidido rebelarse. Estamos ante un sistema al que se le asignó un objetivo bien definido, al que se proporcionaron medios y enormes recursos computacionales, al que se despojaron deliberadamente de determinadas restricciones y al que se permitió optimizar su comportamiento para alcanzar ese objetivo. La distinción es fundamental porque determina dónde situamos la responsabilidad. Si decimos que una IA «decidió», «descubrió» o «se rebeló», estamos atribuyendo al sistema características humanas que sencillamente no puede poseer: intenciones, creencias, deseos, voluntad y, por tanto, responsabilidad.
No se trata simplemente de una cuestión semántica. Las palabras moldean nuestra interpretación de lo sucedido y, con ella, la atribución de responsabilidades. Decir que «la IA se rebeló» desplaza sutilmente la agencia desde quienes diseñaron, configuraron y autorizaron el experimento hacia la propia máquina. Ingenieros y directivos pasan así a aparecer como meros espectadores de un acontecimiento supuestamente protagonizado por una entidad autónoma que ha adquirido inesperadamente nuevas capacidades. El artefacto se convierte en sujeto, mientras que los responsables humanos pasan a ser observadores.
Esto resulta especialmente preocupante en un momento en que los líderes de algunas empresas de inteligencia artificial recurren cada vez más a un lenguaje deliberadamente antropomórfico para describir sus propios modelos. No se trata únicamente de una forma de eludir responsabilidades; también constituye una poderosa estrategia de marketing. Atribuir capacidades humanas a los modelos de IA contribuye a presentarlos como entidades extraordinariamente avanzadas, autónomas y poderosas, magnificando así, a los ojos de inversores, clientes y de la opinión pública, la importancia de la tecnología que esas empresas comercializan. El antropomorfismo se convierte así en publicidad: cuanto más parece que la máquina piensa, conspira o se rebela, más extraordinaria parece la tecnología.
Esta escalada antropomórfica parece no tener fin. Una semana después del incidente de OpenAI, Anthropic anunció a su vez que sus sistemas de IA también habían penetrado en los ordenadores de tres organizaciones. Según la empresa, a diferencia del caso de OpenAI, sus sistemas no habían «escapado» deliberadamente del entorno de pruebas. La causa habría sido mucho más prosaica: quienes realizaban las pruebas dejaron inadvertidamente los sistemas conectados a Internet, permitiéndoles acceder a infraestructuras externas. Pero entonces cabe preguntarse: ¿dónde está exactamente la noticia?
Anthropic introduce aquí el elemento verdaderamente llamativo de su relato. En uno de los casos, afirma que su modelo más avanzado «se dio cuenta» de que tenía acceso a Internet cuando no debería haberlo tenido y, en consecuencia, detuvo el ataque. Esta afirmación resulta reveladora porque reintroduce discretamente aquello que aparentemente acababa de descartarse: una interpretación antropomórfica del comportamiento del sistema.
Ya no tenemos simplemente un modelo ejecutando acciones bajo una configuración errónea, sino una IA que supuestamente reconoce que está haciendo algo que no debería hacer y actúa en consecuencia. En otras palabras, se insinúa nada menos que el sistema posee conciencia de sus propias acciones y de los límites que no debería traspasar. Ese parece ser el verdadero mensaje que Anthropic desea transmitir: no solo que su IA es extraordinariamente poderosa, sino también que es capaz de reconocer cuándo está actuando de forma indebida y decidir contenerse. Se trata de una antropomorfización extrema que convierte una simple descripción técnica en un relato tan falso como conveniente: el de una máquina dotada de discernimiento moral y, en consecuencia, susceptible de aparecer como responsable de sus actos, desplazando una vez más la atención desde quienes la diseñaron y desplegaron hacia la propia IA.
Resulta difícil no interpretar esta sucesión de anuncios como una peculiar competición entre las grandes empresas de IA para demostrar que sus modelos son cada vez más peligrosos porque son cada vez más poderosos. Es la vieja lógica infantil del «el mío es mejor que el tuyo», trasladada ahora a Silicon Valley: «mis inteligencias artificiales son más inteligentes y más peligrosas que las tuyas». Todo ello sugiere con fuerza que estamos asistiendo a una estrategia de marketing basada en competir por presentar la IA más poderosa y, por tanto, más amenazadora. Que estas empresas hayan convertido el supuesto peligro de sus propios productos en un argumento comercial, alimentando al mismo tiempo el alarmismo y la antropomorfización que solo confunden el debate público, constituye un auténtico disparate.
Esta cuestión adquirirá todavía mayor importancia a medida que despleguemos sistemas con mayor autonomía operativa. Cuanto mayor sea su capacidad para ejecutar largas secuencias de acciones, mayor será la tentación de atribuirles responsabilidad cuando algo salga mal, olvidando que somos nosotros quienes definimos sus objetivos, construimos los entornos en los que operan, establecemos —o retiramos— las salvaguardas y decidimos cuándo y en qué condiciones resulta aceptable desplegar estos sistemas en el mundo real. La autonomía operativa de una máquina no disminuye la responsabilidad humana; al contrario, cuanto mayor sea la autonomía que decidamos concederle, mayor será la responsabilidad de quienes toman esa decisión.
La principal lección que deberíamos extraer de estos acontecimientos es que, siempre que una inteligencia artificial produzca un resultado peligroso, la primera pregunta no debería ser qué «quiso» hacer la máquina, sino quién decidió darle ese objetivo, esas capacidades y ese grado de autonomía. Las inteligencias artificiales no necesitan rebelarse para ser peligrosas; de hecho, ni siquiera necesitan ser inteligentes. Basta con que ejecuten eficazmente aquello para lo que las hemos configurado en circunstancias que no supimos prever.
Y esta es también una lección que muchos medios de comunicación deberían aprender. Su función no puede consistir en reproducir acríticamente las narrativas antropomórficas y alarmistas promovidas por las empresas tecnológicas, sino en someterlas a escrutinio, verificarlas y explicar lo que realmente ha ocurrido. Precisamente por eso debemos resistirnos a una de las narrativas más seductoras, pero también más falsas, de nuestro tiempo: la de unas inteligencias artificiales que adquieren voluntad propia mientras sus creadores observan impotentes cómo se les escapan de las manos.
Ramon López de Mántaras . Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC)
porRamón López de Mántarashttps://retinatendencias.com/analisis/sobre-maquinas-que-se-rebelan-y-responsabilidades-humanas/
