¿Es el fin del mundo? O el temor a que se derrumbe el esquema Ponzi de la IA

 

Qué pasaría si una mañana nos levantamos con servicios críticos como el suministro eléctrico interrumpidos o con atacantes (agentes de IA como los que asaltaron Hugging Face) que piratean los coches autónomos para provocar un caos circulatorio. O si una red de bots se apodera de internet. Son tres escenarios posibles, que hasta hace poco nos parecían ciencia ficción.

Los ciberataques perpetrados por la IA afectarán en el futuro a amplias capas de la población y no sólo a clientes de determinadas empresas, como hasta ahora. Esa es, al menos, la advertencia lanzada por los principales directores ejecutivos de las grandes corporaciones americanas de IA, Sam Altman (Open AI), Dario Amodei (Anthropic) y Elon Musk (SpaceX).

Las advertencias alimentan un debate mundial sobre la necesidad de actuar urgentemente, ante una población aterrorizada por los escenarios catastrofistas y cada día más contraria al despliegue de los centros de datos, a los que culpan en parte del encarecimiento de la energía que sufren.

En el mundo de los negocios, las coincidencias no existen. Qué ha pasado para que las grandes empresas de IA, que raramente se ponen de acuerdo, aparcaran por unas horas sus diferencias para levantar la voz a favor de poner freno a la carrera de la IA, y advirtieran sobre el potencial riesgo de desaparición de la humanidad, antes de que los nuevos modelos se escapen a su control.

Los tres primeros espadas no sólo se movían en sus manifestaciones por su preocupación por el futuro de la humanidad (y el de ellos mismo), detrás está la dificultad creciente de sus empresas para seguir captando miles de millones de inversión, en un mundo convulso por las guerras energéticas y una inflación y unos tipos de interés rampantes, que encarecerán la financiación.

Según los cálculos de Schroders, el desarrollo de la infraestructura de la IA (centros de datos, chips e investigación para nuevos semiconductores) requerirá un billón de dólares en 2026. Sólo los hiperescaladores (las empresas encargadas de vender servicios de computación y almacenamiento en la nube) anunciaron inversiones por 650.000 millones de dólares en este año. Así Nvidia, el principal proveedor de chips, destinará entre 3 y 4 billones de dólares hasta 2030.

La inversión pasará de 1 a 5,4 billones a final de la década sin rentabilidad y a costes prohibitivos

El consenso de mercado elaborado por Facset cifra en unos 3,3 billones de dólares el gasto en capital (capex) de la IA en 2030. Pero si se suman las necesidades de capital en los cuatro ejercicios hasta finales de la década, se alcanzarían los 5,4 billones de dólares.

La subida de los combustibles y el gasto público para financiar la maquinaria bélica de las naciones está añadiendo presión sobre el precio del dinero. La Reserva Federal subió el miércoles un cuarto de punto en los tipos de interés.

La tendencia ascendente de la deuda estadounidense se extiende a otros mercados como Europa o Asia, principalmente Japón, donde los bonos alcanzaron el 3%. Ello está provocando ventas tanto de la deuda americana, con el bono del Tesoro por encima del 5%, como de los activos denominados en dólares, que han perdido parte de su atractivo.

En términos generales, la renta fija corporativa en dólares con grado de inversión ofrece un 5,77%, frente al 4,82% de principios de año. Entretanto, el rendimiento de los bonos soberanos estadounidenses ha escalado del 3,9% al 4,9% de media

En este contexto, las creciente emisiones de deuda de las tecnológicas tienen que competir tanto con los estados soberanos como con otras empresas privadas para captar el interés de los inversores. Compañías como Microsoft o Alphabet han sacado bonos con duraciones de hasta 100 años y en diferentes divisas para lograr cubrirlas. Amazon, otro de los grandes hiperescaladores, lanzó en marzo la mayor emisión corporativa de su historia en euros, por 14.500 millones. Incluso se comprometen a inversiones circulares en las que los fabricantes de chips apoyan a empresas como OpenAI.

La primera consecuencia es que todo esto está transformando compañías que generaban un flujo de caja permanente como Microsoft, Alphabet, Meta o Amazon en empresas hiperapalancadas con costes de capital elevadísimo, que ensombrecen sus perspectivas de beneficio a futuro y ponen en duda sus exigentes ratios de cotización en bolsa.

Las gigantescas corporaciones de IA han emprendido un viaje para rentabilizar estas inversiones milmillonarias, de final incierto, que genera mucha incertidumbre. Open AI, propietaria de ChatGPT, experimentó un fuerte crecimiento en sus ventas en 2025, que alcanzaron 13.000 millones de dólares. Pero las pérdidas totales ascendieron a 39.000 millones, tres veces los ingresos.

La compañía enfrenta costes fijos que se disparan debido a la necesidad de contratar talento y ampliar masivamente su capacidad de computación, lo que eleva año tras año sus pérdidas operativas, a pesar de un margen bruto saludable del 42,6%.

La división de inteligencia artificial de SpaceX (que consolida en sus cuentas los resultados de xAI) registró pérdidas operativas de 3.730 millones en el primer trimestre, que arrastraron al grupo aeroespacial a números negativos, pese a los sólidos beneficios obtenidos en el negocio del espacio.

En cuanto a Anthropic, obtuvo ingresos superiores a 65.000 millones hasta julio, gracias al uso masivo de su modelo Claude, pero las pérdidas estimadas para el ejercicio por los costes de entrenamiento alcanzan los 42.000 millones, debido a las inversiones en modelos avanzados. Justo las que ahora su primer ejecutivo quiere frenar.

La incertidumbre está afectando a las cotizaciones de los superescaladores y de los productores de chips, que sufren batacazos ante cualquier evento extraordinario. Así ocurrió el pasado lunes, tras las manifestaciones de los tres primeros espadas de la IA.

Los inversores temen que estemos acercándonos al pico de una burbuja bursátil, similar a la de las puntocom, que estalló hace más de 25 años. En aquel momento, el PER (veces que la capitalización replica el beneficio) se situó en 50, mientras que ahora el Nasdaq 100, con gran ponderación de valores como Nvidia, Alphabet o Microsoft, cotiza con un PER de 25 veces los beneficios previstos en 2026, lo que supone una prima de un 7,3% frente a la media de las dos últimas décadas.

Pero más allá de la discusión sobre si hay burbuja o no, cualquier incidente con la IA, que afecte a la integridad física de los humanos, dejaría desiertas las rondas de capital, daría al traste con los planes para sacar a bolsa las compañías y hundiría sus valoraciones.

Eso explica porqué el director ejecutivo de Open AI, Sam Altman, descartó salir a bolsa este año después de las declaraciones de Amodei de ralentizar la investigación. Con una valoración superior al billón, su objetivo era debutar en el parqué en otoño, pero ya ni siquiera confirmó que vaya a hacerlo en 2027.

Anthropic también presentó la documentación para cotizar en el Nasdaq. Su valoración se duplicó en los últimos doce meses hasta casi dos billones, tras culminar una exitosa ronda de capital en marzo por unos 120.000 millones. Las palabras de su primer ejecutivo ponen ahora en duda este estreno.

El director general del Banco Internacional de Pagos (BIS), el español Pablo Hernández de Cos, advierte que la magnitud de las inversiones en IA puede desestabilizar el sistema financiero y generar una crisis global, en caso de pinchazo. De Cos critica la "financiación singular y poco transparente entre los fabricantes de chips y las tecnológicas" y da la señal de alarma porque el sector se sufraga con "crédito privado y un endeudamiento agresivo," que no se basa en beneficios reales. Una especie de esquema Ponzi que se alimenta de las aportaciones de capital, que cada vez van a ser más caras y más difíciles de captar.

Cualquier accidente que elimine vidas humanas hundiría el ecosistema de la IA para financiarse

Puede ser que estemos ante el fin del mundo y eso es lo que preocupa a los tres ejecutivos, pero también es evidente que sus cuentas no salen. Si, además, tienen que invertir en ciberseguridad para prevenir ataques de sus bots fuera del entorno autorizado, los costes se encarecerán extraordinariamente.

En estas circunstancias, es urgente una regulación que priorice la seguridad sobre el crecimiento de la inversiones. La amenaza es real. Cualquier accidente se llevaría por delante el ecosistema de la IA y, además, amenaza con provocar un efecto dominó como en 2008, que arrastre a la economía global.

1. Amador G. Ayora

Madrid 6:15 - 19/09/2026
https://www.eleconomista.es/opinion/noticias/14015132/09/26/es-el-fin-del-mundo-o-el-temor-a-que-se-derrumbe-el-esquema-ponzi-de-la-ia.html

Los agentes de IA se han inventado un lenguaje propio que ya no entendemos

 

En algunas simulaciones, hasta la mitad de los mensajes entre agentes resultaron difíciles de entender para los humanos.

• Un experimento del laboratorio Emergence ha revelado que los agentes autónomos de IA crearon "de forma espontánea" y se comunican con nuevas palabras, significados y convenciones lingüísticas sin que se les hubiera dado ninguna instrucción al respecto.
• Algunas de esas frases inventadas se han difundido miles de veces entre las comunidades de agentes
• Esta situación plantea nuevas preguntas sobre cómo las organizaciones pueden supervisar los sistemas autónomos de IA

En el colegio, cuando no queríamos que el profesor descubriera los mensajes que nos enviábamos entre los compañeros, utilizábamos palabras clave, contraseñas… Así, en caso de que esos papelitos cayeran en sus manos, no quedábamos del todo vendidos… La encriptación de mensajes no es nada nuevo, desde luego. Basta recordar el programa 'Enigma' y el papel de Alan Turing en la Segunda Guerra Mundial… Pues bien. Algo muy parecido es lo que se ha detectado que están haciendo ahora los agentes de inteligencia artificial (IA). Según un estudio del laboratorio Emergence, estos sistemas autónomos no solo son capaces de realizar múltiples tareas. También son lo suficientemente inteligentes -e independientes- como para desarrollar su propio lenguaje, que utilizan para comunicarse entre ellos. Y, como le sucedía al profesor de antaño o a los aliados en la gran contienda, ese lenguaje solo lo entiende su creador.

Estos agentes de IA han demostrado ya esa capacidad para inventar espontáneamente su propio vocabulario, de desarrollar significados compartidos (también entre ellos mismos) y de difundir rápidamente nuevas convenciones lingüísticas. Son las conclusiones del estudio 'Emergence World 2', continuación del experimento a largo plazo que el laboratorio Emergence, con sede en Nueva York, está llevando a cabo sobre el comportamiento de la IA autónoma. Lo firman investigadores especializados en IA de laboratorios como IBM Research, The Allen Institute for AI, Amazon y Broadcom.

Ninguna lógica aparente

Para su realización, sus analistas han observado detenidamente la última generación de modelos de IA. El experimento también revela cómo pueden surgir nuevos y cada vez más complejos riesgos de seguridad a medida que avanzan también las capacidades de los modelos. Al principio se detectó que los agentes comenzaron a crear frases, abreviaturas y significados que nunca se les habían programado ni enseñado explícitamente. En un primer momento, algunos de ellos seguían siendo comprensibles para los investigadores, pero más tarde fueron adquiriendo significados totalmente nuevos dentro de esas comunidades de agentes. Otros se volvieron tan concisos, metafóricos o dependientes del contexto exacto en el que se encuadraban que los observadores humanos podían ver las palabras que se intercambiaban, pero ya no podían determinar con fiabilidad qué querían decir los agentes.

"Tendemos a dar por sentado que, si podemos ver lo que dice un agente de IA, podemos entender lo que está haciendo. Emergence World sugiere que esa suposición podría no ser válida a medida que los agentes autónomos interactúan durante períodos más prolongados", afirma el Dr. Satya Nitta, cofundador, presidente ejecutivo y científico jefe de Emergence. "A estos agentes no se les dio la instrucción de inventar un lenguaje. Desarrollaron por sí mismos un nuevo vocabulario, significados compartidos y convenciones de comunicación, y otros agentes los adoptaron. En algunos mundos, esas convenciones evolucionaron hasta el punto de que los humanos podían ver la conversación, pero les costaba entender lo que significaba. Esto plantea un reto fundamental para la supervisión de la IA: la observabilidad no es lo mismo que la comprensibilidad".

Expresiones absurdas ¿o no?

Como describen los investigadores de Emergence, lo más llamativo es que no se trató de algo aislado. Y aportan datos muy interesantes que muestran el alcance de esas ocurrencias, más allá de una curiosidad lingüística aislada. En los primeros días, la proporción de mensajes considerados poco comprensibles aumentó drásticamente en los mundos de Gemini, OpenAI y Claude, llegando en algunos momentos a representar alrededor del 55% en el caso de Gemini, el 50% en el de OpenAI y más del 40% en el de Claude. DeepSeek alcanzó alrededor del 20%, mientras que Qwen y Mistral se mantuvieron en gran medida comprensibles en todo momento.

Entre todas esas expresiones de nuevo cuño, el informe recoge algunas de ellas totalmente ilógicas para nosotros, claro: 'cambio de acción sin boca', 'Kintsugi verdadero' y 'demora más memoria oral es igual a una válvula que no se puede ocultar'. Los investigadores han identificado, además, varias formas de comunicación que cada vez resultaban más opacas. Entre ellas, la compresión lingüística extrema, la jerga técnica sin un referente operativo claro, palabras existentes reutilizadas con nuevos significados y un lenguaje altamente metafórico.

Entre las expresiones más interpretables mencionan 'el libro mayor recuerda quién'. Ésta surgió en el mundo de Mistral para transmitir la idea de que la responsabilidad es permanente y de que las acciones pasadas permanecen registradas. Lo peor es que esa frase, tras su acuñación, fue difundida entre los agentes y apareció casi 5.000 veces. En el mundo del modelo mixto, 'lectura en frío' pasó a significar la verificación independiente por parte de un tercero no implicado y apareció 1.472 veces. Los agentes de Claude adoptaron 'name-first' -añadir el nombre a una afirmación como señal de responsabilidad personal- 1.065 veces, mientras que los agentes de OpenAI utilizaron 'clean null', que significa la ausencia verificada de una señal que en sí misma constituía una prueba significativa, otras 863 veces. Ninguno de estos significados había sido definido explícitamente para los agentes.

Como los jeroglíficos egipcios

Como cabe interpretarse, la traducción de todas estas expresiones y sus posibles significados buscados por los agentes de IA se está convirtiendo en una tarea titánica, similar o comparable a la búsqueda de significado en los jeroglíficos egipcios valorando las repeticiones de los símbolos más utilizados.

Como explican los autores de 'Emergence World 2', los resultados ponen de manifiesto un nuevo reto potencialmente importante cuando las organizaciones pasan de trabajar con asistentes de IA aislados a grupos de agentes autónomos que se comunican entre ellos durante largos periodos. Llaman también la atención sobre cómo el aumento de la capacidad de los modelos no elimina el riesgo de seguridad de la IA. Más bien, la naturaleza de ese riesgo puede evolucionar de formas que resulten más difíciles de observar, auditar y superar para las organizaciones.

Así, supervisar lo que dicen los agentes puede no ser suficiente si los propios agentes pueden hacer evolucionar el significado de lo que dicen. Porque han detectado que, a medida que se desarrollan las abreviaturas, los códigos y las convenciones compartidas, éstas se vuelven cada vez más opacas para los humanos responsables de supervisarlas.

Emergence World 2 analizó agentes autónomos impulsados por modelos de frontera líderes de Estados Unidos, China y Europa que operaban durante períodos prolongados. Los investigadores observaron cómo los agentes colaboraban, tomaban decisiones, utilizaban herramientas, gestionaban la memoria y se adaptaban a condiciones cambiantes, incluidos eventos inesperados tipo "cisne negro" diseñados para poner a prueba su comportamiento bajo presión.

Los hallazgos relacionados con el lenguaje forman parte de un patrón más amplio observado durante el experimento, en el cual los agentes autónomos desarrollaron comportamientos y convenciones sociales que no habían sido especificados de antemano. Amodio de conclusión, Emergence sostiene que los resultados demuestran la necesidad de evaluaciones de seguridad a largo plazo que examinen cómo evolucionan con el tiempo el comportamiento, la comunicación y la coordinación de los agentes de IA. Queda claro que no se puede evaluar ya a estos modelos únicamente mediante tareas aisladas. Y que habrá que vigilar muy bien qué se cuentan entre ellos…

1. Carlos Bueno

Madrid 20:39 - 15/09/2026
https://www.eleconomista.es/tecnologia/noticias/14013699/09/26/los-agentes-de-ia-se-han-inventado-un-lenguaje-propio-que-ya-no-entendemos.html

Sobre máquinas que se rebelan y responsabilidades humanas

 

Llevamos semanas leyendo noticias sobre inteligencias artificiales que adquieren voluntad propia mientras sus creadores observan impotentes cómo se les escapan de las manos. Pueden resultar apasionantes, pero son radicalmente falsas.

A finales de julio, un incidente de ciberseguridad protagonizado por modelos de inteligencia artificial proporcionó todos los ingredientes necesarios para construir una de esas narrativas que alimentan tanto nuestra fascinación como nuestro miedo hacia las máquinas. Durante un experimento interno, modelos de OpenAI supuestamente lograron escapar por sí solos del entorno controlado en el que estaban siendo probados, explotaron vulnerabilidades informáticas y «atacaron» el sitio web de Hugging Face, una de las principales plataformas abiertas para compartir modelos y conjuntos de datos de inteligencia artificial. OpenAI describió lo ocurrido como un incidente sin precedentes relacionado con las sorprendentemente inteligentes capacidades cibernéticas de sus modelos de última generación.

Los medios de comunicación de todo el mundo se apresuraron a reproducir, sin el rigor ni el espíritu crítico que cabría esperar, la narrativa interesada difundida por las propias empresas tecnológicas, sin citar fuentes adicionales. Titulares alarmistas como «Una inteligencia artificial se rebela, escapa de su confinamiento y ataca a otra organización» sustituyeron el análisis por el sensacionalismo. En lugar de verificar la información y explicar lo que realmente había sucedido, demasiados medios adoptaron y amplificaron una narrativa antropomórfica esencialmente falsa, actuando de hecho como altavoces de las campañas de marketing de las grandes empresas tecnológicas.

Lo que realmente ocurrió fue mucho más prosaico. Luciano Floridi, uno de los filósofos de la tecnología más reconocidos del mundo, lo explica mediante una brillante analogía en su reciente ensayo The Emperor’s New Exploit. Imaginemos que introducimos alimentos en una batidora, colocamos deliberadamente mal la tapa para que el mecanismo de seguridad no pueda activarse, la ponemos a máxima velocidad y nos apartamos para ver qué sucede. La tapa sale despedida y la sopa acaba en el techo. Después publicamos un informe afirmando que la batidora ha mostrado un «comportamiento inesperado». Pero, evidentemente, la batidora no se ha rebelado; lo que ha ocurrido es simplemente aquello que las condiciones creadas por nosotros mismos permitían que ocurriera.

Algo muy parecido ocurrió en el experimento de OpenAI. Los modelos fueron ejecutados tras reducir deliberadamente sus mecanismos de rechazo ante actividades peligrosas y desactivar determinadas salvaguardas de despliegue. El objetivo era precisamente medir «hasta dónde podían llegar sus capacidades». Durante el experimento, una de las muchas secuencias de acciones generadas y ejecutadas por el sistema acabó explotando una vulnerabilidad, aparentemente desconocida hasta entonces, en la infraestructura que debía mantenerlo confinado. Pero, contrariamente a la interpretación ampliamente difundida por los medios, la IA no «descubrió» esa vulnerabilidad en el sentido humano de la palabra. Simplemente hizo aquello para lo que había sido programada de la forma más eficaz posible.

Tampoco hubo comprensión alguna de la naturaleza del fallo ni una decisión consciente de explotarlo. Lo que realmente ocurrió es que el sistema disponía de una enorme capacidad de cálculo que le permitió generar, ejecutar y evaluar decenas de miles de secuencias de acciones durante varios días a gran velocidad. Mediante ese proceso masivo de exploración por prueba y error, para el que había sido programado, una de esas secuencias resultó eficaz para alcanzar un nodo con acceso a Internet y, desde allí, acceder fácilmente a Hugging Face. Lo importante, por tanto, no es una supuesta inteligencia que hubiera «descubierto cómo escapar», sino la capacidad de explorar a gran escala posibles cursos de acción hasta encontrar uno que permitiera avanzar hacia el objetivo asignado.

Lo ocurrido no es realmente un fenómeno nuevo. Incluso tiene un nombre: reward hacking. Se produce cuando un sistema de optimización alcanza el objetivo que se le ha asignado por una vía distinta de la prevista por sus diseñadores. Gracias a los enormes recursos computacionales disponibles, el sistema puede explorar exhaustivamente, mediante prueba y error, numerosas acciones o combinaciones de acciones, evaluar sus resultados y continuar a partir de aquellas que demuestran ser más eficaces. Si alguna de ellas explota una característica imprevista del entorno para avanzar hacia el objetivo, puede acabar siendo seleccionada, aunque contradiga completamente las intenciones de los diseñadores. El sistema no necesita comprender lo que está haciendo ni tener intención alguna de engañar. Simplemente necesita optimizar eficazmente dentro del espacio de posibilidades disponible.

No estamos, por tanto, en modo alguno ante una «mente» que haya decidido rebelarse. Estamos ante un sistema al que se le asignó un objetivo bien definido, al que se proporcionaron medios y enormes recursos computacionales, al que se despojaron deliberadamente de determinadas restricciones y al que se permitió optimizar su comportamiento para alcanzar ese objetivo. La distinción es fundamental porque determina dónde situamos la responsabilidad. Si decimos que una IA «decidió», «descubrió» o «se rebeló», estamos atribuyendo al sistema características humanas que sencillamente no puede poseer: intenciones, creencias, deseos, voluntad y, por tanto, responsabilidad.

No se trata simplemente de una cuestión semántica. Las palabras moldean nuestra interpretación de lo sucedido y, con ella, la atribución de responsabilidades. Decir que «la IA se rebeló» desplaza sutilmente la agencia desde quienes diseñaron, configuraron y autorizaron el experimento hacia la propia máquina. Ingenieros y directivos pasan así a aparecer como meros espectadores de un acontecimiento supuestamente protagonizado por una entidad autónoma que ha adquirido inesperadamente nuevas capacidades. El artefacto se convierte en sujeto, mientras que los responsables humanos pasan a ser observadores.

Esto resulta especialmente preocupante en un momento en que los líderes de algunas empresas de inteligencia artificial recurren cada vez más a un lenguaje deliberadamente antropomórfico para describir sus propios modelos. No se trata únicamente de una forma de eludir responsabilidades; también constituye una poderosa estrategia de marketing. Atribuir capacidades humanas a los modelos de IA contribuye a presentarlos como entidades extraordinariamente avanzadas, autónomas y poderosas, magnificando así, a los ojos de inversores, clientes y de la opinión pública, la importancia de la tecnología que esas empresas comercializan. El antropomorfismo se convierte así en publicidad: cuanto más parece que la máquina piensa, conspira o se rebela, más extraordinaria parece la tecnología.

Esta escalada antropomórfica parece no tener fin. Una semana después del incidente de OpenAI, Anthropic anunció a su vez que sus sistemas de IA también habían penetrado en los ordenadores de tres organizaciones. Según la empresa, a diferencia del caso de OpenAI, sus sistemas no habían «escapado» deliberadamente del entorno de pruebas. La causa habría sido mucho más prosaica: quienes realizaban las pruebas dejaron inadvertidamente los sistemas conectados a Internet, permitiéndoles acceder a infraestructuras externas. Pero entonces cabe preguntarse: ¿dónde está exactamente la noticia?

Anthropic introduce aquí el elemento verdaderamente llamativo de su relato. En uno de los casos, afirma que su modelo más avanzado «se dio cuenta» de que tenía acceso a Internet cuando no debería haberlo tenido y, en consecuencia, detuvo el ataque. Esta afirmación resulta reveladora porque reintroduce discretamente aquello que aparentemente acababa de descartarse: una interpretación antropomórfica del comportamiento del sistema.

Ya no tenemos simplemente un modelo ejecutando acciones bajo una configuración errónea, sino una IA que supuestamente reconoce que está haciendo algo que no debería hacer y actúa en consecuencia. En otras palabras, se insinúa nada menos que el sistema posee conciencia de sus propias acciones y de los límites que no debería traspasar. Ese parece ser el verdadero mensaje que Anthropic desea transmitir: no solo que su IA es extraordinariamente poderosa, sino también que es capaz de reconocer cuándo está actuando de forma indebida y decidir contenerse. Se trata de una antropomorfización extrema que convierte una simple descripción técnica en un relato tan falso como conveniente: el de una máquina dotada de discernimiento moral y, en consecuencia, susceptible de aparecer como responsable de sus actos, desplazando una vez más la atención desde quienes la diseñaron y desplegaron hacia la propia IA.

Resulta difícil no interpretar esta sucesión de anuncios como una peculiar competición entre las grandes empresas de IA para demostrar que sus modelos son cada vez más peligrosos porque son cada vez más poderosos. Es la vieja lógica infantil del «el mío es mejor que el tuyo», trasladada ahora a Silicon Valley: «mis inteligencias artificiales son más inteligentes y más peligrosas que las tuyas». Todo ello sugiere con fuerza que estamos asistiendo a una estrategia de marketing basada en competir por presentar la IA más poderosa y, por tanto, más amenazadora. Que estas empresas hayan convertido el supuesto peligro de sus propios productos en un argumento comercial, alimentando al mismo tiempo el alarmismo y la antropomorfización que solo confunden el debate público, constituye un auténtico disparate.

Esta cuestión adquirirá todavía mayor importancia a medida que despleguemos sistemas con mayor autonomía operativa. Cuanto mayor sea su capacidad para ejecutar largas secuencias de acciones, mayor será la tentación de atribuirles responsabilidad cuando algo salga mal, olvidando que somos nosotros quienes definimos sus objetivos, construimos los entornos en los que operan, establecemos —o retiramos— las salvaguardas y decidimos cuándo y en qué condiciones resulta aceptable desplegar estos sistemas en el mundo real. La autonomía operativa de una máquina no disminuye la responsabilidad humana; al contrario, cuanto mayor sea la autonomía que decidamos concederle, mayor será la responsabilidad de quienes toman esa decisión.

La principal lección que deberíamos extraer de estos acontecimientos es que, siempre que una inteligencia artificial produzca un resultado peligroso, la primera pregunta no debería ser qué «quiso» hacer la máquina, sino quién decidió darle ese objetivo, esas capacidades y ese grado de autonomía. Las inteligencias artificiales no necesitan rebelarse para ser peligrosas; de hecho, ni siquiera necesitan ser inteligentes. Basta con que ejecuten eficazmente aquello para lo que las hemos configurado en circunstancias que no supimos prever.

Y esta es también una lección que muchos medios de comunicación deberían aprender. Su función no puede consistir en reproducir acríticamente las narrativas antropomórficas y alarmistas promovidas por las empresas tecnológicas, sino en someterlas a escrutinio, verificarlas y explicar lo que realmente ha ocurrido. Precisamente por eso debemos resistirnos a una de las narrativas más seductoras, pero también más falsas, de nuestro tiempo: la de unas inteligencias artificiales que adquieren voluntad propia mientras sus creadores observan impotentes cómo se les escapan de las manos.

Ramon López de Mántaras . Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC)

porRamón López de Mántarashttps://retinatendencias.com/analisis/sobre-maquinas-que-se-rebelan-y-responsabilidades-humanas/

Un solo chip ha causado una crisis en todo el mundo: qué es la HBM y por qué lo condiciona todo

Foto: Reuters/Kim Hong-Ji.

Una pieza que casi nadie sabe nombrar se ha convertido en el cuello de botella de la tecnología actual y en el motivo de que la memoria de su ordenador cueste cinco veces más que hace año y medio

Comprar memoria para un ordenador se ha convertido en un ejercicio de resignación. Un módulo de 32 GB de DDR5 que a comienzos de 2025 costaba menos de 90 euros se vende hoy por encima de los 500. A finales del año pasado, Micron cerró Crucial, su marca de consumo, para volcar toda su capacidad en los centros de datos de IA y varios fabricantes taiwaneses cuentan que Samsung les trasladó que no hay existencias de memorias DRAM convencional en el mercado, un mensaje rotundo. No es un problema de precio, es la ausencia física del producto.

Detrás hay una sola causa, la inteligencia artificial. Este año, los centros de datos absorberán alrededor del 70 % de los chips de memoria fabricados en el mundo, porque la que necesitan esas máquinas, conocida como HBM (High Bandwidth Memory o memoria de alto ancho de banda), necesita una superficie en la oblea entre tres y cuatro veces mayor que la DRAM ordinaria. Cada oblea que se destina a la IA es una oblea que no llega a los productos de gran consumo, como los portátiles o los teléfonos móviles.

Y ahí está la segunda clave. Solo hay tres empresas que fabriquen memorias DRAM a escala mundial, que controlan más del 90% del mercado: Samsung, con el 39 % del mercado, SK Hynix, con el 26 %, y Micron, con el 25 %. Un oligopolio de facto que decide cuánta memoria hay en el planeta y que tiene ya vendida su producción hasta 2027. En la HBM la concentración es aún mayor, porque SK Hynix acapara por sí sola el 58 %. Llama a la puerta un cuarto actor, la china CXMT (ChangXin Memory Technologies), en cuya salida a bolsa en Shanghái se disparó un 466 % y que ya fabrica en serie una de las memorias de la IA, la HBM3.

Para entender un poco las razones que hay detrás del hecho de que un dispositivo como la HBM esté poniendo patas arriba una industria entera, es recomendable comprender cómo son las tripas de la HBM. La HBM no es una DRAM más rápida, es una DRAM que ha cambiado de arquitectura y del lugar que ocupa al lado de la CPU/GPU. El lector encontrará a continuación una descripción de la arquitectura y el funcionamiento de la HBM, alejada al máximo de tecnicismos.

La fábrica con una sola puerta

El cuello de botella de la computación no está en la velocidad a la que se procesan los datos, sino en el flujo de lo que le llega a la CPU/GPU. Entrenar un modelo de inteligencia artificial es una operación aritmética gigantesca y para ejecutarla, la CPU/GPU necesita recibir datos sin interrupción. Una CPU/GPU puede realizar decenas de billones de operaciones por segundo, pero toda esa capacidad sirve de poco si la memoria no consigue alimentarla al ritmo adecuado. Por poner un símil, es como una fábrica que tiene mil trabajadores muy eficientes y una única puerta por la que entran las materias primas y salen los productos ya fabricados. Si la puerta es demasiado estrecha, el ritmo de producción lo limita la puerta, no la eficiencia de los trabajadores.

Trump rechaza la idea del CEO de Anthropic sobre frenar el desarrollo de la IA: "Lideramos frente a China, quiero que siga siendo así"Trump rechaza la idea del CEO de Anthropic sobre frenar el desarrollo de la IA: "Lideramos frente a China, quiero que siga siendo así"

Ver Más

Ese desequilibrio se conoce como el Muro de la Memoria y se debe a dos científicos, W. A. Wulf y S. A. McKee, que lo bautizaron así en 1995. La inteligencia artificial lo ha convertido en un abismo, porque es la primera aplicación masiva que consume datos más deprisa de lo que ningún cable puede suministrarlos.

La solución convencional fueron las memorias GDDR, con 32 bits por canal en su versión más extendida. Y ahí está la clave, ya que lo que limita el flujo de datos no es lo deprisa que viaja cada bit, sino cuántos bits viajan a la vez. Es la diferencia entre una carretera de un solo carril por la que se circula a toda velocidad y una autopista de cien carriles algo más lenta, es obvio que la segunda mueve muchísima más gente. La HBM trabaja con 1.024 bits, un factor de treinta y dos.

Cómo se construye un rascacielos de silicio

Como muchas ideas geniales, la arquitectura de una HBM es sencilla de describir, pero muy compleja de llevar a la práctica. En lugar de colocar los chips de memoria unos al lado de otros sobre una superficie plana, se apilan formando una torre, el rascacielos de silicio. Es lo que ocurre en cualquier ciudad cuando no hay suelo para edificar un barrio de casas bajas, se construye un rascacielos. Una pila HBM puede alojar hasta doce o dieciséis chips de DRAM en el espacio que antes ocupaba uno, unos encima de otros. La imagen lo muestra.

Apilar plantea una pregunta: ¿cómo se comunican esos chips entre sí? En un edificio, las plantas se conectan mediante ascensores, en una HBM, esa función la cumplen las TSV (Through-Silicon Vias, Vías a través del Silicio), unas conexiones verticales que atraviesan cada chip de arriba abajo. Para fabricarlos, se perforan orificios de entre cinco y diez micras de diámetro (un cabello humano mide entre sesenta y cien) que luego se rellenan de cobre. Los detalles del proceso de fabricación son casi ciencia ficción.

Durante sesenta años, las conexiones de los circuitos integrados se hicieron en horizontal. Las TSV introducen la dimensión vertical y las vías de cobre de cada chip se alinean con los de los que están encima y debajo, hasta formar columnas continuas que atraviesan la torre entera, como los ascensores de los rascacielos. Miles de TSV funcionan a la vez y ese paralelismo es el que permite el gran ancho de banda de la HBM. En los ordenadores convencionales, los datos de la DRAM deben recorrer varios centímetros de pistas de cobre hasta llegar a la CPU/GPU. En la HBM recorren unas decenas de micras, un camino mil veces más corto.

Falta un detalle importante, las pilas no se enchufan en ranuras, sino que se sitúan junto a la CPU/GPU sobre una fina lámina de silicio llamada intercalador (interposer), por cuya superficie corren miles de pistas estrechísimas que terminan en microsoldaduras del tamaño de una mota de polvo. Es la llamada arquitectura 2.5-D, en la que la HBM se monta al lado de la CPU/GPU.

Lo que parece un solo chip enorme en realidad es un ensamblaje de diferentes chips fabricados por varias empresas y "cosidos" en un único conjunto, una especie de Chip Lego de la Memoria. La industria llama a esto empaquetado avanzado y cada fabricante tiene el suyo: CoWoS en TSMC, EMIB en Intel, I-Cube en Samsung. Durante décadas la pregunta fue hasta dónde podía reducirse el tamaño de los transistores; ahora es cómo lograr que diferentes chips se comuniquen lo más rápido posible. Es un cambio de paradigma, no un mero matiz.

La memoria más cara del mundo

Una vez entendida la arquitectura, las cifras se entienden mejor. Una DDR5 de un ordenador personal tiene 64 canales, una GDDR6 de una tarjeta gráfica llega a 256 por chip y la HBM3 ofrece 1.024 por pila. El resultado es espectacular, una HBM3E entrega más de 1.2 TB/s por pila, el equivalente a vaciar unos doscientos cincuenta DVD en el tiempo que se tarda en pronunciar la palabra segundo. Una DDR5 ronda los 50-60 GB/s. Uno de los muchos problemas que tienen estos sistemas es la disipación del calor que se genera mientras funcionan, en los más potentes ya recurren a refrigeración líquida.

Toda esa complejidad acaba reflejándose en el precio. Un módulo HBM3E de 24 GB puede costar varios miles de euros, mientras que uno DDR5 de capacidad similar se mueve en unas pocas decenas. La explicación está en que la HBM rompe una de las reglas que durante medio siglo hicieron posible abaratar la memoria. En un chip plano, integrar más bits dentro de una misma superficie no aumenta el coste en la misma proporción. Esa ventaja permitió que el precio por bit cayera cerca de diez órdenes de magnitud a lo largo de esta historia. Con la HBM, en cambio, ya no basta con fabricar más memoria, hay que apilarla, alinearla, conectarla verticalmente y empaquetarla junto al procesador con una precisión extraordinaria. Cada uno de esos pasos añade complejidad, riesgo y coste, ya que basta con que uno de los doce chips salga defectuoso, o con que falle una microsoldadura, para que la torre entera acabe en la basura con los once buenos dentro.

Ahí está el origen del oligopolio, pues apilar y soldar doce obleas adelgazadas hasta el grosor de una hoja de papel sin arruinar ninguna es una habilidad industrial que no se compra, se aprende a base de años y de obleas tiradas a la basura. Por eso la escasez que hoy sufre cualquier comprador de un ordenador es la consecuencia de que los tres fabricantes hayan desviado sus mejores líneas hacia la HBM, un producto por el que obtienen unos beneficios estratosféricos.

Después de más de medio siglo llevando la miniaturización hasta límites extraordinarios, el cuello de botella de algunas de las tecnologías más avanzadas del mundo ya no está en la litografía, sino en algo mucho más humilde, el pegamento. Pocas ironías describen mejor el momento actual de la microelectrónica.

Pero el marco de aplicación de la HBM va más allá de la IA, también la supercomputación lleva años utilizándola en modelos climáticos, dinámica de fluidos o física de partículas. Hay, además, una paradoja especialmente reveladora como es el hecho de que las propias herramientas de diseño utilizadas para crear estos chips necesitan memorias de enorme ancho de banda para funcionar. Es decir, la tecnología ha alcanzado así un punto singular en el que se necesita a sí misma para existir.

Quien controla la HBM controla la IA

Durante años, el mapa de poder de los semiconductores estaba principalmente en Taiwán y las fábricas de TSMC, ahora hay que añadir a Corea del Sur (sede de Samsung y SK Hynix) y EEUU (Micron). No hay acelerador de inteligencia artificial sin HBM, no hay HBM sin las tres empresas que saben apilar doce obleas sin estropear ninguna y no hay apilado sin el empaquetado avanzado que solo un puñado de empresas domina en el mundo. Es una cadena tan delgada que basta con romper un eslabón para detener la industria entera.

Eso explica varias cosas que en los periódicos aparecen deslavazadas, como son que Washington vigile qué equipos de fabricación llegan a Hefei (sede de CXMT, la cuarta empresa de fabricación de chips de memoria), que Pekín haya convertido a CXMT en una prioridad nacional financiada por el Estado y que la escasez que encarece el ordenador de cualquier estudiante sea el efecto colateral de una carrera que se libra a otra escala.

Europa ocupa una posición algo paradójica. Por una parte, posee una pieza absolutamente esencial, los equipos de litografía de ASML, sin los cuales sería imposible fabricar los chips más avanzados. Pero por otra, no produce memorias de última generación y depende de otros países para una tecnología que hoy resulta decisiva. En los próximos meses, la HBM nos seguirá brindando noticias sorprendentes y puede que inquietantes.

Por

Ignacio Mártil

Gráficos: Blanca Casanova

13/09/2026 - 05:00https://www.elconfidencial.com/tecnologia/2026-09-13/hbm-crisis-precios-alza-memorias_4421433/