Ha descubierto cómo potenciar la competitividad de China en IA frente a EE. UU.

Hace dos días se reveló algo muy interesante: el medio estatal chino Securities Times divulgó que Huawei estaba a punto de presentar un avance tecnológico que buscaba reducir la dependencia de China de los chips de memoria HBM (High Bandwidth Memory) procedentes del extranjero. Según esta fuente, Huawei iba a hacer un anuncio oficial sobre su hito tecnológico unas horas después, durante la celebración en Shanghái (China) del Foro de Aplicaciones y Desarrollo de Razonamiento de IA Financiera 2025.

Huawei ha cumplido con sus promesas, aunque no de la manera que esperábamos. Es importante recordar que los fabricantes chinos de chips de memoria todavía no producen soluciones capaces de competir con las memorias más avanzadas de las compañías surcoreanas Samsung y SK Hynix, o la estadounidense Micron Technology. Las GPU para IA dependen en gran medida de los chips de memoria HBM, y su rendimiento está, en gran parte, condicionado por estas memorias.

Como explican los editores de SemiAnalysis, el ancho de banda total de los chips de memoria HBM3, que trabaja junto a algunas de las GPU para IA más avanzadas de NVIDIA o AMD, supera los 819 GB/s, mientras que las memorias DDR5 y GDDR6X tienen velocidades más modestas de 70,4 GB/s y 96 GB/s, respectivamente. Las memorias HBM3E y las futuras HBM4 son aún más avanzadas. Sin embargo, los fabricantes chinos aún no producen este tipo de memorias, pero Huawei parece estar en camino de alterar esta situación.

Un algoritmo diseñado expresamente para acelerar la inferencia en IA

La filtración que se produjo hace poco sugería que Huawei iba a anunciar una tecnología de empaquetado de vanguardia, posiblemente rivalizando con las que utilizan SK Hynix, Samsung o Micron para producir sus memorias HBM3 y 3E. Fabricar estos circuitos integrados es complicado, ya que requieren apilar varios chips DRAM e implementar una interfaz entre la XPU (eXtended Processing Unit) y los chips HBM, que son extraordinariamente densos. Por ejemplo, en una pila HBM3E, la XPU y la memoria HBM están enlazadas a través de más de 1.000 conductores.

Sin embargo, finalmente Huawei ha presentado una tecnología diferente: un avanzado algoritmo denominado UCM (Unified Cache Manager) que, según la compañía, es capaz de acelerar drásticamente la inferencia en los grandes modelos de inteligencia artificial (IA). Cabe destacar que la inferencia es, en términos generales, el proceso computacional que realizan los modelos de lenguaje para generar las respuestas a las solicitudes que reciben.

Para lograr su propósito, el algoritmo UCM utiliza una estrategia ingeniosa: decide en qué tipo de memoria es necesario almacenar cada dato, tomando como indicador fundamental los requisitos de latencia. En la práctica, este algoritmo actúa como una caché gigantesca que asegura que cada dato sea asignado a la memoria adecuada, incluida la HBM3, minimizando así la latencia durante la inferencia. Si el dato se utiliza con frecuencia, se almacenará en una memoria muy rápida, como la HBM3. Según Huawei, esta tecnología es capaz de reducir la latencia de la inferencia en un 90%. Curiosamente, la compañía planea hacer que el algoritmo UCM sea de código abierto en septiembre.

Más información | SCMP