Huawei Technologies presentó su sistema CloudMatrix 384, una solución para atender las más demandantes cargas de trabajo de Inteligencia Artificial (IA), y que supuestamente sería capaz de competir con la solución más avanzada de Nvidia, el GB200 NVL72. Sin embargo, análisis de sitios especializados apuntan que el sistema chino también consumiría hasta cuatro veces más energía que su par estadounidense.
Durante la Conferencia Mundial de Inteligencia Artificial (WAIC), celebrada en Shanghái, China, Huawei presentó CloudMatrix 384, un sistema compuesto principalmente con sus chips Ascend 910C, además de múltiples avances tecnológicos en términos de networking, óptica y software.
La presentación del sistema se produce en un momento relevante en el que China está buscando acelerar sus capacidades de entrenamiento de IA mediante la construcción y desarrollo de infraestructura propia, incluyendo chips y servidores. El país asiático está sujeto a múltiples restricciones comerciales del gobierno estadounidense para acceder a tecnología avanzada en esta materia, desarrollada actualmente por Nvidia.
Hasta ahora, Huawei se ha colocado como la principal alternativa china para el desarrollo de la infraestructura requerida para cargas de trabajo avanzadas de IA, principalmente entrenamiento de modelos. Sin embargo, el gobierno estadounidense también ha acusado a la compañía de haber infringido los controles de exportación para el desarrollo de sus chips Ascend 910, por lo que ha prohibido su adquisición para compañías estadounidenses.
Según información publicada por Semianalysis, CloudMatrix 384 incorpora 384 de los últimos chips 910C de Huawei, con lo que podría ofrecer hasta 300 PFLOPs de cómputo denso BF16, cerca de 166% más respecto al GB200 NVL72. Asimismo, al contar con más de 3.6 veces la capacidad de memoria agregada y 2.1 veces más ancho de banda de memoria, este sistema bien podría superar la oferta de su competidor estadounidense.
Más allá de los chips, que aún se mantienen con un rendimiento por vatio 2.3 veces por debajo de la oferta de Nvidia, Huawei habría logrado este nuevo hito basado en innovaciones a nivel de sistema. Por ejemplo, utiliza una arquitectura de “supernodo” que permite que los chips se interconecten a velocidades ultrarrápidas.
En ese sentido, un análisis de Tom’s Hardware reveló que al considerar la presencia de 384 procesadores y un rendimiento de 300 PFLOPs, CloudMatrix 384 de Huawei requiere de una potencia de 559 kW, mientras que el GB200 NVL72 de Nvidia consume 145 kW.
La reciente presentación de este sistema por parte de Huawei ha vuelto a generar interrogantes sobre la efectividad de las restricciones comerciales impuestas por el gobierno estadounidense. Estas dudas persisten tanto en lo que respecta al desarrollo tecnológico interno, como a la capacidad de China para introducir en el mercado soluciones que podrían ser tan o más atractivas que las opciones norteamericanas. Esto es especialmente relevante en países en desarrollo, donde el precio podría ser, una vez más, un factor determinante en la decisión de compra.