IBM y AMD han anunciado una colaboración para desplegar aceleradores AMD Instinct MI300X como servicio en IBM Cloud, lo que permitirá al servicio mejorar el rendimiento y eficiencia energética para los modelos de Inteligencia Artificial (IA) Generativa y cómputo de alto rendimiento (HPC) para clientes empresariales.
A sólo un par de meses desde su presentación, los aceleradores Instinct MI300X de AMD serán incluidos en la oferta de IBM Cloud a partir de la primera mitad del 2025. La colaboración entre ambas compañías también permitirá utilizar estos componentes en la plataforma de IA y datos watsonx de IBM, así como el soporte de inferencias de IA de Red Hat Enterprise Linux.
La más reciente iteración de los aceleradores está compuesta por Instinct MI325X, que entre sus características cuenta con soporte para 256 GB de HBM3E y ancho de banda de hasta 6 TBps, lo que permite ofrecer 1.8 veces más capacidad y 1.3 veces más ancho de banda que el H200 de Nvidia. AMD asegura también que este procesador ofrece 1.3 veces más rendimiento teórico máximo de cálculo FP16 y FP8 que la H200.
“A medida que las empresas continúan adoptando modelos y conjuntos de datos de IA más grandes, es fundamental que los aceleradores dentro del sistema puedan procesar cargas de trabajo de cómputo intensivo con alto rendimiento y flexibilidad para escalar”, dijo Philip Guido, vicepresidente ejecutivo y director comercial de AMD.
El directivo también destacó la importancia de la plataforma ROCm de AMD con soporte para las plataformas de IBM, watsonx AI, Red Hat Enterprise Linux AI y Red Hat OpenShift AI.
Tras la introducción de la serie Instinct en 2016, AMD ha mostrado una ganancia sostenida en su participación del mercado de servidores. Al tercer trimestre de este año, la compañía generó 33.9 por ciento de las ventas de procesadores para servidores, 2.7 puntos porcentuales más que el mismo periodo del 2023, según el más reciente informe de Mercury.
“AMD e IBM Cloud comparten la misma visión en torno a llevar la IA a las empresas. Estamos comprometidos a llevar el poder de la IA a los clientes empresariales, ayudándoles a priorizar sus resultados y asegurando que tengan el poder de elección cuando se trata de sus despliegues de IA”, dijo Alan Peacock, director General de IBM Cloud.
La colaboración entre ambas compañías incluye la oferta de aceleradores MI300X como servicio en IBM Cloud para apoyar a los clientes empresariales que aprovechan la IA. Esto también incluye el acceso a las capacidades de seguridad y cumplimiento de IBM Cloud para los clientes con mayores requisitos regulatorios y normativos.
Para las cargas de trabajo de inferencia de IA Generativa, IBM planea habilitar el soporte para los aceleradores AMD Instinct MI300X dentro de la plataforma de datos e IA watsonx de IBM, proporcionando a los clientes recursos de infraestructura para escalar sus cargas de trabajo de IA en entornos de Nube híbrida. Además, las plataformas Red Hat Enterprise Linux AI y Red Hat OpenShift AI pueden ejecutar modelos de lenguaje de gran tamaño (LLM) de la familia Granite con herramientas de alineación utilizando InstructLab en aceleradores MI300X.
Los aceleradores estarán incluidos en IBM Cloud Virtual Servers para VPC, así como a través del soporte de contenedores con IBM Cloud Kubernetes Service e IBM Red Hat OpenShift en IBM Cloud, lo que puede ayudar a optimizar el rendimiento para las empresas que ejecutan aplicaciones de IA.