Oracle y AMD anunciaron una colaboración estratégica para llevar las nuevas GPU AMD Instinct MI355X a Oracle Cloud Infrastructure (OCI), convirtiendo a Oracle en uno de los primeros proveedores de nube en ofrecer supercomputación de inteligencia artificial a zettaescala.
OCI desplegará un nuevo clúster de IA con hasta 131.072 GPU MI355X, diseñado para soportar cargas de trabajo exigentes de entrenamiento, inferencia y aplicaciones autónomas de inteligencia artificial a gran escala. Según las compañías, esta infraestructura permitirá a los clientes duplicar la relación precio-rendimiento en comparación con la generación anterior.
«Con el fin de brindar apoyo a aquellos clientes que ejecutan las cargas de trabajo de IA más exigentes en la nube, nos comprometemos a proporcionar las ofertas de infraestructura de IA más completas», señala Mahesh Thiagarajan, vicepresidente ejecutivo de Oracle Cloud Infrastructure. «Las GPU AMD Instinct, junto con el rendimiento, las redes avanzadas, la flexibilidad, la seguridad y la escala de OCI, ayudarán a nuestros clientes a satisfacer sus necesidades de inferencia y entrenamiento para cargas de trabajo de IA y nuevas aplicaciones de IA autónoma».
Para responder a la creciente demanda de aplicaciones de inteligencia artificial que procesan conjuntos de datos cada vez más complejos, Oracle presentó un nuevo superclúster de IA a zettaescala impulsado por las GPU AMD Instinct MI355X. Esta infraestructura permite escalar hasta 131.072 GPU gracias a una red RDMA de ultra baja latencia y alto rendimiento, ideal para entrenar modelos de IA generativa de gran escala. Las nuevas MI355X triplican la potencia de cómputo de la generación anterior y ofrecen un 50 % más de memoria de gran ancho de banda, convirtiéndose en una de las plataformas más potentes del mercado para desarrollos de IA avanzada.
«AMD y Oracle tienen una historia compartida proporcionando a los clientes soluciones abiertas que ofrecen un rendimiento y una eficiencia elevados, así como una mayor flexibilidad de diseño de los sistemas», afirma Forrest Norrod, vicepresidente ejecutivo y director general del grupo empresarial de soluciones de centros de datos de AMD.
El nuevo clúster aprovecha una red de interconexión RDMA de alta velocidad y baja latencia, optimizada para escalar con las últimas GPU de AMD. Las MI355X ofrecen casi el triple de potencia de cómputo y un 50% más de memoria de alto ancho de banda respecto a la generación anterior, con 288 GB de HBM3 y hasta 8 TB/s de ancho de banda.
Además de un rendimiento superior, las nuevas GPU incorporan soporte para FP4 (punto flotante de 4 bits), un estándar emergente clave para ejecutar modelos generativos y LLMs de forma más eficiente. Esto permitirá reducir la latencia y mejorar los tiempos de inferencia con menor consumo de recursos.
El diseño de la infraestructura incluye 64 GPU por rack, refrigeración líquida y una densidad de hasta 125 kW por rack, orientada a acelerar tiempos de entrenamiento y reducir cuellos de botella. Los nodos principales estarán impulsados por CPU AMD Turin de alta frecuencia con hasta 3 TB de memoria de sistema.
La solución también incluye una pila de software abierta con AMD ROCm, que permite migrar cargas de trabajo sin depender de proveedores específicos, y será la primera en incorporar las nuevas NIC AMD Pollara AI, con funciones avanzadas de RoCE y soporte para los estándares abiertos del Ultra Ethernet Consortium (UEC). “La combinación de las GPU Instinct y las nuevas NIC Pollara en OCI abre la puerta a nuevos casos de uso en inferencia, ajuste y entrenamiento de IA”, concluye Norrod.
