AMD anuncia las GPUs Instinct MI350P PCIe para IA empresarial

A medida que las organizaciones adoptan la IA, muchas descubren que su infraestructura tiene dificultades para mantenerse al día. Ejecutar la IA en la nube es una opción, pero esta puede generar problemas de privacidad y costes impredecibles. Actualizar la infraestructura local es otra alternativa, pero dar soporte a grandes plataformas de aceleración por GPU puede requerir rediseños costosos en la alimentación y la refrigeración del centro de datos.

Nuestras nuevas tarjetas AMD Instinct MI350 PCIe ofrecen a su empresa una tercera opción: un rendimiento de IA líder diseñado para adaptarse a la infraestructura del centro de datos que ya posee.

Rendimiento que se integra fácilmente en tus racks existentes.

Diseñadas para ayudarle a prepararse para la era de la IA con agentes, las tarjetas AMD Instinct MI350P PCIe son tarjetas de doble ranura compatibles con servidores estándar refrigerados por aire. Están diseñadas para implementar la inferencia en sus propias instalaciones, dentro de la infraestructura de alimentación, refrigeración y rack de su centro de datos actual. Las GPU AMD Instinct en tarjetas PCIe rentables completan la cartera de computación para IA de AMD, ofreciendo una variedad de opciones para su empresa a medida que avanza en su curva de adopción de IA.

El formato de tarjeta PCIe es una excelente opción para empresas que necesitan mayor potencia de cálculo para IA que la que ofrecen las CPU, pero que aún no están listas para invertir en plataformas aceleradoras de GPU dedicadas. Disponibles en sistemas refrigerados por aire con hasta ocho tarjetas aceleradoras, las tarjetas AMD Instinct MI350P PCIe son ideales para modelos de IA pequeños, medianos y grandes, tanto para inferencia como para pipelines RAG.

No te limites a escalar la IA. Escala el retorno de la inversión.

Las tarjetas AMD Instinct MI350P PCIe están diseñadas para ofrecer un rendimiento de IA excepcional con una excelente relación costo-beneficio y un liderazgo en el mercado. Sus características clave ayudan a aumentar el rendimiento, simplificar la implementación y reducir los costos, para que pueda pasar de la evaluación a los resultados reales.

• Compatibilidad nativa con los lectores de tarjetas MXFP6 y MXFP4 de menor precisión, que ofrecen un alto rendimiento.
• Aceleración mediante soporte para datos dispersos en la mayoría de las precisiones de 8 y 16 bits más comunes.
• Se estima un rendimiento de 2299 teraflops (TFLOPS) y hasta 4600 TFLOPS de pico en MXFP4, el mayor rendimiento disponible actualmente en una tarjeta PCIe empresarial.
• Se estima que cuenta con 144 GB de memoria de alto ancho de banda 3e (HBM3E) con una velocidad de hasta 4 TB/s.
• El ecosistema abierto, con opciones de desarrollo de bajo coste o gratuitas, simplifica la implementación y ayuda a reducir los gastos operativos.

Software de IA empresarial: Desarrolle con su propia plataforma de IA. A su manera, hoy mismo.

Hemos desarrollado tarjetas AMD Instinct MI350P PCIe con estándares abiertos para la interoperabilidad multiplataforma. Su incorporación da continuidad a nuestra estrategia de impulsar un ecosistema de IA totalmente abierto y ofrecer opciones a los clientes en entornos empresariales.

Considere la plataforma de IA empresarial de AMD como un componente fundamental que se integra a la perfección con un amplio ecosistema de software y herramientas de IA. Incluye el operador de GPU de Kubernetes para la gestión integral del ciclo de vida, los microservicios de inferencia AMD nativos de la nube y compatibilidad nativa con marcos de IA como PyTorch. Todo esto le permite migrar cargas de trabajo de inferencia con cambios mínimos en el código.

Ofrecemos a nuestros socios la plataforma de referencia de IA empresarial de código abierto de AMD sin coste de licencia. Esta plataforma ofrece mayor transparencia en el código y ayuda a reducir los gastos operativos. Al combinarse con las tarjetas PCIe AMD Instinct MI350P y las soluciones de nuestros socios, permite a sus organizaciones empezar a trabajar rápidamente en sus instalaciones sin costes adicionales por token.

Aceleración nativa para niveles de precisión de IA empresarial

Las tarjetas AMD Instinct MI350P PCIe admiten el espectro de niveles de precisión en los que más confían los modelos de IA empresariales.

Si bien los formatos MXFP6 y MXFP4 de menor precisión ofrecen un rendimiento máximo en TFLOPS puros e implementaciones de modelos eficientes, los formatos de mayor precisión, como INT8 y BF16, se benefician de la compatibilidad con la dispersión de la GPU AMD Instinct MI350P para ofrecer un rendimiento eficiente. Independientemente de la precisión, las empresas comprobarán que las tarjetas PCIe AMD Instinct MI350P están diseñadas para ofrecer el máximo rendimiento de la GPU y un menor consumo de memoria, lo que contribuye a reducir las necesidades de energía y refrigeración.

La compatibilidad con FP8, MXFP8 y MXFP4 es una de las principales razones por las que las tarjetas AMD Instinct MI350P PCIe pueden procesar las cargas de trabajo de IA actuales en centros de datos estándar con refrigeración por aire.

Implemente la IA empresarial donde se encuentre hoy.

Con las tarjetas AMD Instinct MI350P PCIe, su empresa puede pasar rápidamente de una infraestructura bare metal a sistemas de IA listos para producción sobre una base sólida. Permiten migrar cargas de trabajo sin necesidad de reescribir código, integrarse con los flujos de trabajo de IA existentes y escalar a medida que evolucionan las cargas de trabajo. Adoptar la IA no implica reconstruir la infraestructura desde cero. Con las tarjetas AMD Instinct MI350P PCIe, las empresas pueden ejecutar más modelos y dar servicio a más usuarios en sus centros de datos existentes.