Intel ha anunciado soporte inmediato (Día 0) para Muse Spark Open, el modelo de pesos abiertos de 816 mil millones de parámetros lanzado por Meta. Este modelo destaca por su optimización para programación con agentes inteligentes, soporte multimodal (audio, video, imágenes y documentos) y una ventana de contexto de 1 millón de tokens.
Aspectos técnicos destacados:
- Despliegue en GPUs Intel D-series: Basadas en la arquitectura Intel Xe3P y equipadas con 160 GB de memoria LPDDR5x por tarjeta, permiten ejecutar la inferencia del modelo en una configuración de solo cuatro GPUs instaladas en racks convencionales enfriados por aire.
- Capacidad en procesadores Intel Xeon: Permiten la inferencia de gran capacidad mediante cuantización INT4 (Weight-Only Quantization) y aceleración por hardware con Intel AMX, ofreciendo una alternativa práctica para ejecutar cargas de trabajo privadas de forma offline en la infraestructura existente de centro de datos.
- Optimización de software: Mediante integración en herramientas de código abierto como vLLM y SGLang, e implementando el algoritmo AutoRound, Intel redujo los pesos originales BF16 a formatos de ultra baja precisión (MXFP4 e INT4) manteniendo la precisión de razonamiento del modelo.
