Durante su conferencia Ignite, Microsoft presentó un dúo de silicios diseñados a medida para acelerar la IA y sobresalir en cargas de trabajo en la nube. El primero de los dos es la CPU Azure Cobalt 100 de Microsoft, un diseño de 128 núcleos que cuenta con un conjunto de instrucciones Armv9 de 64 bits, implementado en un diseño nativo de la nube que se convertirá en parte de la oferta de Microsoft. Aunque no hay muchos detalles sobre la configuración, la compañía afirma que el objetivo de rendimiento es de hasta un 40% en comparación con la actual generación de servidores Arm que se ejecutan en la nube Azure. El SoC ha utilizado la plataforma Neoverse CSS de Arm personalizada para Microsoft, con núcleos presumiblemente Arm Neoverse N2.
El siguiente y más candente tema en el espacio de servidores es la aceleración de IA, necesaria para ejecutar los grandes modelos de lenguaje actuales. Microsoft alberga ChatGPT de OpenAI, Copilot de Microsoft y muchos otros servicios de IA. Para ayudar a que funcionen lo más rápido posible, el proyecto Athena de Microsoft tiene ahora el nombre de acelerador de IA Maia 100, que se fabrica en el proceso de 5 nm de TSMC. Cuenta con 105.000 millones de transistores y admite varios formatos de datos MX, incluso los inferiores a 8 bits, para ofrecer el máximo rendimiento. Probado actualmente en GPT 3.5 Turbo, aún tenemos que ver las cifras de rendimiento y las comparaciones con el hardware competidor de NVIDIA, como H100/H200 y AMD, con MI300X. El Maia 100 tiene un ancho de banda agregado de 4,8 Terabits por acelerador, que utiliza un protocolo de red personalizado basado en Ethernet para el escalado. Se espera que estos chips aparezcan en los centros de datos de Microsoft a principios del año que viene, y esperamos obtener pronto algunas cifras de rendimiento.
){kind=link}
