Red Hat anunció Red Hat AI Factory con NVIDIA, una plataforma de software codesarrollada que combina Red Hat AI Enterprise y NVIDIA AI Enterprise para ofrecer una solución de IA de extremo a extremo optimizada para organizaciones que implementan IA a escala. Red Hat AI Factory con NVIDIA representa el hito más reciente en la profunda colaboración entre las compañías, acelerando la entrega de las últimas innovaciones en IA a clientes empresariales, además de ofrecer soporte Day 0 a las arquitecturas de hardware de NVIDIA.
Con las inversiones empresariales en IA pronosticadas para superar el billón de dólares para 2029, impulsadas en gran medida por las aplicaciones de IA de agentes, las organizaciones están enfocando sus estrategias en flujos de trabajo de agentes de alta densidad y enfrentando las crecientes demandas de infraestructura e inferencia de IA. Para ayudar a las organizaciones a mantenerse al día con este ritmo, Red Hat AI Factory con NVIDIA empodera a los equipos de operaciones de TI para simplificar la gestión tanto de la infraestructura tradicional como de las demandas en evolución de la pila de IA.
Red Hat AI Factory con NVIDIA acelera el camino hacia la IA en producción y ofrece la plataforma de software para fábricas de IA, ejecutándose en una infraestructura de computación acelerada que impulsa un rendimiento superior para los modelos y las GPU de NVIDIA que impulsan la pila de inferencia. La plataforma es compatible con infraestructuras para fábricas de IA de los principales fabricantes de sistemas, incluidos Cisco, Dell Technologies, Lenovo y Supermicro. Esto permite a los administradores de TI y a los equipos de operaciones escalar y mantener las implementaciones de IA con el mismo rigor operativo y previsibilidad de cualquier carga de trabajo empresarial.
Esta plataforma de software codesarrollada integra la colaboración de código abierto, la ingeniería y la experiencia en soporte de Red Hat y NVIDIA para ofrecer una solución confiable de nivel empresarial. Red Hat AI Factory con NVIDIA proporciona una base altamente escalable para implementaciones de IA en cualquier entorno, ya sea on-premises, en la nube o en el edge. Incluye capacidades esenciales para la inferencia de IA de alto rendimiento, el ajuste y la personalización de modelos, así como la implementación y gestión de agentes, con un enfoque en la seguridad. Esto permite a las organizaciones mantener el control arquitectónico desde el centro de datos hasta la nube pública, ofreciendo:
- Time-to-value acelerado: Avance hacia la IA en producción con flujos de trabajo simplificados y acceso inmediato a modelos preconfigurados, incluida la familia IBM Granite, NVIDIA Nemotron y modelos abiertos NVIDIA Cosmos, entregados como microservicios NVIDIA NIM. Además, las organizaciones pueden alinear aún más los modelos con los datos empresariales utilizando NVIDIA NeMo, reduciendo el tiempo y el costo de ajuste.
- Rendimiento y costos optimizados: Maximice el uso de la infraestructura y fortalezca el rendimiento de la inferencia con una pila unificada y de alto rendimiento para el servicio (serving). Red Hat AI Factory con NVIDIA ofrece capacidades de observabilidad nativas y utiliza recursos de inferencia de Red Hat AI, con soporte de vLLM, NVIDIA TensorRT-LLM y NVIDIA Dynamo, para cumplir con rigurosos objetivos de nivel de servicio de IA. Esto ayuda a las organizaciones a reducir el costo total de propiedad (TCO) de la IA, optimizando la conexión entre modelos y GPU de NVIDIA.
- Orquestación Inteligente de GPU: Habilite el acceso bajo demanda a recursos de GPU a través de la orquestación inteligente y la infraestructura en pool, con checkpointing automático para proteger trabajos de larga duración y mantener costos de computación más predecibles en entornos dinámicos.
- Postura empresarial fortalecida: Aprovechando la base flexible y estable de Red Hat Enterprise Linux, las organizaciones se benefician de capacidades avanzadas de seguridad y cumplimiento integradas desde el principio que ayudan a reducir riesgos, ahorrar tiempo y mitigar interrupciones. Esto proporciona una base reforzada en seguridad para cargas de trabajo de IA críticas que requieren aislamiento y verificación continua. Los microservicios NVIDIA DOCA se basan en esta base, creando una arquitectura de confianza cero y ofreciendo seguridad en tiempo de ejecución de IA en toda la infraestructura.
