Red Hat anunció las últimas actualizaciones de Red Hat AI, su portafolio de productos y servicios diseñados para acelerar el desarrollo y la implementación de soluciones de IA en la nube híbrida. Red Hat AI es una plataforma de IA empresarial para el entrenamiento y la inferencia de modelos que ofrece una experiencia simplificada, mayor eficiencia y flexibilidad para realizar implementaciones en cualquier lugar de la nube híbrida.
Si bien las empresas están buscando formas de reducir los costos de implementar modelos de lenguaje de gran tamaño (LLM) a gran escala para atender una cantidad de casos de uso cada vez mayor, siguen lidiando con el desafío de integrar esos modelos con sus propios datos, que son los que generan esos casos de uso, y de poder acceder a ellos donde sea que se encuentren, ya sea en un centro de datos, en nubes públicas o incluso en el edge.
Red Hat AI, que abarca tanto Red Hat OpenShift AI como Red Hat Enterprise Linux AI (RHEL AI), responde a estas inquietudes por medio de una plataforma de IA empresarial que permite a los usuarios adoptar modelos más eficientes y optimizados en función de datos específicos del negocio, que luego se pueden implementar en una amplia gama de arquitecturas de computación acelerada en toda la nube híbrida, tanto para entrenamiento como para inferencia.
Red Hat OpenShift AI
Red Hat OpenShift AI ofrece una plataforma de IA completa para gestionar ciclos de vida de la IA predictiva y generativa en toda la nube híbrida e incluye capacidades de operaciones de aprendizaje automático (MLOps) y de operaciones de modelos de lenguaje de gran tamaño (LLMOps). La plataforma proporciona la funcionalidad necesaria para crear modelos predictivos y ajustar modelos de IA generativa, además de herramientas que simplifican la gestión de modelos de IA, desde la ciencia de datos y los pipelines de modelos, hasta el monitoreo y el gobierno de modelos, entre muchos otros.
Red Hat OpenShift AI 2.18, la última versión de la plataforma suma nuevas actualizaciones y capacidades que promueven el objetivo de Red Hat AI de incorporar modelos de IA mejor optimizados y más eficientes a la nube híbrida. Las características principales incluyen:
- Servicio distribuido. El servicio distribuido, que opera a través del servidor de inferencia vLLM, permite al área de TI dividir el servicio de modelos entre múltiples unidades de procesamiento gráfico (GPU). Esto ayuda a reducir la carga en cualquier servidor, acelera el entrenamiento y el ajuste y permite un uso más eficiente de los recursos informáticos, al mismo tiempo que facilita la distribución de servicios entre nodos para modelos de IA.
- Una experiencia de ajuste de modelos integral. Esta nueva característica, que hace uso de los procesos de ciencia de datos de InstructLab y OpenShift AI, ayuda a simplificar el ajuste de los LLM, los hace más escalables, eficientes y auditables en grandes entornos de producción y, al mismo tiempo, facilita la gestión a través del panel de Red Hat OpenShift AI.
- AI Guardrails. Red Hat OpenShift AI 2.18 ayuda a mejorar la precisión, el rendimiento, la latencia y la transparencia de los LLM mediante la revisión tecnológica de AI Guardrails para monitorear y proteger mejor tanto las interacciones con los datos ingresados por el usuario como los resultados del modelo. AI Guardrails ofrece puntos de detección adicionales que ayudan a los equipos de TI a identificar y mitigar discursos potencialmente ofensivos, abusivos o profanos, la información de identificación personal, la información de la competencia u otros datos restringidos por las políticas corporativas.
- Evaluación de modelos. La evaluación de modelos utiliza el componente de evaluación de modelo de lenguaje (lm-eval) para aportar información importante sobre la calidad general de los modelos. Esto permite a los científicos de datos comparar el desempeño de sus LLM en diversas tareas, que van desde el razonamiento lógico y matemático hasta el lenguaje adversarial natural, entre muchas otras, lo que en última instancia ayuda a crear modelos de IA más efectivos, adaptativos y personalizados.
RHEL AI
RHEL AI forma parte del portfolio de Red Hat AI. Es una plataforma de modelos base para desarrollar, probar y ejecutar LLM de manera más uniforme con el fin de potenciar aplicaciones empresariales. RHEL AI ofrece a los clientes herramientas de alineación de modelos de LLM Granite e InstructLab empaquetadas como una imagen de servidor de Red Hat Enterprise Linux de inicio, que se pueden implementar en la nube híbrida.
Desde su lanzamiento en febrero de 2025, RHEL 1.4 ha incorporado varias mejoras, entre ellas:
- Soporte para el modelo Granite 3.1 8B, para la última incorporación a la familia de modelos Granite con licencia open source. Este modelo añade soporte multilingüe para la inferencia y la personalización de taxonomías/conocimientos (versión preliminar para desarrolladores) junto con una ventana de contexto de 128k para mejorar los resultados del proceso de resumen y las tareas de generación aumentada de recuperación (RAG).
- Una nueva interfaz gráfica de usuario para el aporte de habilidades y conocimientos, disponible como versión preliminar para desarrolladores, para simplificar la introducción y la fragmentación de datos, así como la forma en que los usuarios incorporan sus propias habilidades y aportes a un modelo de IA.
- Document Knowledge-bench (DK-bench), para facilitar la comparación entre los modelos de IA ajustados en función de datos privados relevantes y el rendimiento de los mismos modelos base no ajustados.
Red Hat AI InstructLab en IBM Cloud
Cada vez son más las empresas que buscan soluciones de IA que prioricen la precisión y la seguridad de los datos y a la vez minimicen los costos y la complejidad. La implementación de Red Hat AI InstructLab como servicio en IBM Cloud tiene por objeto simplificar, escalar y ayudar a reforzar la seguridad en el entrenamiento y la implementación de modelos de IA. Al simplificar el ajuste de modelos de InstructLab, las empresas pueden construir modelos más eficientes adaptados a sus necesidades particulares sin perder el control de sus datos.
Capacitación gratuita en los fundamentos de la IA para clientes de Red Hat
La IA es una oportunidad transformadora que está redefiniendo la forma en que las empresas operan y compiten. Para apoyar a las empresas en este escenario tan dinámico, Red Hat ofrece a sus clientes cursos de capacitación en línea gratuitos sobre los fundamentos de la IA. Red Hat ofrece dos vías de certificación en el aprendizaje de la IA, adaptadas tanto a líderes sénior avezados como a principiantes. Estas rutas enseñan a los usuarios de todos los niveles cómo la IA puede encaminar las operaciones empresariales, optimizar la toma de decisiones e impulsar la innovación, así como a aplicar este conocimiento al utilizar las soluciones de IA de Red Hat.
Disponibilidad
Red Hat OpenShift AI 2.18 y Red Hat Enterprise Linux AI 1.4 ya tienen disponibilidad general. Encontrará más información sobre funciones adicionales, mejoras, correcciones de errores y cómo actualizarse a la última versión de Red Hat OpenShift AI aquí y la última versión de RHEL AI, aquí.
