Vertiv Holdings y Deloitte Center for Integrated Research presentaron una colaboración para ayudar a las empresas a abordar un desafío crucial al llevar la inteligencia artificial de la experimentación a la producción: determinar dónde deben ejecutarse las cargas de trabajo de IA y si la infraestructura física disponible puede soportarlas.
La nueva guía de Vertiv Diseño de infraestructura para la IA empresarial, desarrollada por Vertiv y STL Partners, una firma de investigación de infraestructura digital, ofrece a los líderes de negocio, TI e instalaciones un marco basado en cargas de trabajo para tomar estas decisiones antes de comprometerse con un plan de infraestructura. A partir del resultado de negocio esperado y de la carga de trabajo de IA, las organizaciones pueden evaluar la ubicación de implementación, los requisitos de infraestructura y el grado de preparación de las instalaciones, y luego vincular cada carga de trabajo con un modelo de infraestructura física y un diseño de referencia adecuados para continuar con la planificación y la validación técnica.
La investigación que sustenta la guía destaca una consideración crucial a medida que las empresas llevan las cargas de trabajo de IA a una operación sostenida en producción: el grado de preparación de la infraestructura puede determinar dónde pueden implementarse las cargas de trabajo y con qué rapidez pueden entrar en producción. La disponibilidad de energía, refrigeración, conectividad y capacidad operativa puede determinar si una carga de trabajo puede ejecutarse en una instalación existente o requiere un modelo de implementación diferente.
La guía traduce estas consideraciones en un proceso de cuatro pasos: (1) definir el resultado de negocio esperado y la carga de trabajo de IA, (2) evaluar la escala, el rendimiento y los requisitos operativos de la carga de trabajo, (3) determinar la ubicación de implementación más adecuada y (4) vincular la carga de trabajo y la ubicación con un modelo de infraestructura física y un diseño de referencia.
“La próxima fase de la IA empresarial estará determinada no sólo por los modelos y la capacidad de cómputo, sino también por la capacidad de las organizaciones para proporcionar la energía, la refrigeración, la conectividad y el entorno operativo que requiere cada carga de trabajo”, afirmó Giordano Albertazzi, CEO de Vertiv. “Al comenzar por la carga de trabajo, las empresas pueden tomar decisiones de infraestructura con mayor anticipación, identificar limitaciones más pronto y trazar un camino más sólido desde sus aspiraciones en IA hasta la producción”.
“Los aspectos económicos y los requisitos operativos de la IA cambian a medida que las cargas de trabajo pasan a producción”, señaló Nicholas Merizzi, socio y líder de Silicon2Service en Estados Unidos de Deloitte Consulting LLP. “Las organizaciones deben considerar conjuntamente el valor para el negocio, la gobernanza, la responsabilidad operativa y la infraestructura. Incorporar estas cuestiones al proceso de planificación desde una etapa más temprana brinda a los líderes una base más sólida para decidir dónde deben ejecutarse las cargas de trabajo de IA y cómo deben respaldarse a lo largo del tiempo”.
El proceso reconoce que la IA empresarial comprende un portafolio de cargas de trabajo, en lugar de una única decisión de infraestructura. Las cargas de trabajo exploratorias pueden permanecer en la nube, mientras que aquellas de operación sostenida o críticas para el negocio pueden favorecer una infraestructura híbrida o capacidad gestionada por la empresa. Las cargas de trabajo que requieren tiempos de respuesta más rápidos, mayor control, proximidad a los datos o un rendimiento específico del modelo pueden necesitar ejecutarse en el borde de la red o en otro entorno controlado.
El enfoque específico para cada carga de trabajo permite que la nube pública, la colocación, la capacidad propia de la empresa, los entornos híbridos y la infraestructura de borde desempeñen un papel. En lugar de defender de forma general el uso de la nube o su rechazo, la guía proporciona un método consistente para determinar el entorno operativo adecuado para cada carga de trabajo de IA.
La investigación clasifica las cargas de trabajo de IA empresarial en seis arquetipos que abarcan el desarrollo de modelos, el reentrenamiento y cuatro categorías de uso en producción. Estos arquetipos ayudan a las organizaciones a identificar cargas de trabajo con requisitos similares de rendimiento, operación e infraestructura, lo que crea una base más consistente para la planificación. Luego, cada carga de trabajo puede vincularse con uno de cuatro modelos de infraestructura física: clúster de IA en el borde, clúster pequeño de IA, clúster grande de IA y clúster de IA de alta densidad.
Los cuatro modelos ofrecen un punto de partida para las decisiones relacionadas con energía, refrigeración, controles, conectividad, resiliencia, soporte operativo y crecimiento futuro. Los diseños de referencia correspondientes pueden adaptarse posteriormente en función de la evaluación del sitio, los requisitos de las cargas de trabajo y la ingeniería de detalle.
El grado de preparación de las instalaciones es crucial en los cuatro modelos. La guía ayuda a las empresas a evaluar si una ubicación propuesta cuenta con suficiente energía, refrigeración, conectividad, capacidad operativa y espacio para crecer. Realizar esta evaluación con anticipación puede ayudar a identificar limitaciones de infraestructura antes de que se conviertan en barreras para la implementación. La guía completa, Diseño de infraestructura para la IA empresarial, detalla los seis arquetipos de cargas de trabajo, los cuatro modelos de infraestructura física y una hoja de ruta de cuatro fases para planificar, implementar y hacer evolucionar la infraestructura de IA empresarial.
