La IA generativa está desbloqueando nuevas capacidades para PC y estaciones de trabajo, incluidos asistentes de juegos, herramientas mejoradas de creación de contenido y productividad, y más. Los microservicios NVIDIA NAM, ya disponibles, y AI Blueprints, en las próximas semanas, acelerarán el desarrollo de la IA y mejorarán su accesibilidad. Anunciado en la feria comercial CES en enero, NVIDIA NIM proporciona modelos de IA preempaquetados y de última generación optimizados para la plataforma NVIDIA RTX, incluida la serie NVIDIA GeForce RTX 50 y, ahora, las nuevas GPU NVIDIA Blackwell RTX PRO. Los microservicios son fáciles de descargar y ejecutar. Abarcan las principales modalidades para el desarrollo de PC y son compatibles con las principales aplicaciones y herramientas del ecosistema.
La función experimental System Assistant de Project G-Assist también se lanzó. Project G-Assist muestra cómo los asistentes de IA pueden mejorar las aplicaciones y los juegos. El Asistente del sistema permite a los usuarios ejecutar diagnósticos en tiempo real, obtener recomendaciones sobre optimizaciones de rendimiento o controlar el software y los periféricos del sistema, todo ello mediante sencillos comandos de voz o texto. Los desarrolladores y entusiastas pueden ampliar sus capacidades con una sencilla arquitectura de plug-ins y un nuevo constructor de plug-ins.
En medio de un momento crucial en la informática, donde los modelos de IA innovadores y una comunidad global de desarrolladores están impulsando una explosión en las herramientas y flujos de trabajo impulsados por IA, los microservicios DIM, AI Blueprints y G-Assist están ayudando a llevar innovaciones clave a las PC. Esta serie de blogs de RTX AI Garage continuará brindando actualizaciones, información y recursos para ayudar a los desarrolladores y entusiastas a construir la próxima ola de IA en PC y estaciones de trabajo RTX AI.
¡Preparados, listos, NIM!
Aunque el ritmo de la innovación con IA es increíble, todavía puede ser difícil para la comunidad de desarrolladores de PC comenzar con la tecnología.
Llevar los modelos de IA de la investigación a la PC requiere la selección de variantes de modelos, la adaptación para gestionar todos los datos de entrada y salida, y la cuantificación para optimizar el uso de los recursos. Además, los modelos deben convertirse para que funcionen con software de backend de inferencia optimizado y conectarse a las nuevas interfaces de programación de aplicaciones (API) de IA. Esto requiere un esfuerzo considerable, lo que puede ralentizar la adopción de la IA.
Los microservicios NVIDIA NIM ayudan a resolver este problema al proporcionar modelos de IA preempaquetados, optimizados y fácilmente descargables que se conectan a las API estándar de la industria. Están optimizados para el rendimiento en PC y estaciones de trabajo con IA RTX, e incluyen los mejores modelos de IA de la comunidad, así como modelos desarrollados por NVIDIA.
Los microservicios de NIM admiten una amplia gama de aplicaciones de IA, incluidos los modelos de lenguaje de gran tamaño (LLM), los modelos de lenguaje de visión, la generación de imágenes, el procesamiento de voz, la búsqueda basada en la generación de recuperación aumentada (RAG), la extracción de PDF y la visión artificial. Hay diez microservicios NIM disponibles para RTX, que admiten una variedad de aplicaciones, incluida la generación de lenguaje e imágenes, visión por computadora, IA de voz y más. Comience a utilizar estos microservicios de NIM hoy mismo:
- Lenguaje y Razonamiento: Deepseek-R1-distill-llama-8B, Mistral-nemo-12B-instruct, Llama3.1-8B-instruct
- Generación de imágenes: Flux.dev
- Audio: Riva Parakeet-ctc-0.6B-asr, Maxine Studio Voice
- RAG: Llama-3.2-NV-EmbedQA-1B-v2
- Visión y comprensión por computadora: NV-CLIP, PaddleOCR, Yolo-X-v1
Los microservicios de NIM también están disponibles a través de las principales herramientas y marcos del ecosistema de IA.
Para los entusiastas de la IA, AnythingLLM y ChatRTX ahora son compatibles con NIM, lo que facilita el chat con los LLM y los agentes de IA a través de una interfaz sencilla y fácil de usar. Con estas herramientas, los usuarios pueden crear asistentes de IA personalizados e integrar sus propios documentos y datos, lo que ayuda a automatizar tareas y mejorar la productividad.
Para los desarrolladores que buscan crear, probar e integrar IA en sus aplicaciones, FlowiseAI y Langflow ahora son compatibles con NIM y ofrecen soluciones de código bajo y sin código con interfaces visuales para diseñar flujos de trabajo de IA con una experiencia mínima en codificación. El soporte para ComfyUI llegará pronto. Con estas herramientas, los desarrolladores pueden crear fácilmente aplicaciones complejas de IA como chatbots, generadores de imágenes y sistemas de análisis de datos.
Además, Microsoft VS Code AI Toolkit, CrewAI y Langchain ahora son compatibles con NIM y proporcionan capacidades avanzadas para integrar los microservicios en el código de la aplicación, lo que ayuda a garantizar una integración y optimización perfectas.
NVIDIA AI Blueprints ofrecerá flujos de trabajo prediseñados
Los proyectos de IA de NVIDIA brindan a los desarrolladores de IA una ventaja en la creación de flujos de trabajo de IA generativa con los microservicios NVIDIA NAM.
Los blueprints son ejemplos de referencia extensibles y listos para usar que agrupan todo lo necesario (código fuente, datos de muestra, documentación y una aplicación de demostración) para crear y personalizar flujos de trabajo avanzados de IA que se ejecutan localmente. Los desarrolladores pueden modificar y ampliar AI Blueprints para ajustar su comportamiento, utilizar diferentes modelos o implementar funcionalidades completamente nuevas.
El PDF to podcast AI Blueprint transformará los documentos en contenido de audio para que los usuarios puedan aprender sobre la marcha. Al extraer texto, imágenes y tablas de un PDF, el flujo de trabajo utiliza la IA para generar un podcast informativo. Para profundizar en los temas, los usuarios pueden tener una discusión interactiva con los presentadores de podcasts impulsados por IA.
El AI Blueprint para la IA generativa guiada en 3D dará a los artistas un control más preciso sobre la generación de imágenes. Si bien la IA puede generar imágenes sorprendentes a partir de simples indicaciones de texto, controlar la composición de la imagen usando solo palabras puede ser un desafío. Con este plano, los creadores pueden usar objetos 3D simples dispuestos en un renderizador 3D como Blender para guiar la generación de imágenes de IA. El artista puede crear activos 3D a mano o generarlos utilizando IA, colocarlos en la escena y configurar la cámara de visualización 3D. A continuación, un flujo de trabajo preempaquetado con tecnología del microservicio FLUX NIM utilizará la composición actual para generar imágenes de alta calidad que coincidan con la escena 3D.
NVIDIA NIM en RTX con subsistema de Windows para Linux
Una de las tecnologías clave que permite que los microservicios NIM se ejecuten en PC es el Subsistema de Windows para Linux (WSL).
Microsoft y NVIDIA colaboraron para llevar la aceleración CUDA y RTX a WSL, lo que permite ejecutar microservicios optimizados y en contenedores en Windows. Esto permite que el mismo microservicio NIM se ejecute en cualquier lugar, desde PC y estaciones de trabajo hasta el centro de datos y la nube.
Project G-Assist amplía las funciones de IA para PC con plug-ins personalizad
Como parte del Proyecto G-Assist, una versión experimental de la función Asistente del sistema para los usuarios de escritorio GeForce RTX ya está disponible a través de la aplicación NVIDIA, y pronto será compatible con computadoras portátiles.
G-Assist ayuda a los usuarios a controlar una amplia gama de configuraciones de PC, incluida la optimización de la configuración del juego y del sistema, el gráfico de velocidades de fotogramas y otras estadísticas clave de rendimiento, y el control de configuraciones de periféricos seleccionados, como la iluminación, todo a través de comandos básicos de voz o texto.
G-Assist se basa en NVIDIA ACE, el mismo conjunto de tecnología de IA que utilizan los desarrolladores de juegos para dar vida a personajes no jugadores. A diferencia de las herramientas de IA que utilizan modelos masivos de IA alojados en la nube que requieren acceso en línea y suscripciones pagas, G-Assist se ejecuta localmente en una GPU GeForce RTX. Esto significa que es responsivo, gratuito y puede ejecutarse sin conexión a Internet. Los fabricantes y proveedores de software ya están utilizando ACE para crear asistentes de IA personalizados como G-Assist, incluido el motor AI Robot de MSI, el Asistente de IA inteligente de Streamlabs y las próximas capacidades en el centro Omen Gaming de HP.
G-Assist se creó para la expansión impulsada por la comunidad. Comience a usar este repositorio de GitHub de NVIDIA, que incluye ejemplos e instrucciones para crear complementos que agreguen nuevas funcionalidades. Los desarrolladores pueden definir funciones en formatos JSON simples y colocar archivos de configuración en un directorio designado, lo que permite que G-Assist los cargue e interprete automáticamente. Los desarrolladores pueden incluso enviar complementos a NVIDIA para su revisión y posible inclusión.
Los plug-ins de muestra disponibles actualmente incluyen Spotify, para permitir el control de volumen y música manos libres, y Google Gemini, que permite a G-Assist invocar una IA basada en la nube mucho más grande para conversaciones más complejas, sesiones de lluvia de ideas y búsquedas web utilizando una clave API gratuita de Google AI Studio.
En el siguiente clip, verás a G-Assist preguntarle a Gemini qué leyenda elegir en Apex Legends cuando estás en cola en solitario, y si es prudente saltar al modo Pesadilla en el nivel 25 en Diablo IV.
Para una mayor personalización, siga las instrucciones del repositorio de GitHub para generar complementos de G-Assist utilizando un «Creador de complementos» basado en ChatGPT. Con esta herramienta, los usuarios pueden escribir y exportar código, y luego integrarlo en G-Assist, lo que permite una funcionalidad rápida asistida por IA que responde a comandos de texto y voz.
Construir, crear, innovar
Los microservicios de NVIDIA NIM para RTX están disponibles en build.nvidia.com, lo que proporciona a los desarrolladores y entusiastas de la IA herramientas potentes y listas para usar para crear aplicaciones de IA.
Descarga Project G-Assist a través de la pestaña «Inicio» de la aplicación NVIDIA, en la sección «Descubrimiento». Actualmente, G-Assist es compatible con las GPU de escritorio GeForce RTX, así como con una variedad de comandos de voz y texto en inglés. Las actualizaciones futuras agregarán soporte para GPU GeForce RTX para portátiles, capacidades G-Assist nuevas y mejoradas, así como soporte para idiomas adicionales. Presione «Alt + G» después de la instalación para activar G-Assist.
Cada semana, RTX AI Garage presenta innovaciones y contenido de IA impulsados por la comunidad para aquellos que buscan obtener más información sobre los microservicios de NIM y AI Blueprints, así como la creación de agentes de IA, flujos de trabajo creativos, humanos digitales, aplicaciones de productividad y más en PC y estaciones de trabajo con IA.
