Qualcomm Technologies, Inc. presentó sus últimos avances en inteligencia artificial (IA) en el Mobile World Congress (MWC) de Barcelona. Desde el nuevo Qualcomm AI Hub, hasta los avances de investigación de vanguardia y una exhibición de dispositivos comerciales habilitados para IA, Qualcomm Technologies está empoderando a los desarrolladores y revolucionando las experiencias de los usuarios en una amplia gama de dispositivos impulsados por las plataformas Snapdragon y Qualcomm.
«Con Snapdragon 8 Gen 3 para teléfonos inteligentes y Snapdragon X Elite para PC, iniciamos la comercialización de la IA en el dispositivo a escala. Ahora, con Qualcomm AI Hub, capacitaremos a los desarrolladores para que aprovechen al máximo el potencial de estas tecnologías de vanguardia y creen aplicaciones cautivadoras habilitadas para IA», dijo Durga Malladi, vicepresidente senior y gerente general de planificación tecnológica y soluciones de borde de Qualcomm Technologies, Inc. «Qualcomm AI Hub proporciona a los desarrolladores una biblioteca completa de modelos de IA para integrar rápida y fácilmente modelos de IA preoptimizados en sus aplicaciones. lo que lleva a experiencias de usuario más rápidas, confiables y privadas».
Qualcomm AI Hub: la puerta de entrada de los desarrolladores a un rendimiento superior de la IA en el dispositivo
El nuevo Qualcomm AI Hub contiene una biblioteca de modelos de IA preoptimizados para una implementación perfecta en dispositivos con tecnología de plataformas Snapdragon y Qualcomm. Esta biblioteca proporciona a los desarrolladores más de 75 modelos populares de IA e IA generativa, como Whisper, ControlNet, Stable Diffusion y Baichuan 7B, que están optimizados para un rendimiento superior de IA en el dispositivo, una menor utilización de la memoria y una mejor eficiencia energética, en diferentes factores de forma y empaquetados en varios tiempos de ejecución. Cada modelo está optimizado para aprovechar la aceleración de hardware en todos los núcleos del motor de IA de Qualcomm (NPU, CPU y GPU), lo que da como resultado tiempos de inferencia 4 veces más rápidos. La biblioteca de modelos de IA gestiona automáticamente la traducción de modelos desde el marco de trabajo de origen a los tiempos de ejecución populares y funciona directamente con el SDK directo de Qualcomm AI Engine y, a continuación, aplica optimizaciones compatibles con el hardware. Los desarrolladores pueden integrar sin problemas estos modelos en sus aplicaciones, lo que reduce el tiempo de comercialización y desbloquea los beneficios de las implementaciones de IA en el dispositivo, como la inmediatez, la confiabilidad, la privacidad, la personalización y el ahorro de costos.
Los modelos optimizados ya están disponibles en Qualcomm AI Hub, GitHub y Hugging Face. Continuamente se agregarán nuevos modelos al Qualcomm AI Hub, junto con el próximo soporte para plataformas y sistemas operativos adicionales. Los desarrolladores pueden registrarse hoy para ejecutar los modelos ellos mismos en dispositivos alojados en la nube basados en las plataformas de Qualcomm Technologies y obtener acceso anticipado a las nuevas funciones y modelos de IA que vienen a través de Qualcomm AI Hub.
«Estamos encantados de alojar los modelos de IA de Qualcomm Technologies en Hugging Face», dijo Clement Delangue, cofundador y CEO de Hugging Face. «Estos populares modelos de IA, optimizados para el aprendizaje automático en el dispositivo y listos para usar en las plataformas Snapdragon y Qualcomm, permitirán la próxima generación de desarrolladores móviles y aplicaciones de IA de borde, haciendo que la IA sea más accesible y asequible para todos».
Avances de vanguardia en la investigación de IA
- Por primera vez ejecutándose en un teléfono inteligente Android, Qualcomm AI Research está demostrando Large Language and Vision Assistant (LLaVA), un modelo multimodal grande (LMM) de 7+ mil millones de parámetros que puede aceptar múltiples tipos de entradas de datos, incluidos texto e imágenes, y generar conversaciones de varios turnos con un asistente de IA sobre una imagen. Este LMM se ejecuta a una tasa de token receptivo en el dispositivo, lo que da como resultado una mayor privacidad, confiabilidad, personalización y costo. Los LMM con comprensión del lenguaje y comprensión visual permiten muchos casos de uso, como identificar y discutir patrones visuales, objetos y escenas complejos.
- Qualcomm AI Research también está mostrando su primera demostración de Low Rank Adaptation (LoRA) en un teléfono inteligente Android. Al ejecutar Stable Diffusion con LoRA, los usuarios pueden crear imágenes personalizadas de alta calidad basadas en preferencias personales o artísticas. LoRA reduce el número de parámetros entrenables de los modelos de IA, lo que permite una mayor eficiencia, escalabilidad y personalización de los casos de uso de IA generativa en el dispositivo. Más allá de permitir modelos de visión lingüística (LVM) ajustados para diferentes estilos artísticos, LoRA es ampliamente aplicable a modelos de IA personalizados, como modelos lingüísticos grandes, para crear asistentes personales personalizados, traducción de idiomas mejorada y más.
- En una PC con Windows, Qualcomm AI Research está mostrando la primera demostración en el mundo en el dispositivo de un LMM de 7+ mil millones de parámetros que puede aceptar entradas de texto y audio (por ejemplo, música, sonido del tráfico, etc.) y luego generar conversaciones de varios turnos sobre el audio.
Habilitación de la IA generativa en todas las categorías de dispositivos en el Mobile World Congress Barcelona
- Smartphones: Mostramos una gama de smartphones comerciales insignia con IA con la plataforma móvil Snapdragon 8 Gen 3, como el HONOR Magic6 Pro, el OPPO X7 Ultra y el Xiaomi 14 Pro. Cada uno de estos dispositivos incluye nuevas y emocionantes funciones de IA generativa, como la expansión de imágenes generadas por IA (Xiaomi), la creación de videos impulsada por IA y la creación de calendarios impulsada por IA (HONOR) y el borrador de objetos de imagen (OPPO).
- PC: El nuevo Snapdragon X Elite y su NPU 45 TOPS están diseñados para la IA en el dispositivo que transformará la forma en que interactuamos con nuestras PC. Utilizando el popular y gratuito editor de imágenes GIMP con el plug-in Stable Diffusion, Qualcomm Technologies demostrará que puedes escribir la imagen que quieras y la IA generativa creará una imagen en 7 segundos, es decir, 3 veces más rápido que los competidores x86.
- Automoción: Aprovechando sus soluciones de hardware y software de IA líderes en la industria, la compañía también está demostrando capacidades de IA tradicionales y generativas con la plataforma de chasis digital Snapdragon, con el objetivo de ofrecer experiencias más potentes, eficientes, privadas, seguras y personalizadas para conductores y pasajeros.
- IoT para consumidores: Presentamos el Pin de IA de Humane, que se ejecuta en una plataforma Snapdragon y ofrece a los usuarios la posibilidad de llevar la IA a todas partes en un factor de forma completamente nuevo, conversacional y sin pantalla.
- Conectividad: El nuevo sistema Snapdragon X80 Modem-RF integra un procesador 5G AI de segunda generación para mejorar el rendimiento celular, la cobertura, la latencia y la eficiencia energética. También presentamos el sistema de conectividad móvil Qualcomm FastConnect 7900, el primer sistema Wi-Fi 7 optimizado para IA, que aprovecha la IA para establecer un nuevo estándar de conectividad inalámbrica local adaptable, de alto rendimiento, baja latencia y bajo consumo.
- Infraestructura 5G: Qualcomm Technologies mostrará tres mejoras innovadoras basadas en IA para la gestión de redes, incluido un asistente de IA generativa para ingenieros de redes de acceso por radio (RAN) para simplificar las tareas de gestión de redes y segmentos, una aplicación RAN abierta (rApp) basada en IA que reduce el consumo de energía de la red y un conjunto de gestión del ciclo de vida de segmentos de red 5G basado en IA.
