Intel construyó el sistema neuromórfico más grande del mundo

Intel anunció que ha construido el sistema neuromórfico más grande del mundo. Con el nombre en código Hala Point, este sistema neuromórfico a gran escala, implementado inicialmente en los Laboratorios Nacionales Sandia, utiliza el procesador Loihi 2 de Intel, tiene como objetivo apoyar la investigación de la futura inteligencia artificial (IA) inspirada en el cerebro y aborda los desafíos relacionados con la eficiencia y la sostenibilidad de la IA actual. Hala Point avanza en el sistema de investigación a gran escala de primera generación de Intel, Pohoiki Springs, con mejoras arquitectónicas para lograr más de 10 veces más capacidad neuronal y hasta 12 veces más rendimiento.

«El costo informático de los modelos de IA actuales está aumentando a un ritmo insostenible. La industria necesita enfoques fundamentalmente nuevos capaces de escalar. Por esa razón, desarrollamos Hala Point, que combina la eficiencia del aprendizaje profundo con nuevas capacidades de aprendizaje y optimización inspiradas en el cerebro. Esperamos que la investigación con Hala Point avance en la eficiencia y adaptabilidad de la tecnología de IA a gran escala». -Mike Davies, director del Laboratorio de Computación Neuromórfica de Intel Labs

Qué hace: Hala Point es el primer sistema neuromórfico a gran escala que demuestra eficiencias computacionales de última generación en las cargas de trabajo de IA convencionales. La caracterización muestra que puede soportar hasta 20 cuatrillones de operaciones por segundo, o 20 petaops, con una eficiencia superior a 15 billones de operaciones de 8 bits por segundo por vatio (TOPS/W) cuando se ejecutan redes neuronales profundas convencionales. Esto rivaliza y supera los niveles alcanzados por las arquitecturas construidas sobre unidades de procesamiento gráfico (GPU) y unidades centrales de procesamiento (CPU). Las capacidades únicas de Hala Point podrían permitir el aprendizaje continuo en tiempo real para futuras aplicaciones de IA, como la resolución de problemas científicos y de ingeniería, la logística, la gestión de infraestructuras de ciudades inteligentes, los grandes modelos de lenguaje (LLM) y los agentes de IA.

Cómo se utilizará: Los investigadores de los Laboratorios Nacionales Sandia planean utilizar Hala Point para la investigación informática avanzada a escala cerebral. La organización se centrará en la resolución de problemas de computación científica en física de dispositivos, arquitectura de computadoras, ciencias de la computación e informática.

«Trabajar con Hala Point mejora la capacidad de nuestro equipo de Sandia para resolver problemas de modelado computacional y científico. Llevar a cabo investigaciones con un sistema de este tamaño nos permitirá seguir el ritmo de la evolución de la IA en campos que van desde lo comercial hasta la defensa y la ciencia básica», dijo Craig Vineyard, líder del equipo de Hala Point en Sandia National Laboratories.

Actualmente, Hala Point es un prototipo de investigación que mejorará las capacidades de los futuros sistemas comerciales. Intel anticipa que estas lecciones conducirán a avances prácticos, como la capacidad de los LLM para aprender continuamente de los nuevos datos. Estos avances prometen reducir significativamente la carga de entrenamiento insostenible de las implementaciones generalizadas de IA.

Por qué es importante: Las tendencias recientes en la ampliación de los modelos de aprendizaje profundo a billones de parámetros han expuesto enormes desafíos de sostenibilidad en la IA y han puesto de relieve la necesidad de innovación en los niveles más bajos de la arquitectura de hardware. La computación neuromórfica es un enfoque fundamentalmente nuevo que se basa en los conocimientos de la neurociencia que integran la memoria y la computación con un paralelismo altamente granular para minimizar el movimiento de datos. En los resultados publicados de la Conferencia Internacional sobre Acústica, Habla y Procesamiento de Señales (ICASSP) de este mes, Loihi 2 demostró ganancias de órdenes de magnitud en la eficiencia, la velocidad y la adaptabilidad de las cargas de trabajo perimetrales emergentes a pequeña escala.

Avanzando sobre su predecesor, Pohoiki Springs, con numerosas mejoras, Hala Point ahora aporta ganancias de rendimiento y eficiencia neuromórficas a los modelos convencionales de aprendizaje profundo, en particular aquellos que procesan cargas de trabajo en tiempo real, como video, voz y comunicaciones inalámbricas. Por ejemplo, Ericsson Research está aplicando Loihi 2 para optimizar la eficiencia de la infraestructura de telecomunicaciones, como se destacó en el Mobile World Congress de este año.

Acerca de Hala Point: Los procesadores neuromórficos Loihi 2, que forman la base de Hala Point, aplican principios informáticos inspirados en el cerebro, como redes neuronales de picos (SNN) asíncronas basadas en eventos, memoria y computación integradas, y conexiones dispersas y continuamente cambiantes para lograr ganancias de órdenes de magnitud en el consumo de energía y el rendimiento. Las neuronas se comunican directamente entre sí en lugar de comunicarse a través de la memoria, lo que reduce el consumo total de energía.

Hala Point empaqueta 1.152 procesadores Loihi 2 producidos en el nodo de proceso Intel 4 en un chasis de centro de datos de seis unidades de rack del tamaño de un horno microondas. El sistema soporta hasta 1.150 millones de neuronas y 128.000 millones de sinapsis distribuidas en 140.544 núcleos de procesamiento neuromórfico, consumiendo un máximo de 2.600 vatios de potencia. También incluye más de 2.300 procesadores x86 integrados para cálculos auxiliares.

Hala Point integra canales de procesamiento, memoria y comunicación en una estructura paralelizada de forma masiva, lo que proporciona un total de 16 petabytes por segundo (PB/s) de ancho de banda de memoria, 3,5 PB/s de ancho de banda de comunicación entre núcleos y 5 terabytes por segundo (TB/s) de ancho de banda de comunicación entre chips. El sistema puede procesar más de 380 billones de sinapsis de 8 bits y más de 240 billones de operaciones neuronales por segundo.

Aplicado a modelos de redes neuronales de picos bioinspirados, el sistema puede ejecutar su capacidad total de 1.150 millones de neuronas 20 veces más rápido que un cerebro humano y hasta 200 veces más rápido a una capacidad menor. Si bien Hala Point no está destinado al modelado neurocientífico, su capacidad neuronal es aproximadamente equivalente a la del cerebro de un búho o la corteza de un mono capuchino.

Los sistemas basados en Loihi pueden realizar inferencias de IA y resolver problemas de optimización utilizando 100 veces menos energía a velocidades hasta 50 veces más rápidas que las arquitecturas convencionales de CPU y GPU. Al explotar una conectividad dispersa de hasta 10:1 y una actividad basada en eventos, los primeros resultados en Hala Point muestran que el sistema puede lograr eficiencias de red neuronal profundas de hasta 15 TOPS/W2 sin necesidad de recopilar datos de entrada en lotes, una optimización común para las GPU que retrasa significativamente el procesamiento de los datos que llegan en tiempo real, como el video de las cámaras. Si bien aún están en investigación, los futuros LLM neuromórficos capaces de aprendizaje continuo podrían resultar en gigavatios-hora de ahorro de energía al eliminar la necesidad de volver a capacitarse periódicamente con conjuntos de datos en constante crecimiento.

Lo que sigue: La entrega de Hala Point a Sandia National Labs marca el primer despliegue de una nueva familia de sistemas de investigación neuromórfica a gran escala que Intel planea compartir con sus colaboradores de investigación. Un mayor desarrollo permitirá que las aplicaciones de computación neuromórfica superen las limitaciones de potencia y latencia que limitan el despliegue de las capacidades de IA en el mundo real y en tiempo real.

Junto con un ecosistema de más de 200 miembros de la Comunidad de Investigación Neuromórfica de Intel (INRC), incluidos los principales grupos académicos, laboratorios gubernamentales, instituciones de investigación y empresas de todo el mundo, Intel está trabajando para ampliar los límites de la IA inspirada en el cerebro y hacer progresar esta tecnología desde prototipos de investigación hasta productos comerciales líderes en la industria en los próximos años.