Anker Innovations anuncia una plataforma de chips que lleva IA local directamente al dispositivo
La compañía de tecnología de carga, energía y dispositivos inteligentes Anker Innovations ha dado a conocer su nueva plataforma de chips Thus.
Se trata de una plataforma propia de chips de inteligencia artificial diseñada para ejecutar IA directamente en el dispositivo sin depender de la nube, empezando por el audio y ampliándose en los próximos años a accesorios móviles y dispositivos conectados.
Los chips tradicionales se basan en una arquitectura clásica, la de John von Neumann, formulada hace cerca de 80 años, diseñada para ejecutar instrucciones paso a paso y separando la memoria donde se almacena la información del procesador, donde se realizan los cálculos. Sin embargo, la IA moderna funciona de otra manera y necesita manejar muchísimos parámetros a la vez, lo que obliga a mover grandes volúmenes de datos continuamente entre memoria y procesador.
En un centro de datos eso es un coste asumible. Pero en dispositivos pequeños, como unos auriculares inalámbricos, ese movimiento consume muchísima energía y limita lo que se puede hacer con IA dentro del propio dispositivo.
Thus se inspira en el cerebro humano pues las neuronas no separan dónde se almacena la información de dónde se procesa y Thus aplica ese mismo principio al silicio. En lugar de transportar los parámetros del modelo entre una memoria y un procesador físicamente separados, Thus integra el cálculo directamente dentro de las celdas de memoria NOR Flash. Además, el compute- in-memory basado en NOR Flash fusiona CPU y memoria y requiere aproximadamente una sexta parte del tamaño físico de alternativas basadas en SRAM, lo que lo hace viable para los dispositivos de consumo con mayores limitaciones.
“Hasta ahora, todos los chips de IA almacenan el modelo en un lado y realizan el cálculo en otro. Para ‘pensar’, el dispositivo tiene que transportar esos parámetros, muchas veces es por segundo y en cada inferencia. Thus pone el cálculo donde ya vive el modelo. El modelo ya no tiene que moverse nunca más”, comparte Steven Yang, fundador y CEO, Anker Innovations.
