El kit LLM-8850 es un acelerador de IA basado en M.2 diseñado para IA de vanguardia, inferencia integrada, análisis de vídeo y cargas de trabajo de modelos grandes multimodales. Combina la tarjeta LLM-8850, un módulo compacto M.2 M-Key 2242 basado en el SoC Axera AX8850 y una placa adaptadora PiHat para Raspberry Pi 5.
este AX8850 Integra ocho núcleos Arm Cortex-A55 con frecuencia de hasta 1,7 GHz, una NPU 24 TOPS INT8 y módulos de procesamiento de video de hardware para codificación y decodificación H.264/H.265. El resumen del producto de Axera también enumera módulos VDSP duales, motor CV, motor de cifrado, PCIe 2.0, SATA 3.0, Gigabit Ethernet, USB, HDMI, soporte de memoria LPDDR4/LPDDR4x y soporte de arranque para memoria flash eMMC o SPI.
La versión de 4 GB de la tarjeta LLM-8850 incluye 4 GB de memoria LPDDR4x de 64 bits que se ejecuta a 4266 Mbps y 32 Mbits de memoria flash QSPI NOR para el gestor de arranque. Este módulo adopta el factor de forma M.2 M-Key 2242 y se conecta a través de PCIe 2.0 x2.
Diagrama de bloques del AX8850
La refrigeración utiliza una solución de refrigeración activa que combina un microturbofán con un disipador térmico de aletas de aleación de aluminio CNC. La velocidad del ventilador es administrada por el controlador integrado a bordo mediante un circuito de control de velocidad de temperatura-corriente, lo que ayuda a mantener un funcionamiento estable bajo cargas de trabajo sostenidas de IA.
El adaptador PiHat LLM-8850 incluido conecta el módulo a Raspberry Pi 5 a través de la interfaz FPC de expansión PCIe de la placa. También ofrece un conector de 40 pines de 2,54 mm y una entrada PD USB tipo C para alimentar todo el sistema. La entrada admite USB PD 3.0 con perfiles de 9 V, 12 V o 20 V, y los requisitos de alimentación enumerados son al menos 9 V/3 A o 27 W.
Solución de producto de computación de borde AX8850
PiHat proporciona alimentación de 5 V/4 A a la Raspberry Pi 5 y alimentación de 3,3 V/6 A a la tarjeta M.2, mientras que el acelerador en sí tiene una potencia nominal de 7 W a 3,3 V. El proveedor advierte que el sistema debe alimentarse a través de la entrada USB-C PD en la placa adaptadora, en lugar de desde el lado de Raspberry Pi 5, de lo contrario podría dañar el dispositivo.
Para la compatibilidad con el software de IA, la lista de productos menciona que AXCL admite la ejecución de modelos completos, incluidos CNN, Transformer, CLIP, Whisper, Llama 3.2, Qwen3 e InternVL3. También se describe que el acelerador admite codificación, decodificación y transcodificación H.264/H.265 simultánea.
Kit M5Stack LLM-8850
Las funciones de video enumeradas en este paquete incluyen codificación y decodificación H.264/H.265 de 8K/30 fps, con soporte para escalado y recorte. El decodificador también aparece como compatible con hasta 16 canales de decodificación paralela de 1080p, mientras que el AX8850 de Axera enumera brevemente el soporte de decodificación de nivel SoC de hasta 32x 1080p a 30 fps.
Los sistemas operativos compatibles incluyen Ubuntu 20.04, Ubuntu 22.04, Ubuntu 24.04, Debian 12, Debian 13, Windows 10 y Windows 11. macOS, WSL, VMware y VirtualBox figuran como no compatibles.
Más información
este Kit M.2 acelerado AI-8850 LLM La versión de 4GB aparece bajo el SKU AI-002-4G y tiene un precio de $185.00, y la lista muestra más de 10 unidades en stock al momento de la información del producto.
Una limitación señalada por el proveedor tiene que ver con la interfaz PCIe Raspberry Pi 5. Debido a los recursos de interrupción internos limitados, la página del producto indica que cuando se utiliza PCIe para la expansión M.2 de cuatro canales, el SSD M.2 y el LLM-8850 no se pueden usar juntos.
