Geniatech enumera dos tarjetas aceleradoras de IA M.2 destinadas a cargas de trabajo de inferencia local en sistemas integrados y dispositivos perimetrales. El AIM-M-R28 utiliza el procesador RK1828 de Rockchip y tiene un rendimiento informático de 20 TOPS, mientras que el AIM-M-H10 se basa en la arquitectura Hailo-10 de Hailo y puede proporcionar hasta 40 TOPS de rendimiento informático para aplicaciones de IA generativa y visión por computadora.
Ambas tarjetas vienen en el factor de forma M.2 2280 y se conectan a sistemas host compatibles a través de PCIe, proporcionando recursos de memoria y procesamiento dedicados para la inferencia de IA sin depender completamente de la CPU del host.
AIM-M-R28 integra Rockchip RK1828 Coprocesador de IA con 20 TOPS INT8 NPU y 5 GB de DRAM apilada en 3D en el paquete. Su arquitectura de memoria coloca la DRAM junto con el hardware de procesamiento, lo que reduce la dependencia del ancho de banda de la memoria externa para las cargas de trabajo de inferencia.
Diagrama de bloques RK1820/RK1828
El acelerador utiliza la interfaz M.2 2280 M-Key con conectividad PCIe 2.1 x1. Los procesadores host compatibles incluyen Rockchip RK3568, RK3576 y RK3588, mientras que Linux y Android figuran como sistemas operativos compatibles. Geniatech especifica un TDP de 20 W y un rango de temperatura de funcionamiento de -25 °C a 85 °C.
Las cargas de trabajo admitidas incluyen visión por computadora, procesamiento de audio, predicción de series temporales e inferencia local utilizando modelos de lenguaje de parámetros de 3B a 7B. Geniatech afirma velocidades de generación de más de 100 monedas por segundo, pero no proporciona configuraciones de referencia específicas.
Vista superior del AIM-M-R28
El RK1828 también apareció en el acelerador Forlinx M.2 presentado anteriormente, que demostró una configuración PCIe de múltiples tarjetas para ejecutar modelos de lenguaje más grandes. La implementación de Geniatech también utiliza el ecosistema de software RKNN de Rockchip, que admite modelos desarrollados utilizando marcos como TensorFlow, PyTorch y ONNX.
AIM-M-R28 con refrigeración activa
El segundo acelerador AIM-M-H10 utiliza el procesador Hailo-10 para proporcionar un rendimiento informático de IA de hasta 40 TOPS. Incluye hasta 16 GB de memoria LPDDR4/4X para la ejecución nativa de modelos de IA generativa, incluidos LLM, VLM y modelos de difusión.
Vista inferior del AIM-M-H10
Esta tarjeta de 22 × 80 mm cuenta con una interfaz M.2 M-Key con conectividad PCIe y está diseñada para la integración con plataformas informáticas integradas basadas en procesadores NXP, NVIDIA, Qualcomm y AMD Xilinx. Geniatech enumera un consumo de energía típico de 12 W, un rango de temperatura de funcionamiento de 0 °C a 70 °C y es compatible con Linux y Windows.
Pila de software de IA Hailo-10H
este Héroe-10 La arquitectura admite redes neuronales convolucionales, Transformers y Vision Transformers. Su ecosistema de software incluye Hailo Dataflow Compiler y Model Zoo, que respaldan el desarrollo de modelos utilizando TensorFlow, PyTorch, ONNX y otros marcos.
Vista superior del AIM-M-H10
El procesador Hailo-10H se utilizó anteriormente en el acelerador ASUS UGen300 USB AI, que integra memoria LPDDR4 de 8 GB y utiliza conexión USB-C. El AIM-M-H10 de Geniatech apunta a la expansión interna M.2 con una configuración de memoria máxima más grande y una interfaz de host PCIe.
Más información
Para obtener más información, visite Geniatech. AIM-M-R28 y AIM-M-H10 Página del producto. Ambos aceleradores están listados para consultas de ventas, aunque aún no se han revelado detalles públicos de precios y disponibilidad.
