Tutoriales

Se espera que Rockchip utilice dispositivos para el desarrollo de IA

cuando ARMSoM se ofreció amablemente a incluir sus próximasObjetivo 7junto con objetivoIO Tablero portador, estoy emocionado.

Ha utilizado hardware de inteligencia artificial, p. Nvidia Jetson Nano y placa frambuesa piSiempre tengo curiosidad por los dispositivos que prometen poderosas capacidades de inteligencia artificial sin requerir grandes configuraciones físicas o un consumo masivo de energía.

AIM7, por Chip de roca RK3588parece alcanzar ese punto ideal: un módulo compacto con una potente potencia de procesamiento, uso eficiente de la energía y opciones de conectividad versátiles para una variedad de proyectos.

Lo que más me interesa es su potencial para manejar tareas de inteligencia artificial como la detección de objetos y el procesamiento de imágenes, al mismo tiempo que admite aplicaciones multimedia y al mismo tiempo es lo suficientemente pequeño como para integrarse en recintos personalizados o sistemas integrados con espacio limitado.

Lo que sigue es mi experiencia personal con esta interesante pieza de hardware.

📋

AIM7 es un producto próximo que se encuentra en la etapa de prelanzamiento de financiación colectiva. Mi experiencia es que el producto se encuentra en sus primeras etapas y mejorará según los comentarios que yo y otros revisores proporcionemos.

Especificaciones de ArmSoM AIM7

Apunta 7 adelante y atrás

AIM7 es una placa de desarrollo compacta y potente construida alrededor del SoC Rockchip RK3588, un procesador octa-core con Cortex-A76 de cuatro núcleos y Cortex-A55 de cuatro núcleos con frecuencia de hasta 2,4 GHz.

La GPU ARM Mali-G610 MP4 con 6 TOPS NPU complementa esta poderosa característica, convirtiéndola en una excelente opción para cargas de trabajo de IA y aplicaciones multimedia.

Su pequeño tamaño y sus versátiles opciones de conectividad lo hacen adecuado para aplicaciones integradas y proyectos de desarrollo.

El dispositivo que recibí viene con 8 GB de RAM LPDDR4x y 32 GB de almacenamiento eMMC.

característicaArmSoM RK3588 (microchip Rock)
Núcleo de la CPUARM Cortex-A76 de cuatro núcleos + ARM Cortex-A55 de cuatro núcleos
Núcleo de GPUBRAZO Mali-G610 MP4
memoriaLPDDR4x de 8 GB/32 GB, 2112 MHz
almacenamientoTarjeta microSD, memoria flash eMMC 5.1 de 32 GB
Codificación de vídeo8K a 30 fps H.265/H.264
decodificación de vídeo8K a 60 fps H.265/VP9/AVS2, 8K a 30 H.264 AVC/MVC
Puerto USB1 USB 3.0, 3 USB 2.0
Ethernet1x 10/100/1000BASE-T
interfaz CSI12 carriles (4×2) MIPI CSI-2 D-PHY1.1 (18 Gbps)
entrada/salida3 UART, 2 SPI, 2 I2S, 4 I2C, múltiples GPIO
PCIe1 PCIe 3.0 de 1/2/4 canales y 1 PCIe 2.0 de 1 canal
Salida HDMI1 HDMI 2.1 / 1 eDP 1.4
interfaz DP1xDP 1.4a
interfaz eDP/DP1 salida eDP 1.4 / 1 HDMI 2.1
interfaz DSI1x DSI (1×2) 2 sincronización
Soporte del sistema operativoDebian, Ubuntu, Armbiano

Especificaciones de la placa portadora AIM-IO

tablero aio por delante y por detrás

La placa portadora AIM-IO está diseñada para complementar el módulo AI AIM7. Ofrece una gran cantidad de funciones, incluidos múltiples puertos USB, salidas de pantalla y opciones de expansión, lo que la convierte en una plataforma ideal para el desarrollo y la creación de prototipos.

característicaEspecificación
Puerto USB4 USB 3.0 tipo A
anexo1 DisplayPort, 1 salida HDMI
redesGigabitEthernet
interfaz universal de entrada y salidaConector de expansión de 40 pines
conector de alimentaciónConector cilíndrico de CC para entrada de 5 V, compatible con PoE
expansiónM.2 (llave electrónica, PCIe/USB/SDIO/UART), microSD
MIPI DSI1x MIPI DSI de 4 canales hasta 4K@60 fps
MIPICSI0/12 MIPI CSI de 2 carriles, hasta 2,5 Gbps por carril
MIPICSI2/31x MIPI CSI de 4 carriles, máximo 2,5 Gbps por carril
firmwareModo flash y dispositivo a través de USB Type-C
aspecto100×80×29mm

Unboxing y primeras impresiones.

El AIM7 viene en una caja universal compacta y bien empaquetada junto con la placa AIM-IO, que es esencial para que el módulo esté en funcionamiento.

A primera vista, el AIM7 en sí es pequeño, mide sólo 69,6 x 45 mm, casi el mismo tamaño que el módulo central Jetson Nano.

módulo aim7 con radiador
Yo mismo agregué el disipador de calor

La placa portadora también es del mismo tamaño que la placa portadora del kit de desarrollo Jetson Nano, lo que la convierte en un intercambio fácil para aquellos que ya están familiarizados con el ecosistema Nvidia.

Placa todo en uno para Aim 7, con ranura m.2

La calidad de fabricación tanto del módulo como de la placa portadora es confiable. La placa AIM-IO tiene un diseño limpio, con puertos y conectores claramente etiquetados.

Todos los puertos en el frente de la placa aio

Cuenta con cuatro puertos USB 3.0, salidas HDMI y DisplayPort, un encabezado GPIO de 40 pines y una ranura M.2 para expansión, lo que lo convierte en una adición bienvenida para los desarrolladores que buscan superar los límites de su hardware.

ranura para tarjeta sd de la placa aio

configúrelo

Instalar el AIM7 en la placa AIM-IO es muy sencillo. El diseño del conector de borde es similar al del Jetson Nano, lo que significa que se conecta fácilmente.

Para alimentarlo se requiere un conector de barril estándar de 5 V.

Sé que estos SBC de Rockchip se calientan mucho, así que compré un disipador térmico pasivo universal. Las opciones de refrigeración activa son demasiado caras.

Tablero aim7 ensamblado con carcasa de bricolaje y tornillos circundantes

Como quería utilizar este dispositivo para un proyecto de domótica, también me compré un estuche de bricolaje.

Tablero aim7 dentro del gabinete de bricolaje
¡No me juzguen, me voy a mudar, así que ni siquiera he quitado el plástico protector del acrílico todavía (para evitar rayones)!

Instalación del sistema operativo

📋

Los dispositivos ArmSoM vienen con Debian instalado en eMMC, pero en chino. Decidí instalar una distribución de mi elección reemplazando el sistema operativo predeterminado.

Ahora, hablemos de la instalación del sistema operativo. mimado por la facilidad Generador de imágenes Raspberry PiMe encontré en una curva de aprendizaje pronunciada mientras trabajaba. Herramientas de desarrollo RK.

Utilice rkdevtool para instalar ubuntu

Obtener imágenes del dispositivo Rockchip me obligó a mirar varios videos y leer varios archivos. Después de muchas pruebas y errores, actualicé con éxito la imagen de Ubuntu proporcionada.

Ubuntu arranca en aim7 por primera vez

He escrito una guía dedicada para ayudarte. Instale el sistema operativo en el dispositivo Rockchip usando RKDevTool.

Vale la pena mencionar un pequeño problema: no pude probar la compatibilidad con tarjetas SD porque simplemente no funciona para mí. Eso es decepcionante, pero el almacenamiento eMMC integrado proporciona una copia de seguridad sólida.

Pruebas de rendimiento

Para medir las capacidades de AIM7, realicé una serie de puntos de referencia y pruebas del mundo real. Así es como funciona:

📋

Para las pruebas generales, elegí la imagen Armbian, que funcionó bien, pero no pude probar las capacidades de IA de la NPU en ella. Para explorarlos, luego cambié al espejo de Ubuntu.

Puntuación de Geekbench

Aquí puede ver el rendimiento de un solo núcleo y de múltiples núcleos del RK3588, que es bastante impresionante. Quiero decir, los resultados hablan por sí solos. El núcleo Cortex-A76 es una actualización importante.

Puntuaciones de Target7 Geekbench de un solo núcleo y de múltiples núcleos

Puede ver el rendimiento completo de un solo núcleo de RK3588:

resultados de un solo núcleo rk3588

Rendimiento multinúcleo:

resultados multinúcleo rk3588

El rendimiento multinúcleo del RK3588 deja atrás al Raspberry Pi e incluso al Jetson Nano, con una puntuación de casi el doble en la mayoría de las pruebas.

Evaluación comparativa de IA con Raspberry Pi 5 y Jetson Orin Nano
fuente: ARMSoM

Carga de trabajo de inteligencia artificial

La NPU 6 TOPS de AIM7 está diseñada para manejar eficientemente la inferencia de IA. es compatible Maestro de leyesun conjunto de herramientas que puede implementar modelos de lenguaje livianos en hardware Rockchip.

Probé el modelo TinyLLAMA con 1,1 mil millones de parámetros y el rendimiento fue asombroso, alcanzando 16 tokens por segundo.

Resultado de salida:

root@armsom-aim7-io:/# ./llm_demo tinyLlama.rkllm 
rkllm init start
rkllm-runtime version: 1.0.1, rknpu driver version: 0.9.6, platform: RK3588
rkllm init success

**********************可输入以下问题对应序号获取回答/或自定义输入********************

[0] what is a hypervisor?

*************************************************************************

user: 0
what is a hypervisor?
robot: A hypervisor is software, firmware, or hardware that creates and runs virtual machines (VMs).There are two types: Type 1 (bare-metal, runs directly on hardware) and Type 2 (hosted, runs on top of an OS). tokens 50 time 3.12
Token/s : 16.01
  • Si bien no pude probar todos los demás modelos compatibles, aquí hay una lista de los modelos y su rendimiento, proporcionada por Radxa: TinyLLAMA 1.1B – 15.03 tokens/sQwen 1.8B – 14.18 tokens/sPhi3 3.8B – 6.46 tokens/sChatGLM3 – 3.67 fichas/segundo

El kit de herramientas RKNN-LLM admite la implementación de modelos de lenguaje livianos en hardware Rockchip y la eficiencia de las NPU lo convierte en una excelente opción para cargas de trabajo de IA.

El rendimiento varía según el tamaño y los parámetros del modelo; los modelos más grandes, naturalmente, funcionan más lento. Las NPU también consumen menos energía que las GPU, lo que libera tiempo para realizar otras tareas.

Procesamiento de imágenes y videos.

Como no hay un módulo de cámara compatible, no puedo procesar imágenes y videos en vivo. tengo uno Módulo de cámara RPi Pero carece de un cable plano compatible para conectarlo a la placa AIM-IO.

módulo de cámara rpi a través de placa aim7

Aún así, uso Modelo YOLOv8 Se utiliza para detectar objetos en las imágenes de demostración proporcionadas.

Me tomó mucho tiempo entender cómo usarlo (espero que se trate en un artículo aparte), pero gracias. Documentación bien estructurada de Radxa.que proporciona una guía paso a paso.

Imagen del autobús de demostración de razonamiento Yolov8

Los resultados son impresionantes y demuestran la capacidad del comité para manejar eficazmente tareas complejas de reconocimiento de imágenes.

¿Para qué se puede utilizar?

AIM7 ofrece una amplia gama de aplicaciones potenciales, lo que la convierte en una herramienta versátil para desarrolladores y entusiastas. A continuación se muestran algunos posibles casos de uso:

  1. Domótica: El bajo consumo de energía y las potentes capacidades de procesamiento del AIM7 lo hacen ideal para configuraciones domésticas inteligentes. Desde controlar dispositivos IoT hasta IA de vanguardia que ejecuta sistemas de seguridad para el hogar, AIM7 puede manejarlo todo.
  2. Aplicaciones impulsadas por inteligencia artificial: Con su NPU 6 TOPS, AIM7 sobresale en tareas como detección de objetos, procesamiento de lenguaje natural y reconocimiento de imágenes. Es una excelente opción para implementar modelos de IA livianos en el borde.
  3. Centro de medios: La capacidad de decodificar y codificar video de 8K lo convierte en una opción poderosa para crear un centro multimedia personalizado o configuraciones de transmisión.
  4. Robótica: El tamaño compacto y las opciones de conectividad versátiles del AIM7 lo hacen ideal para proyectos de robótica que requieren procesamiento sobre la marcha y razonamiento de inteligencia artificial.
  5. Proyectos educativos: Para estudiantes y educadores, AIM7 proporciona una plataforma práctica para aprender sobre sistemas integrados, inteligencia artificial y visión por computadora.
  6. Automatización industrial: Su potente soporte de hardware y software lo convierte en una opción confiable para aplicaciones industriales como el mantenimiento predictivo y la automatización de procesos.
  7. Proyectos de bricolaje: Ya sea que esté construyendo un espejo inteligente, una cámara con IA o un NAS personalizado, AIM7 brinda la flexibilidad y el poder para convertir sus ideas en realidad.

Si no está interesado en nada de lo anterior, siempre puede usarlo como escritorio secundario, convirtiéndolo en última instancia en una computadora de placa única. 😉

pensamientos finales

Después de usar ArmSoM AIM7 durante algún tiempo, puedo decir con confianza que es una pieza de hardware impresionante. Instalé Ubuntu y la experiencia de escritorio fue sorprendentemente fluida.

El almacenamiento eMMC integrado realmente hace que la experiencia sea fluida, haciendo que el inicio de aplicaciones sea rápido y receptivo, significativamente más rápido que una configuración de tarjeta SD tradicional.

Ver YouTube a 1080p fue sencillo, pero seguía siendo un desafío en la Raspberry Pi con la misma resolución. La reproducción fue consistente sin tartamudeos, lo cual es una gran ventaja para las aplicaciones con uso intensivo de medios.

El kit de herramientas RKNN-LLM me permite implementar modelos livianos y la potencia de la NPU permite usar la GPU para otras tareas, lo cual es perfecto para aplicaciones de IA de vanguardia.

Mi única queja es que ArmSoM carece de documentación extensa. Si bien está disponible, normalmente no cubre todo y me encuentro dependiendo de Radeksa y teja híbrida Foro para la resolución de problemas. ArmSoM me dice que la documentación se mejorará una vez que se lance el crowdfunding.

Puedes seguir la campaña de crowdfunding y otras novedades pagina dedicada.

Módulo de inteligencia artificial RK3588 7

Módulo de IA de bajo consumo compatible con el ecosistema Nvidia Jetson Nano

Espero explorar más de su potencial en mis proyectos de automatización del hogar, especialmente a medida que incorporo inteligencia artificial en sistemas más inteligentes y eficientes.

LEER  Cómo verificar la integridad y autenticidad de una imagen ISO de Linux

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba