La historia de la informática es una historia de cambios increíbles, pero no todas las revoluciones ocurren al mismo ritmo. Se necesitaron décadas para reducir el tamaño de la computadora central, inventar el microprocesador y llevar la informática a los dispositivos personales. Hoy, somos testigos de una nueva era: la transición de clústeres de IA centralizados a gran escala a potentes PC con IA en los dispositivos. Y está sucediendo a un ritmo explosivo. Este artículo explora por qué la segunda revolución fue tan rápida y cómo los avances del ecosistema Ubuntu a lo largo de los años ayudaron a facilitar esta transición.
NVIDIA DGX Spark: enormes modelos de IA que se ejecutan localmente
El cambio de clústeres de GPU centralizados a gran escala a IA en el dispositivo se está produciendo rápidamente a medida que los consumidores exigen más capacidades de IA al alcance de su mano. NVIDIA acaba de anunciar DGX Spark para desarrolladores de IA. El sistema fue diseñado desde cero para construir y ejecutar inteligencia artificial.
NVIDIA DGX chispa Aporta una enorme potencia informática a los desarrolladores. Ofrece 1 petaFLOP de rendimiento de IA en un diseño eficiente y compacto. La CPU Grace con 128 GB de memoria de sistema unificada, GPU Blackwell y 20 núcleos ARM puede manejar modelos de IA con hasta 200 B de parámetros. usar NVIDIA ConnectX A través de la red, se pueden conectar dos sistemas DGX Spark para trabajar en modelos más grandes con parámetros de hasta 405B. Esta configuración proporciona una plataforma poderosa para crear prototipos, ajustar e inferir modelos grandes localmente. DGX Spark proporciona a los desarrolladores de IA una solución completa, incluida la pila de software de IA de NVIDIA, para acelerar las cargas de trabajo de IA y respaldar un increíble ecosistema de desarrolladores externos.
Ubuntu como base del sistema operativo DGX
Sistema operativo NVIDIA DGX Spark DGX OS está basado en Ubuntu. DGX OS aprovecha el ecosistema establecido de Ubuntu y los repositorios confiables para acelerar el desarrollo. El ecosistema Ubuntu aporta años de madurez de código abierto a la pila de software, particularmente en torno al tiempo de ejecución de CUDA y las herramientas de desarrollo de CUDA. Canonical ayuda a garantizar un entorno informático seguro manteniendo actualizaciones constantes, parcheando miles de paquetes de código abierto y resolviendo CVE rápidamente.
Ubuntu trae tres pilares fundamentales para enriquecer la experiencia del desarrollador en el sistema operativo DGX:
1. Ubuntu Server y Ubuntu Desktop usan el mismo kernel
Debido a que Ubuntu Server y Ubuntu Desktop comparten el mismo núcleo central, no son sistemas operativos independientes. Esta base unificada permite a los desarrolladores instalar paquetes de servidor en el escritorio y viceversa. Por lo tanto, el escritorio Ubuntu se beneficia de años de desarrollo maduro del ecosistema CUDA en servidores Ubuntu. Las cargas de trabajo de IA que se ejecutan en clústeres de nube a gran escala pueden utilizar exactamente la misma pila de software en DGX OS, creando un entorno de desarrollo consistente y estable.
2.Soporte de brazo en Ubuntu
Canonical admite procesadores Arm desde 2011, lo que convierte a Ubuntu en una plataforma escalable para IA en servidores y dispositivos. Este soporte consistente y a largo plazo para la arquitectura Armv8 de 64 bits garantiza que NVIDIA DGX Spark (con tecnología de CPU Grace basadas en ARM) sea totalmente compatible desde el lanzamiento.
3. Entrega madura de paquetes y seguridad de la cadena de suministro
DGX OS aprovecha la probada gestión de paquetes y la elástica cadena de suministro de software de Ubuntu para convertirse en una plataforma lista para producción. Hereda repositorios confiables, lo que garantiza que el software esté verificado. Además, el mantenimiento de seguridad extendido (ESM) de Canonical, disponible a través de Ubuntu Pro, proporciona parches de seguridad oportunos para paquetes de software de código abierto, lo cual es fundamental para las cargas de trabajo de inteligencia artificial y ciencia de datos.
Al crear el sistema operativo DGX en Ubuntu, NVIDIA puede aprovechar el mismo software que se ejecuta en servidores en la nube en dispositivos de escritorio compactos. Esto es posible porque el soporte maduro de Ubuntu para los procesadores Arm y su cadena de suministro de software diseñada de forma segura crean una plataforma estable y lista para producción y aceleran significativamente el desarrollo.
Experiencia de desarrollador unificada
La arquitectura de software de la plataforma NVIDIA AI permite a los usuarios de DGX Spark mover fácilmente modelos desde el escritorio a DGX Cloud o cualquier nube acelerada o infraestructura de centro de datos, lo que facilita la creación de prototipos, ajustes e iteraciones.
Para brindar una experiencia familiar a los desarrolladores, NVIDIA DGX Spark refleja la misma arquitectura de software que impulsa las fábricas de IA de nivel industrial. Viene preconfigurado con la última pila de software de IA de NVIDIA y acceso de desarrollador a NVIDIA NIM™ y NVIDIA Blueprints. Esto significa que los desarrolladores pueden crear prototipos, ajustar e inferir inmediatamente NVIDIA DGX Spark utilizando modelos líderes de IA de código abierto y herramientas comunes como PyTorch, Jupyter y Ollama, e implementarlos fácilmente en el centro de datos o en la nube. Con DGX Spark, los desarrolladores se benefician de un entorno familiar y una experiencia de configuración simplificada con un asistente de configuración que garantiza un inicio rápido.
Mirando hacia el futuro
El lanzamiento de NVIDIA DGX Spark marca un hito emocionante en la informática de IA de escritorio. A medida que la IA continúa transformando industrias e impulsando la innovación, herramientas como DGX Spark desempeñarán un papel vital en la democratización de poderosos recursos de desarrollo de IA. En Canonical, estamos entusiasmados de continuar nuestra asociación con NVIDIA para apoyar a la comunidad de IA con potentes soluciones de código abierto e impulsar la próxima generación de avances en IA.
Obtenga más información sobre la asociación de Canonical con NVIDIA
