Durante GTC el otoño pasado, NVIDIA anunció un longevo enfoque en el centro de datos empresarial, incluida su visión del centro de datos en un chip. Los tres pilares de este nuevo centro de datos definido por software incluyen la mecanismo de procesamiento de datos (DPU) inmediato con la CPU y la GPU. NVIDIA BlueField DPU avanza la tecnología SmartNIC, que NVIDIA adquirió a través de su adquisición de Mellanox en 2020.
Aquí en Canonical, estamos orgullosos de nuestra larga asociación con NVIDIA para aplaudir la mejor experiencia a los desarrolladores y clientes en Ubuntu. Este trabajo ha liberal el estado del arte con controladores de GPU NVIDIA seguros y disposiciones para el paso de GPU. Nuestros equipos de ingeniería colaboran profundamente para proporcionar el camino más rápido con destino a las funciones más nuevas y los últimos parches para vulnerabilidades críticas. Para las redes, esto ha significado asociarse con la ingeniería de Mellanox (ahora NVIDIA) para proporcionar no solo soporte de Ubuntu, sino asimismo soporte para la descarga de hardware que se remonta a los dispositivos ConnectX más antiguos. De hecho, Ubuntu fue la primera distribución de Linux habilitada en las tarjetas Bluefield en 2019. Cada vez más, Ubuntu, que ha sido durante mucho tiempo el sistema activo predilecto por los desarrolladores de estudios automotriz de vanguardia, científicos de datos, contenedores y Kubernetes, está experimentando una longevo prohijamiento empresarial. a través de verticales.
En la última plazo, NVIDIA revolucionó la inteligencia fabricado y el estudios automotriz con sus SDK líderes en la industria, incluidos CUDA, RAPIDS y más, siendo Ubuntu el sistema activo de opción. La visión que traemos ahora es, si usa la GPU para descargar sus algoritmos de estudios automotriz, ¿se puede desagregar aún más el centro de datos definido por software utilizando los aceleradores de hardware dedicados en la DPU para descargar sus cargas de trabajo de seguridad y almacenamiento? El enfoque de Canonical, como siempre, es asegurar que estas características de hardware tengan pilas de software de apoyo que se prueben a fondo y estén disponibles para que el mundo las consuma de una modo limpia y compatible.
Si entrena sus últimos algoritmos de estudios profundo en GPU NVIDIA de vanguardia en Ubuntu, ¿por qué se conformaría con otra cosa que no sea el mismo liderazgo intelectual para sus evacuación de redes, seguridad y almacenamiento?
Tabla de Contenidos
¿Qué hay de nuevo con la DPU BlueField-2? ¿Y que sigue?
Encima de ConnectX-6, la DPU Bluefield-2 incluye 8 núcleos de CPU ARM A72, pancho de costado de red de 200 Gb / sy un pancho de costado de memoria de 130 Gb / s (DDR4). Como muestra la figura posterior, esto proporciona un entorno confiable para descargar aplicaciones de ‘infraestructura’ del centro de datos, es aseverar, almacenamiento, seguridad y redes, liberando servidores host para ejecutar más ‘aplicaciones’, cosas que su empresa efectivamente necesita para ejecutar. Encima de la descarga, la DPU aísla el plano de control de seguridad del sistema activo host y las aplicaciones, mientras utiliza aceleradores de hardware dedicados para mejorar el rendimiento del sistema. NVIDIA estima que hasta el 30% de los ciclos de CPU del host se gastan actualmente en aplicaciones de infraestructura, y las posibles mejoras de ROI son significativas.
Siguiendo de cerca al BlueField-2, está el DPU del centro de datos en un chip BlueField-3, anunciado hoy y acondicionado a principios de 2022. Esta maleable de próxima gestación ofrece 16 núcleos ARM A78 aún más potentes (en comparación con 8 A72), 5X más computación y 2 veces más pancho de costado de red. Si eso no es suficiente, asimismo es compatible con la interfaz PCIe Gen5 de última gestación y dos canales de memoria DDR5, lo que proporciona mejoras 4X en E / S y pancho de costado de memoria y una celeridad 2 veces más rápida para criptografía y seguridad que BlueField-2. NVIDIA DOCA SDK ofrece compatibilidad con versiones anteriores, lo que significa que las aplicaciones desarrolladas y que se ejecutan en silicio BlueField-2 pueden funcionar sin problemas en BlueField-3.
Canonical Ubuntu y Kubernetes en BlueField-2
Nuestra asociación con NVIDIA significa que Ubuntu 20.04 está avispado para descargar hoy con soporte para todas las funciones más recientes. El soporte de comienzo PXE, que proporciona la capacidad de aprovisionar la DPU de forma remota, es inminente. Canonical proporciona las mismas garantías de soporte para Ubuntu en la DPU que en el host, ya sea que ejecute un Ubuntu en contenedor en los núcleos ARM de la DPU o lo ejecute de forma nativa para personalizar su sistema con instantáneas para una seguridad a prueba de balas.
Encima, Canonical invierte en Kubernetes, fuertemente impulsado por su presencia en el espacio nativo de la nimbo, con el 63% de todas las soluciones de Kubernetes ejecutándose en Ubuntu. Canonical Kubernetes es Kubernetes puramente pino. Charmed Kubernetes ofrece personalización de la nimbo al borde, mientras que MicroK8s es compatible con los potentes núcleos A72 de la DPU. (Charmed Kubernetes es un Kubernetes componible, de múltiples nubes, con operaciones automatizadas. MicroK8s es una distribución de Kubernetes liviana, de bajo contacto y obstinada para el borde y el IoT, amada por los desarrolladores y las empresas por su simplicidad). Operaciones optimizadas para el mundo nativo de la nimbo.
A medida que NVIDIA continúa mejorando sus parches, el soporte de funciones continúa mejorando con el tiempo. Si está interesado en obtener más información, aquí hay un enlace a una charla que presentamos en GTC 2020. La charla aborda los casos de uso de DPU y demostraciones de extensión de Ubuntu y MicroK8 en la DPU antiguamente de mostrar una implementación de la vida existente con Kubeflow y Charms. .
Descarga OVS / OVN
La ciberseguridad tradicional se ha centrado en las amenazas de seguridad externas. Sin incautación, el auge de los centros de datos de múltiples inquilinos en esta era de fragmentación y microservicios ha cubo circunstancia a una nueva clase de vulnerabilidades y amenazas potenciales de otras aplicaciones o inquilinos que se ejecutan en la misma infraestructura que usted. La DPU está en una posición única para monitorear y controlar todo el tráfico adentro del centro de datos e incluso el tráfico entre VM y contenedores en el mismo servidor.
Las DPU introducen un cambio de casa en las implementaciones de infraestructura: los servicios de red que solían proporcionar servicios de enrutamiento y conmutación supuesto localmente en los nodos informáticos se trasladan a las DPU y, por lo tanto, se aíslan de los hosts del hipervisor. Como resultado, hay cambios en el plano de control que son necesarios para el aprovisionamiento de interfaces de red para instancias o pods. Canonical está desarrollando los cambios necesarios para permitir un soporte consumado para el aprovisionamiento de interfaces de red aceleradas por DPU en OpenStack, Kubernetes y otros proyectos que utilizan Open Aparente Network (OVN) y Open vSwitch (OVS). El equipo de Canonical está trabajando para habilitar la compatibilidad con OVS y OVN en la cartera de productos Bluefield de NVIDIA. Estas tecnologías forman la columna vertebral de los casos de uso en la DPU.
Security at the Edge y NVIDIA Morpheus: IA para ciberseguridad
Recientemente, tuvimos conocimiento de una implementación muy interesante que utiliza Kubernetes para orquestar un sistema con miles de tarjetas BlueField-2 en un centro de datos híbrido de suspensión rendimiento de múltiples inquilinos. El caso de uso requería un fiel aislamiento y consistencia de rendimiento. Esta implementación descarga OVN a las DPU para crear primero una nimbo privada supuesto (VPC), proporcionando un aislamiento completo entre varios inquilinos, y luego utiliza las DPU para hacer cumplir las políticas de seguridad en cada nodo para crear una infraestructura de seguridad en la nimbo inteligente.
A medida que los requisitos de computación evolucionan y la computación se traslada a los centros de datos periféricos, más cerca de donde se generan los datos, esperamos cada vez más casos de uso que aprovechen las capacidades de la DPU.
Caso en cuestión: hoy en GTC, NVIDIA anunció su entorno de aplicación Morpheus AI. Morpheus combina las fortalezas tradicionales de NVIDIA en IA y ML en GPU con la capacidad de la DPU para monitorear y reponer a amenazas y actores maliciosos en tiempo existente. El entorno ofrece modelos de inteligencia fabricado previamente entrenados que mejoran la seguridad en el entorno de confianza cero de los centros de datos modernos en contenedores.
En sumario, la DPU desacopla las aplicaciones (DevOps) de la infraestructura (TI) y es prometedora como el posterior paso en la cambio del centro de datos. En Canonical estamos efectivamente entusiasmados con las posibilidades que brinda al centro de datos definido por software de próxima gestación. Nos encantaría explorar cómo podemos ayudarlo a obtener un mejor retorno de la inversión en sus inversiones al descargar las cargas de trabajo de su infraestructura a hardware optimizado como BlueField-2.
Examinar sesiones
SCanonical en GTC
