Nos complace anunciar el lanzamiento de Charmed Kubeflow 1.10, la última actualización de Canonical a la amplia gama de plataformas MLOPS de código abierto. Esta versión integra mejoras significativas en el proyecto Kubeflow 1.10 aguas arriba, y también trae un conjunto de otras características para la implementación empresarial. Charmed Kubeflow 1.10 permite a los profesionales y equipos de aprendizaje automático operar flujos de trabajo de aprendizaje automático de manera más eficiente, segura y sin problemas que nunca.
Lo más destacado de Kubeflow Upstream 1.10
Ajuste de hiperparámetro avanzado con el entrenador 2.0 y Katib
Kubeflow Trainer 2.0 presenta características mejoradas diseñadas para simplificar la optimización de hiperparameter. Junto con Katib, la nueva API avanzada es específicamente admite la afinación de hiperparameter para modelos de idiomas grandes (LLM), reduciendo la intervención manual y acelerando el flujo de trabajo de ajuste fino. Además, Katib ahora admite:
- Varios tipos de distribución de parámetros, incluida la uniformidad logarítmica, distribuciones normales normales y logarítmicas.
- Impulsado por un mecanismo de recolección de métricas de conducción para mejorar el rendimiento y simplificar la gestión.
Mejor escalabilidad y flexibilidad en las tuberías de Kubeflow
Kubeflow Pipelines 2.4.1 incluye mejoras clave como:
- Admite limitaciones de recursos para el marcador de posición, lo que permite configuraciones de tuberías dinámicas y adaptativas.
- El paralelismo cíclico tiene limitaciones de paralelismo configurables, lo que facilita la ejecución paralela a gran escala mientras mantiene la estabilidad del sistema.
- La resolución confiable se distingue de los componentes DAG anidados, simplificando la gestión y la reutilización de la tubería.
Modelo de siguiente nivel que sirve con kserve
KServe 0.14.1 presenta características potentes para simplificar aún más la implementación del modelo:
- Nuevo SDK de Python con capacidades de razonamiento asincrónico.
- Integración estable de almacenamiento de OCI para una gestión de modelos robusta.
- Los cachés modelo utilizan almacenamiento de nodos local para implementar rápidamente modelos grandes.
- Integre directamente con la cara abrazada y se puede implementar sin problemas utilizando el centro de abrazos.
Me complace ver la colaboración continua y las nuevas características de Kserve en la versión Kubeflow 1.10, especialmente las capacidades de almacenamiento en caché del modelo y la integración con la superficie del abrazo, lo que puede hacer que la predicción y los modelos generativos de implementación más simplificados y la automatización eficiente. Estamos trabajando activamente con proyectos y comunidades de ecosistemas como VLLM, Kubernetes WG Services y para abordar los crecientes desafíos de servir a LLM.
–Yuan Tang
Kubrou recurre al miembro del comité
El ecosistema de Kubeflow también está creciendo, recientemente Bienvenidas de bienvenidaLa comunidad Shengyan se dedica activamente a Programa de donaciones Lo mismo es cierto.
Feast es una tienda de código abierto de referencia para AI/ML que proporciona una experiencia de MLOPS de extremo a extremo perfecta cuando se combina con Kubeflow. Me alegra ver que estos dos proyectos colaboren más de cerca para desbloquear casos de uso poderosos, especialmente la generación (trapo) para los efectos generados de IA y recuperación. Kubeflow y Feast permitirán a los científicos de datos administrar efectivamente la funcionalidad, acelerar el desarrollo del modelo y acelerar la producción del modelo.
– Francesco Javier Alceo
Miembros del comité directivo de Kubeflow y mantenimientos de fiesta
Charmed Kubeflow agregó valor 1.10
No solo empaquetamos componentes ascendentes, sino que también aseguramos una experiencia de implementación de producción perfecta para nuestros clientes según sea necesario. Desarrollamos soluciones de código abierto para mejorar la orquestación e integración con los servicios auxiliares. Por supuesto, siempre consideramos los comentarios de los clientes. Así es como mejoramos aún más Charmed Kubeflow 1.10:
- Se agregó un enfoque automatizado y simplificado para administrar los perfiles de Kubeflow a través de GITOPS a través de nuestro nuevo encanto automatario de perfil de GitHub. Este mecanismo le permite definir declarativamente los archivos de configuración de Kubeflow en un solo lugar. Este trabajo también sienta las bases para proporcionar una experiencia de autenticación perfecta para los proveedores de identidad externa, que puede ser especialmente útil al implementar Kubeflow en la nube pública
- Proporcionamos una opción de alta disponibilidad para que el Portal Istio aumente la resistencia de la implementación y nos aseguramos de que pueda manejar el alto tráfico con confianza.
- Ahora puede aprovechar más aplicaciones para verificar los puntos finales y recordar a Kserve, Istio y otros componentes de las reglas. Cada vez que lanzamos, nos esforzamos por proporcionar más formas de monitorear la salud de nuestra implementación.
- Charmed Kubeflow es más seguro que nunca. Ahora, la mayoría de nuestras imágenes se basan en Ubuntu y nuestra tecnología de rock, aprovechando una tubería de parcheo seguro estandarizado que garantiza el menor número posible de CVE.
Ecosistema AI/ML estandarizado
La especificación trabaja en estrecha colaboración con una amplia gama de socios para permitir la tecnología de código abierto en cada escala y en cualquier entorno. Charmed Kubeflow se ejecuta sin problemas en cualquier distribución de Kubernetes certificada por CNCF, proporcionando mucha flexibilidad para elegir el mejor entorno para sus necesidades. Además, estamos trabajando en Kubeflow como un producto de alojamiento en la nube pública, lo que reduce en gran medida el tiempo de implementación y los costos operativos. Para los científicos de datos que buscan comenzar rápidamente a experimentar en sus computadoras portátiles o estaciones de trabajo de Ubuntu, nuestra pila de ciencias de datos ofrece una solución directa e instantánea. Finalmente, estamos desarrollando una poderosa solución de servicio de modelo independiente basada en Kubernetes, ideal para implementaciones seguras de misión crítica e incluso extendiendo capacidades de inferencia confiables que incluso pueden extenderse a las ventajas.
Comience con Charmed Kubeflow 1.10
Ya sea que sea un practicante de MLOP experimentado o un novato para Kubeflow, ahora es el momento perfecto para experimentar estas mejoras de primera mano. Instale Charmed Kubeflow 1.10 ahora y mejore el flujo de trabajo de aprendizaje automático.
Explore todos nuestros detalles e instrucciones de instalación Notas de lanzamiento.
Especificaciones de contacto Utilizado para soporte empresarial o servicios de alojamiento.
Para obtener más información sobre la regulación de las soluciones de IA, visite canonical.com/solutions/ai.
