El camino desde el prototipo hasta la producción de cargas de trabajo de IA/ML rara vez es sencillo. A medida que los canales de datos se expanden y la complejidad del maniquí crece, los equipos pueden encontrarse dedicando más tiempo a orquestar la computación distribuida que a desarrollar la inteligencia que impulsa sus productos. Acaecer de un prueba con una computadora portátil a una carga de trabajo de nivel de producción todavía parece como reinventar la rueda. ¿Qué pasaría si prosperar las cargas de trabajo de IA fuera tan natural como escribir en Python? Esa es la idea detrás Centellael situación de computación distribuida de código extenso nacido en RISELab de UC Berkeley, y ahora llega a Azure de una modo completamente nueva.
Hoy, en Ray Summit, anunciamos una nueva asociación entre Microsoft y cualquier escalerala empresa fundada por los creadores de Ray, para aguantar el servicio Ray administrado de Anyscale a Azure como una ofrecimiento nativa de Azure en interpretación preliminar privada. Esta nueva experiencia administrada brindará la simplicidad de la experiencia de desarrollador de Anyscale encima de la infraestructura Kubernetes de nivel empresarial de Azure, lo que permitirá ejecutar cargas de trabajo distribuidas de Python con integraciones nativas, gobernanza unificada y operaciones optimizadas, todo en el interior de su suscripción de Azure.
Ray: Computación distribuida de código extenso para Python
Ray reimagina los sistemas distribuidos para el ecosistema Python, simplificando a los desarrolladores prosperar el código desde una sola computadora portátil a un clúster prócer con cambios mínimos. En emplazamiento de reescribir aplicaciones para ejecución distribuida, Ray ofrece API Pythonic que permiten cambiar funciones y clases en tareas y actores distribuidos sin alterar la dialéctica central. Su programación inteligente organiza a la perfección cargas de trabajo en CPU, GPU y entornos heterogéneos, lo que garantiza una utilización eficaz de los bienes.
Los desarrolladores asimismo pueden crear sistemas completos de IA utilizando las bibliotecas nativas de Ray: Ray Train para capacitación distribuida, Ray Data para procesamiento de datos, Ray Serve para servicio de modelos y Ray Tune para optimización de hiperparámetros, todos totalmente compatibles con marcos como PyTorch y TensorFlow. Al idealizar la complejidad de la infraestructura, Ray permite que los equipos se centren en el rendimiento y la innovación del maniquí.
Cualquier escalera: Enterprise Ray en Azure
Ray hace accesible la computación distribuida; Anyscale que se ejecuta en Azure lo lleva al venidero nivel de preparación empresarial. En el centro de esta ofrecimiento se encuentra Anyscale Runtime, el tiempo de ejecución de parada rendimiento de Anyscale para Ray. Anyscale Runtime está diseñado para maximizar la eficiencia del clúster y acelerar las cargas de trabajo de Python, lo que permite a los equipos de Azure:
- Ponga en marcha clústeres de Ray en minutos, sin experiencia en Kubernetes, directamente desde Azure Portal o CLI.
- Asigne tareas dinámicamente entre CPU, GPU y nodos heterogéneos, lo que garantiza una utilización eficaz de los bienes y minimiza el tiempo de inactividad.
- Ejecute fácilmente grandes experimentos de forma rápida y rentable con escalado elástico, empaquetado de GPU y compatibilidad nativa con máquinas virtuales puntuales de Azure.
- Ejecute de modo confiable a escalera de producción con recuperación cibernética de fallas, actualizaciones sin tiempo de inactividad y observabilidad integrada.
- Proseguir el control y la gobernanza; Los clústeres se ejecutan en el interior de su suscripción de Azure, por lo que los datos, los modelos y la computación permanecen seguros, con facturación unificada y cumplimiento de los estándares de Azure.
Al combinar las API flexibles de Ray con la plataforma administrada y el rendimiento en tiempo de ejecución de Anyscale, los desarrolladores de Python pueden ocurrir del prototipo a la producción más rápido, con menos gastos operativos y a escalera de cirro en Azure.
Kubernetes para informática distribuida
Debajo del capó, Servicio Azure Kubernetes (AKS) impulsa esta nueva ofrecimiento administrada, proporcionando la pulvínulo de infraestructura para ejecutar Ray a escalera de producción. AKS maneja la complejidad de orquestar cargas de trabajo distribuidas y, al mismo tiempo, ofrece la escalabilidad, la resiliencia y la gobernanza que requieren las aplicaciones empresariales de IA.
AKS ofrece:
- Orquestación dinámica de bienes: aprovisione y escale clústeres automáticamente en CPU, GPU y configuraciones mixtas a medida que cambia la demanda.
- Reincorporación disponibilidad: los nodos de recuperación cibernética y la conmutación por error mantienen las cargas de trabajo ejecutándose sin interrupciones.
- Escalado elástico: escale desde clústeres de incremento hasta implementaciones de producción que abarquen cientos de nodos.
- Servicios integrados de Azure: las conexiones nativas a Azure Educador, Microsoft Entra ID, Blob Storage y herramientas de políticas agilizan la gobernanza entre los equipos de ciencia de datos y TI.
AKS brinda a Ray y Anyscale una pulvínulo sólida, una pulvínulo que ya es confiable para cargas de trabajo empresariales y está serie para prosperar desde pequeños experimentos hasta implementaciones globales.
Habilitar equipos con Anyscale ejecutándose en Azure
Con esta asociación, Microsoft y Anyscale reúnen lo mejor de Ray de código extenso, la infraestructura de cirro administrada y la orquestación de Kubernetes. Al combinar la plataforma informática distribuida de Ray para Python con las capacidades de distribución de Anyscale y la sólida orquestación de AKS, los clientes de Azure obtienen flexibilidad a la hora de prosperar las cargas de trabajo de IA. Ya sea que desee comenzar poco a poco con una experimentación rápida o ejecutar sistemas de encomienda crítica a escalera mundial, esta ofrecimiento le brinda la opción de adoptar la computación distribuida sin la complejidad de construir y ordenar la infraestructura usted mismo.
Puede emplear el ecosistema de código extenso de Ray, integrarlo con la experiencia administrada de Anyscale o combinar entreambos con servicios nativos de Azure, todo en el interior de su maniquí de suscripción y gobernanza. Esta opcionalidad significa que los equipos pueden designar el camino que mejor se adapte a sus deyección: crear prototipos rápidamente, optimizar el costo y el rendimiento, o estandarizar para el cumplimiento empresarial.
Juntos, Microsoft y Anyscale están eliminando barreras operativas y brindando a los desarrolladores más formas de innovar con Python en Azure, para que puedan moverse más rápido, prosperar de modo más inteligente y concentrarse en conseguir avances. Lea el comunicado completo aquí.
principiar
Obtenga más información sobre la traza previa privada y cómo solicitar golpe en https://aka.ms/anyscale o suscríbete a Anyscale en el Mercado Azure.