En colaboración con Microsoft y NVIDIA, hemos integrado microservicios NVIM NIM y NVIDIA AgentIQ Toolkit en Azure Ai Foundry, que desbloquea la eficiencia, el rendimiento y la optimización de costos sin precedentes para sus proyectos de IA.
Estoy emocionado de compartir un gran brinco en la forma en que desarrollamos y implementamos IA. En colaboración con NVIDIA, hemos integrado los microservicios NIM NIM y NVIDIA AgentIQ Toolkit en Azure ai fundición—Enlactar la eficiencia, el rendimiento y la optimización de costos sin precedentes para sus proyectos de IA.
Una nueva era de eficiencia de IA
En el panorama digital de ritmo rápido de hoy, la escalera de aplicaciones de IA exige más que solo innovación; requiere procesos simplificados que ofrecen un tiempo de mercado rápido sin comprometer el rendimiento. Con los proyectos de IA empresariales que a menudo tardan de 9 a 12 meses en acaecer de la concepción a la producción, cada lucro de eficiencia cuenta. Nuestra integración está diseñada para cambiar eso al simplificar cada paso del ciclo de vida del ampliación de IA.
Nvidia nim en Azure ai Foundry
NVIDIA NIM ™, parte del suite de software Nvidia AI Enterprise, es un conjunto de microservicios fáciles de usar diseñados para inferencias AI seguras, confiables y de suspensión rendimiento. Aprovechando tecnologías robustas como Nvidia Triton Inference Server ™, Tensorrt ™, Tensorrt-LLM y Pytorch, los microservicios NIM están construidos para resquilar sin problemas en el cálculo de Azure administrado.
Ellos proporcionan:
- Implementación de configuración cero: Levántate rápidamente con la optimización de listas para usar.
- Integración de Azure sin costuras: Trabaja sin esfuerzo con el servicio de agentes de AI Azure y el núcleo semántico.
- Confiabilidad de punto empresarial: Beneficiarse del soporte empresarial NVIDIA AI para el rendimiento y la seguridad continuos.
- Inferencia escalable: Aproveche la infraestructura acelerada de Azure NVIDIA para las cargas de trabajo exigentes.
- Flujos de trabajo optimizados: Acelerar aplicaciones que van desde modelos de idiomas grandes hasta investigación avanzados.
Implementar estos servicios es simple. Con solo unos pocos clics, ya sea seleccionando modelos como el LLAMA-3.3-70B-NIM u otros del Catálogo de modelos en Azure Ai Foundry, puede integrarlos directamente en sus flujos de trabajo de IA y comenzar a construir aplicaciones de IA generativas que funcionen sin problemas adentro del ecosistema de Azure.
Optimización del rendimiento con NVIDIA AgentIQ
Una vez que se implementan sus microservicios NVIDIA NIM, NVIDIA AgentIQ toma el centro del proscenio. Este kit de herramientas de código franco está diseñado para conectar, perfilar y optimizar a los equipos de agentes de IA, permite que sus sistemas se ejecuten en el mayor rendimiento. Agentiq ofrece:
- Perfil y optimización: Aproveche la telemetría en tiempo verdadero para ajustar la colocación del agente de IA, reduciendo la latencia y calcule la sobrecarga.
- Mejoras de inferencia dinámica: Compilar y analizar continuamente los metadatos, como los tokens de salida predichos por convocatoria, tiempo estimado a la futuro inferencia y longitudes de token esperadas, para mejorar dinámicamente el rendimiento del agente.
- Integración con núcleo semántico: La integración directa con Azure AI Foundry Agent Service facilita aún más a sus agentes con capacidades mejoradas de razonamiento semántico y ejecución de tareas.
Este perfil inteligente no solo reduce los costos de enumeración, sino que incluso aumenta la precisión y la capacidad de respuesta, de modo que cada parte de su flujo de trabajo de IA agente está optimizado para el éxito.
Encima, pronto estaremos integrando el maniquí de razonamiento de razonamiento Nemotron Nemotron Nvidia Candela. Nvidia Candela Nemotron Reason es una poderosa clan de modelos de IA diseñada para un razonamiento renovador. Según NVIDIA, Nemotron se destaca por la codificación, las matemáticas complejas y el razonamiento estudiado, mientras comprende la intención del afortunado y las herramientas llamadas sin problemas como la búsqueda y las traducciones para realizar tareas.
Impacto del mundo verdadero
Los líderes de la industria ya están presenciando los beneficios de estas innovaciones.
Drew McCombs, vicepresidente de Cloud and Analytics en EPIC, señaló:
El tirada de microservicios NVIDIA NIM en Azure AI Foundry ofrece una forma segura y valioso para que EPIC desplegue modelos de IA generativos de código franco que mejoren la atención al paciente, aumenten la eficiencia del médico y eficaz, y descubra nuevas ideas para impulsar la innovación médica. En colaboración con UW Health y UC San Diego Health, incluso estamos investigando métodos para evaluar resúmenes clínicos con estos modelos avanzados. Juntos, estamos utilizando la última tecnología de inteligencia químico de modo que verdaderamente mejore la vida de los médicos y pacientes.
La experiencia de EPIC subraya cómo nuestra decisión integrada puede impulsar el cambio transformador, no solo en la atención médica, sino en todas las industrias donde la IA de suspensión rendimiento es un cambio de descanso. Como señaló Jon Sigler, EVP, Platform and AI en ServiceNow:
Esta combinación de la plataforma AI de ServiceNow con NVIDIA NIM y Microsoft Azure AI Foundry y Azure AI Agent Service nos ayuda a padecer a los agentes de IA específicos de la industria del mercado, y aceleraciones de IA, entregando soluciones de AI de pila completa para ayudar a resolver problemas más rápido, ofrecer grandes experiencias de los clientes y acelerar las mejoras en las organizaciones y la eficiencia de las organizaciones.
Desbloquear innovación con AI
Al combinar las capacidades de implementación robustas de NVIDIA NIM con la optimización dinámica de NVIDIA AgentIQ, Azure AI Foundry proporciona una decisión interruptor en mano para la construcción, implementación y escalera de aplicaciones de agente de punto empresarial. Esta integración puede acelerar las implementaciones de IA, mejorar los flujos de trabajo de la agente y sujetar los costos de infraestructura, lo que le permite concentrarse en lo que verdaderamente importa: impulsar la innovación.
¿Agudo para acelerar tu alucinación de IA?
Implementar microservicios nvidia nim y Optimice sus agentes de IA con NVIDIA AgentIQ Toolkit en Azure ai fundición. Explore más sobre la fundición Azure Ai catálogo de modelos.
Construyamos un futuro más inteligente, más rápido y más valioso juntos.