El mundo de la inteligencia fabricado (IA) y el examen de datos está a punto de tomar un impulso significativo gracias a la colaboración de Databricks con NVIDIA. Este trabajo reúne las capacidades de vanguardia de Plataforma Mosaic AI de Databricks y NVIDIA AI, que permite a las organizaciones modificar sus flujos de trabajo de datos e inteligencia fabricado a gran escalera.
Liberando el potencial de la IA azulejo
Databricks Mosaic AI permite a las organizaciones crear e implementar sistemas de agentes de suscripción calidad en el alberca de datos. Permite la personalización segura de modelos con datos empresariales, entregando resultados precisos y específicos del dominio. Mosaic AI se conecta perfectamente con modelos comerciales o de código descubierto y ofrece herramientas para evaluar y optimizar los resultados con un flujo de trabajo de ampliación rápido. Con una gobernanza sólida de los datos y los modelos de IA, los clientes obtienen visibilidad y control total sobre sus aplicaciones y resultados de IA.
Nuevas posibilidades con la plataforma NVIDIA Blackwell
Uno de los avances esencia en la plataforma Blackwell es la preámbulo de formatos de precisión FP4 y FP6, que pueden mejorar drásticamente el rendimiento del maniquí de IA manteniendo la calidad. El uso de la precisión del FP4 puede potencialmente duplicar el rendimiento en comparación con el FP8, sin comprometer la precisión del maniquí. Para la inferencia de modelos de idioma amplio (LLM), las GPU NVIDIA Blackwell ofrecerán Rendimiento hasta 30 veces más rápido para modelos de idioma en comparación con las GPU NVIDIA Hopper de la concepción mencionado.
Databricks aplazamiento ser una de las primeras plataformas de inteligencia fabricado en rendir la plataforma NVIDIA Blackwell.
“Con la plataforma NVIDIA Blackwell, planeamos rendir los beneficios inherentes a la edificio de próxima concepción, incluido el Transformer Engine de segunda concepción para un maduro rendimiento y precisión de inferencia y los motores de compresión de memoria de suspensión satisfecho de bandada. Trabajaremos en estrecha colaboración con NVIDIA para acelerar las nuevas funciones de IA en nuestra plataforma, lo que generará capacidades interesantes y mejoras de rendimiento para nuestros clientes”, dijo Naveen Rao, vicepresidente de IA de Databricks.
Cuando se combina con Plataforma Mosaic AI de Databrickseste potente hardware abre nuevas posibilidades para las empresas, permitiéndoles invadir desafíos de IA cada vez más sofisticados con maduro velocidad y eficiencia. Con la plataforma informática NVIDIA Blackwell y la plataforma Databricks Data Intelligence, los científicos e ingenieros de datos pueden ampliar los límites de lo que es posible en IA, desde el ampliación de modelos predictivos más precisos hasta la creación de aplicaciones generativas de IA más atractivas y receptivas.
Transformando industrias con IA y examen de datos
La colaboración de Databricks con NVIDIA ayuda a invadir desafíos esencia de la industria. Al potenciar Mosaic AI con computación acelerada de NVIDIA, las organizaciones pueden:
- Acelere el procesamiento de datos: Databricks utilizará la computación acelerada de NVIDIA para acelerar el procesamiento, la fregado y la curación de datos. Esta combinación reduce el tiempo que lleva preparar y modificar conjuntos de datos a gran escalera para el entrenamiento de modelos.
- Entrene modelos más rápido: La integración de Mosaic AI con la computación acelerada de NVIDIA permite un entrenamiento de modelos más rápido, lo que permite a los equipos de datos iterar y refinar sus modelos más rápidamente. Con Mosaic AI, los equipos además pueden mejorar la precisión y confiabilidad del maniquí de IA a través de técnicas como la concepción aumentada de recuperación (RAG).
- Optimice las canalizaciones de datos: Las capacidades de optimización automatizada del canal de datos de Mosaic AI ayudan a los equipos de datos a identificar y eliminar cuellos de botella, garantizando que los datos fluyan de modo eficaz y efectiva a través del canal.
Esta colaboración tiene el potencial de redefinir sectores como la atención médica, las finanzas y el comercio minorista, donde la inteligencia fabricado y el examen de datos son cruciales para el éxito. Al optimizar cada etapa del flujo de trabajo (desde la ingesta de datos hasta el entrenamiento y la implementación del maniquí de IA), los clientes pueden rendir la tecnología de vanguardia para descubrir nuevos conocimientos, mejorar la toma de decisiones y fomentar la innovación.
Colaboración de código descubierto de Databricks con NVIDIA
Databricks además está colaborando con NVIDIA para alojar, a través de Databricks Notebooks, muchas herramientas de software de código descubierto, como NVIDIA NeMo para el ampliación y personalización de modelos, NVIDIA Morfeo para flujos de trabajo de IA de ciberseguridad, NVIDIA Tritón Servidor de inferencia y TensorRT de NVIDIA-LLM para optimización de inferencia de IA, todo parte de la plataforma de software NVIDIA AI Enterprise. NVIDIA AI Enterprise ofrece seguridad, estabilidad y soporte de nivel empresarial para ayudar a avalar transiciones fluidas de la IA piloto a la de producción.
Los beneficios esencia incluyen:
- Integración perfecta: Aproveche el poder de los portátiles de Databricks.
- Mejora de modelos de IA escalables: La colaboración de Databricks con NVIDIA permite a los equipos de datos esquilar el ampliación de su maniquí de IA, desde la experimentación a pequeña escalera hasta entornos de producción a gran escalera.
- Tiempo de comercialización más rápido: Los equipos de datos pueden desarrollar e implementar modelos de IA más rápidamente, reduciendo el tiempo que lleva aguantar al mercado nuevos productos y servicios impulsados por IA.
Beneficios y características esencia para empresas
Implementación y escalabilidad perfectas
Con Databricks, las empresas pueden implementar y esquilar sus modelos de IA con confianza, sabiendo que la plataforma está diseñada para manejar grandes volúmenes de datos y tráfico. Databricks, con tecnologías NVIDIA, además permite a las empresas:
- Supervise y depure el rendimiento del maniquí con Lakehouse Monitoring, que proporciona métricas y paneles generados automáticamente, detección de anomalías y examen automatizado de la causa raíz.
- Aproveche Databricks Feature Store y Vector Search para simplificar la integración de funciones e incrustaciones en modelos.
- Utilice MLflow, el ámbito MLOps de código descubierto líder, para verificar, crear, evaluar e implementar aplicaciones y sistemas GenAI.
Seguridad y cumplimiento integrados
En Databricks, nos tomamos en serio la seguridad y el cumplimiento y trabajamos en estrecha colaboración con clientes en industrias con altas deyección de cumplimiento. Nuestra plataforma proporciona una variedad de características de seguridad, que incluyen:
- Capacidades de gobierno y seguridad de nivel empresarial, como controles de comunicación, auditoría y oculto.
- Compatibilidad con estándares de cumplimiento específicos de la industria, como HIPAA, PCI-DSS y GDPR
- Gobernanza de datos con Unity Catalog, que proporciona un sistema de encargo de metadatos centralizado para datos y activos de IA.
- AI Gateway, que proporciona una interfaz de consulta normalizado y gobierna de forma centralizada los límites de velocidad, rastrea el uso, aplica barreras de seguridad y audita las API del maniquí de datos.
- Lakehouse Monitoring, que proporciona capacidades de monitoreo y depuración para todos los datos y activos de IA, desde tablas de características hasta modelos básicos de IA.
Casos de uso del mundo verdadero y aplicaciones industriales
Examinemos un ejemplo del mundo verdadero de cómo la colaboración de Databricks con NVIDIA se puede aplicar a un caso de uso de servicio al cliente.
Ejemplo: agente de servicio al cliente
Una empresa quiere crear un agente de servicio al cliente que pueda manejar un gran convexidad de consultas de los clientes. El agente debe comprender la intención del cliente, felicitar respuestas personalizadas y derivar problemas complejos a agentes humanos de atención al cliente. Además debe resumir las conversaciones previas durante las escalaciones y los procesos de transferencia y registrar todas las interacciones a través de un agente de IA. Para construir este chatbot, la empresa utiliza Databricks Mosaic AI para desarrollar y capacitar a un agente de IA que pueda instruirse de las interacciones con los clientes y adaptarse a las deyección cambiantes de los clientes.
Para mejorar la calidad de las respuestas, el agente de IA se puede ajustar en función de una variedad de datos específicos de la empresa. Con Mosaic AI Model Training, la empresa puede realizar una capacitación previa continua y métodos de ajuste de la instrucción con el mismo conjunto de herramientas. La capacitación previa continua puede enseñar al maniquí términos y conceptos relevantes, incluida información como ofertas de productos, contenido del sitio web, glosarios y preguntas frecuentes, mientras que el ajuste de la instrucción utilizará ejemplos formateados de aportes de clientes y respuestas de agentes derivados de transcripciones de llamadas anteriores para mejorar las respuestas de los agentes. . Muchas empresas descubren que el ajuste evita la privación de arquitecturas RAG y simplifica la implementación de modelos. El agente de IA además se puede integrar con la plataforma de servicio al cliente de la empresa, lo que le permite aceptar a los datos y al historial del cliente para proporcionar respuestas personalizadas y registrar la interacción a través de un flujo de trabajo de agente.
Una vez que el agente de IA está capacitado, la empresa utiliza Databricks Mosaic AI Model Serving para implementarlo en un entorno de producción con unos sencillos pasos. El agente de IA puede manejar un gran convexidad de consultas de clientes en tiempo verdadero, brindando respuestas rápidas y precisas a las preguntas e inquietudes de los clientes.
Los beneficios de esta posibilidad incluyen:
- Restablecimiento de la satisfacción del cliente: El agente puede contestar con prontitud y precisión a las consultas de los clientes, mejorando la satisfacción del cliente y reduciendo la privación de presencia humana.
- Anciano eficiencia: El agente es capaz de manejar un gran convexidad de consultas de los clientes, lo que libera a los agentes humanos de atención al cliente para que puedan centrarse en cuestiones más complejas que requieren empatía y sensatez humano.
- Costos reducidos: El agente puede ceñir la privación de agentes humanos de atención al cliente, reduciendo costos y mejorando los resultados.
- Experiencia del cliente mejorada: El agente de IA puede proporcionar respuestas y recomendaciones personalizadas, mejorando la experiencia del cliente y aumentando su honradez.
Al utilizar Databricks Mosaic AI y NVIDIA AI para desarrollar e implementar un agente de IA, las empresas pueden crear chatbots de servicio al cliente más eficientes, efectivos y personalizados, lo que lleva a una maduro satisfacción y honradez del cliente. Líderes de la industria como Allianz, Chevron Phillips, Experian, Kubrick, Santalucía Seguros, UK Power Networks y muchos otros están aprovechando Databricks para mejorar la experiencia de sus clientes con soluciones innovadoras de IA generativa.
Soluciones de IA listas para la empresa
Con las capacidades combinadas de Databricks Mosaic AI y la computación acelerada de NVIDIA, las organizaciones pueden desbloquear nuevos conocimientos, mejorar la toma de decisiones, impulsar la innovación empresarial y aguantar con confianza los sistemas de IA a producción. Con esta colaboración, los usuarios pueden esperar nuevas características y funcionalidades, incluido el soporte ampliado para la computación acelerada de NVIDIA.
Únase a Databricks (stand 1820) y NVIDIA (stand 1620) en AWS re: Inventar 2024 para obtener más información sobre cómo puede rendir las tecnologías Databricks y NVIDIA para modificar su negocio. Únase a nosotros para una perplejidad de diversión en la recibo de networking de Databricks patrocinada por NVIDIA el martes 3 de diciembre, de 6 a 10 p. m., en el Venetian Grand Lux Cafe. Registro aquí.