Creación de aplicaciones de Databricks con agentes de IA React y Mosaic para soluciones de chat empresariales

Las aplicaciones de Databricks proporcionan una plataforma robusta para construir y introducir aplicaciones interactivas. React es ideal para construir aplicaciones web modernas y dinámicas que necesitan actualizarse sin problemas y hallarse pulidas. Al combinar esta plataforma con un entorno de agentes de IA Mosaic basado en React y Mosaic AI, los desarrolladores pueden crear aplicaciones de chat eficientes e inteligentes. Este blog se centra en la implementación técnica de un chatbot alojado en databricks y demuestra su potencial con un caso de uso de chatbot de encargo de operaciones de fabricación específica de la industria.

Aplicaciones de databricks e integración de IA moyálico

La descripción militar de la obra:

Fortalezas centrales de las aplicaciones de Databricks

Las aplicaciones de Databricks se integran de forma nativa con:

• Databricks sql: Para consultar grandes conjuntos de datos de modo eficaz.
• Catálogo de la mecanismo: Para gobernanza de datos centralizadas y control de camino.
• Maniquí: Para implementar modelos de enseñanza forzoso a escalera.
• Servir puntos finales: Para consultas eficientes a los modelos ML y agentes LLM.
• Trabajos: Para tuberías ETL y procesos de flujo de trabajo.

Las aplicaciones de Databricks eliminan la condición de una infraestructura de alojamiento externa. Las aplicaciones heredan las características de seguridad, cumplimiento y encargo de capital incorporadas de la plataforma, simplificando la implementación y el mantenimiento.

Las aplicaciones de Databricks admiten una amplia serie de marcos como Dash, Streamlit, Gradio, Flask y Fastapi. Esta flexibilidad permite aplicaciones ricas en datos y visualmente atractivas.

¿Qué es el entorno de agentes de IA Mosaic?

El entorno de agentes de IA Mosaic es un conjunto de herramientas en Databricks que ayuda a los desarrolladores a crear, implementar y dirigir agentes de IA, como los utilizados en la reproducción de recuperación de la reproducción (RAG). Se integra con marcos como Langchain y Llamaindex y utiliza funciones de Databricks como un catálogo de Unity para la gobernanza de datos y la citación de herramientas.

Los desarrolladores pueden registrar y probar a los agentes con MLFLOW, depurar su comportamiento y mejorar el rendimiento. Las características como el registro de solicitudes, la transmisión de token de respuesta y las aplicaciones de revisión facilitan la construcción y la implementación de agentes de IA más fáciles para los casos de uso del mundo verdadero.

Caso de uso: encargo de operaciones de fabricación chatbot

La encargo de operaciones de fabricación (MOM) es crucial para optimizar los procesos de producción, mejorar la eficiencia y proseguir la competitividad en el panorama industrial en rápida transformación presente.

La demanda de encargo de operaciones utilizando agentes de IA con interfaces de idioma natural está creciendo rápidamente, impulsada por la condición de una decano eficiencia, una mejor toma de decisiones y mejoras experiencias de los usuarios.

Según la última publicación de Meticuloso Research® (fuente), se proyecta que la IA en el mercado de fabricación alcanzará los $ 84.5 mil millones para 2031, a una tasa compuesta anual del 32.6% durante el período de pronóstico 2024–2031 ⁽¹⁾. Este crecimiento significativo subraya el creciente registro de la importancia de la encargo de la operación impulsada por la IA en diversas industrias.

Una empresa manufacturera que implementa la útil Mosaic AI Chatbot Approwing puede ayudar a los gerentes de producción en:

Estudio de cuello de botella

• Función de útil: Consulta databricks sql usando el identify_bottleneck_station función para determinar la etapa causando la decano cantidad de retrasos.
• Consulta de ejemplo: «¿Cuál es el cuello de botella presente en la lista de montaje?»
• Respuesta: «La etapa 5 es el cuello de botella presente, con un retraso promedio de 15 minutos por ciclo».

Seguimiento de inventario

• Función de útil: Llamadas check_inventory_levels para recuperar datos de acciones en tiempo verdadero para una etapa específica.
• Consulta de ejemplo: «¿Tenemos suficientes materiales para la Tiempo 3?»
• Respuesta: «La etapa 3 tiene suficientes materiales para los próximos cinco ciclos de producción».

Estas consultas se pueden implementar fácilmente como funciones almacenadas en el catálogo Unity, utilizando SQL o Python. Luego, un agente de IA puede realizar tareas como la recuperación de datos, la ejecución del código y la toma de decisiones basada en el contexto aprovechando las llamadas de la función. Si correctamente no vamos a sumergirnos en los detalles de configurar el agente para citar a las herramientas aquí, puede consultar el vademécum de cocina Generativo de Databricks Generation AI aquí para una recorrido detallada.

Una vez que el agente MOSAIC AI se configura y configura para manejar varias herramientas, se puede implementar como un punto final que sirve a los modelos en Databricks. Este punto final actúa como la interfaz de backend, lo que permite que las aplicaciones frontend como los chatbots envíen consultas y reciban información en tiempo verdadero.

Aquí está la interfaz de chatbot que se ejecuta localmente; Más tarde, lo demostraremos posteriormente de la implementación en las aplicaciones de Databricks.

Implementación de aplicaciones de Databricks

1. Frontend con React

React Frontend proporciona una interfaz interactiva y acomodaticio de usar para consultar el chatbot y visualizar las respuestas. Las características centrales incluyen representación de mensajes en tiempo verdadero, remisión de consultas y manejo de respuesta a BOT, interfaz de becario interactiva con comentarios y soporte de Markdown.

Código frontend de remisión de mensajes al backend

Cliente API: Axios se usa para realizar solicitudes HTTP. El BaseURL se establece dinámicamente en función del entorno (explicación o producción).

HandsLEENDMessage: captura la entrada del becario, envía el mensaje al punto final /API /CHAT API y actualiza el historial de chat con mensajes de becario y BOT.

2. Backend con Fastapi

El backend de Fastapi sirve como el puente entre los agentes React Frontend y Mosaic AI. Enruta las consultas de los usuarios al punto final que sirve al maniquí del agente para obtener una respuesta.

Código de back -end que maneja consultas de usuarios

Este punto final de la API recibe mensajes de becario, interactúa con el punto final de servicio del maniquí de agente Mosaic AI y devuelve respuestas específicas de la tarea.

En Fastapi, el orden de las subaplicaciones de montaje es crucial porque determina cómo se enrutan las solicitudes entrantes.

app.mount("/api", api_app):

• Esto monta una subpplication (api_app) en el /api ruta.
• Cualquier solicitud que comience con /api (p.ej, /api/chat) se enruta a esta subplicación.
• Esto asegura que todas las solicitudes relacionadas con la API sean procesadas por el api_app instancia.

app.mount("/", ui_app):

• Esto monta los archivos estáticos del client/build directorio en la raíz (/) ruta.
• Esto se usa típicamente para servir a la aplicación frontend compilada, que incluye index.htmlJavaScript, CSS y otros activos estáticos. La mayoría de los principales marcos de interfaz de becario (por ejemplo, React, Vue y Svelte) admiten la compilación en un conjunto de activos a través de diferentes agrupadores (por ejemplo, VITE, Webpack o Esbuild).
• Cualquier solicitud que no comience con /api será enrutado al ui_app.

• Configuración de API y definición de punto final: El código define una aplicación FastAPI con un punto final posterior (/chat) bajo el api_app Instance que apunte al punto final de servicio de modelos del agente de IA Mosaic en Databricks.
• Inyección de dependencia y manejo de solicitudes: El punto final utiliza el mecanismo de inyección de dependencia de Fastapi (Depends) para inyectar un WorkspaceClientque es responsable de interactuar con las API de Databricks. El chat_with_llm la función toma un ChatRequest que contiene el mensaje del becario, lo formatea como un ChatMessage con el papel USERy lo envía al punto final de servicio usando el client.serving_endpoints.query método.
• Analización de respuesta y retorno: La respuesta del agente se estructura y devuelve como un ChatResponse al cliente.

Implementación en aplicaciones de Databricks

1. Preparando el backend

• Coloque el código Fastapi en un app.py archivo.
• Aclarar dependencias en requirements.txt:
  
• Crear un app.yaml archivo:
  

La sección de comando describe la configuración del servidor de Gunicorn con las siguientes especificaciones:

• Server.App:App: ejecuta su aplicación Fastapi.
• -W 2: utiliza dos procesos de trabajadores para manejar las solicitudes entrantes.
• Uvicorn.Workers.Vicornworker: usa trabajadores Uvicorn, que son compatibles con el entorno ASGI de Fastapi.

La sección ENV especifica pares de valía secreto que definen las variables de entorno para advenir a la aplicación ⁽²⁾:

• Nombre: El nombre de la variable de entorno.
• Valía de: para un valía definido externamente, el nombre de la fuente que contiene el valía. Por ejemplo, el nombre de un secreto o una tabla de colchoneta de datos que contiene el valía.

Estoy mapeando las variables de entorno SERVING_ENDPOINT_NAME al maniquí de capital de Databricks, el maniquí, el punto final agente_model_name_fqn, donde model_name_fqn representa el espacio de nombres de tres niveles del catálogo de Unity para catalog.db.model_name.

2. Preparando el frontend

• Cree la aplicación React con npm run build y coloque los archivos estáticos en /client/build.

Aquí está la estructura del archivo:

3. Pasos de implementación

1. Crea la aplicación Databricks:

2. Configurar los capital de Databricks:
   Estoy configurando los capital de Databricks para alinear con las características definidas en la sección ENV del archivo App.yaml. Esto incluye la configuración de capital como el punto final que sirve al maniquí (agente_model_name_fqn).
   
   La imagen a continuación muestra que la aplicación de chatbot se ha creado con éxito:
   
3. Archivos de sincronización:
   
4. Implementar la aplicación:
   

Posteriormente de ejecutar este comando, el proceso de implementación tomará unos minutos. Una vez implementado con éxito, se mostrará la URL de la aplicación Databricks, lo que indica que está en funcionamiento.

Y puedes comenzar a charlar con él. Por ejemplo, nuestra eficiencia de producción es víctima. Encuentre el cuello de botella, verifique su eficiencia y genere un noticia detallado. Expedir un correo electrónico a (correo electrónico protegido) con el noticia. Asimismo analice el sentimiento del noticia.

Conclusión

La integración de las aplicaciones de Databricks con React y el entorno de agente de IA Mosaic ofrece una posibilidad poderosa para crear aplicaciones de chat dinámicas e interactivas. Al servirse las capacidades de procesamiento de datos incorporadas de Databricks, la servicio de modelos seguro e infraestructura de implementación optimizada, los desarrolladores pueden construir sistemas robustos que manejen consultas complejas.

El uso de Fastapi como un puente entre los agentes React Frontend y Mosaic AI asegura una comunicación perfecta. Mientras que las aplicaciones de Databricks admiten varios marcos de backend de Python como Flask y Django, Fastapi fue seleccionado por su API concisa y entrañable para el desarrollador.

Esta configuración muestra cómo las capacidades avanzadas de IA pueden integrarse en soluciones prácticas de la industria, como los chatbots de fabricación, para impulsar la eficiencia y la toma de decisiones. A medida que Databricks continúa evolucionando su plataforma, estas integraciones pueden expandirse para atender a casos de uso más amplios, lo que lo convierte en una útil esencial para las empresas con el objetivo de innovar con soluciones basadas en IA.

Para hacer narración al código fuente, busque el repositorio de GitHub vinculado aquí.

Referencias:

(1) IA en el mercado de fabricación alcanzará $ 84.5 mil millones para 2031. Fuente:
https://www.meticulresearch.com/pressrelease/294/ai-in-manufacturing-market

(2) Configuración de aplicaciones de Databricks. Fuente:
https://docs.databricks.com/en/dev-tools/databricks-apps/configuration.html#databricks-apps-configuration

La integración de las aplicaciones de Databricks con React y el entorno de agente de IA Mosaic ofrece una posibilidad poderosa para crear aplicaciones de chat dinámicas e interactivas. Al servirse las capacidades de procesamiento de datos incorporadas de Databricks, la servicio de modelos seguro e infraestructura de implementación optimizada, los desarrolladores pueden construir sistemas robustos que manejen consultas complejas.