caja de ahorros checa Česká spořitelnauna división de Austria Montón Erstecolaboró recientemente con el creador de soluciones de IA Datos sensibles explorar el uso de GenAI en los centros de llamadas. Česká quería mejorar el control de calidad y optimizar los costes en las operaciones de su centro de llamadas entrantes, que reciben en torno a de 2 millones de llamadas al año. Eligieron la plataforma Databricks Data Intelligence para examinar con modelos de IA internos y externos para evaluar la operatividad de los agentes del centro de llamadas.
Explorando un sistema de control de calidad para la atención al cliente
El equipo del centro de llamadas de Česká spořitelna quería probar un sistema de control de calidad impulsado por GenAI que garantizara que los agentes cumplieran con las pautas escritas durante las interacciones con los clientes. Un desafío crítico para Ceska fue avalar una comunicación constante con los agentes para las consultas rutinarias de los clientes. Cuando los clientes llaman sobre saldos de cuentas, los agentes deben dirigirlos a soluciones bancarias en confín, un requisito comercial secreto que impulsa la admisión digital y la eficiencia operativa. El equipo de soporte necesitaba una forma escalable de repasar el cumplimiento de los agentes y nutrir los estándares de comunicación en miles de interacciones con los clientes. Para ganar esto, el equipo comenzó a utilizar Susurroun maniquí de conversión de voz a texto de OpenAI, para transcribir conversaciones con precisión. El desafío era producir texto comprensible por humanos que representara con precisión las palabras habladas utilizadas por los agentes del centro de llamadas sin distorsionar su significado. Las transcripciones debían tener sentido racional y reflectar con precisión la intención de la conversación para su posterior descomposición.
A posteriori de la transcripción, el equipo exploró la integración de modelos GPT internos y modelos de código franco como Mixtral para evaluar su operatividad. Los modelos GenAI se probaron en una función de control de calidad simulada, donde se les asignó la tarea de objetar preguntas específicas como «¿El agente redirigió al cliente a la banca en confín?». El objetivo de este gimnasia fue evaluar qué tan aceptablemente estos modelos podrían imitar la comprensión y la toma de decisiones humanas al repasar el cumplimiento de las pautas establecidas. Al comparar el rendimiento tanto del maniquí GPT interno como de los modelos de código franco, el equipo se propuso encontrar la decisión más eficaz para mejorar el servicio al cliente a través de un control de calidad automatizado impulsado por IA.
Beneficios de la plataforma de inteligencia de datos Databricks para GenAI
El equipo de DataSentics evaluó varias opciones para esta decisión y finalmente optó por implementar la plataforma de inteligencia de datos Databricks y las herramientas Mosaic AI en Česká spořitelna por varias razones:
- Beneficios de gobierno y gobernanza de datos: Catálogo de mecanismo hace que los datos sean fácilmente accesibles para diferentes modelos mientras mantiene los datos confidenciales bajo paso restringido.
- Capacidades integrales de procesamiento de datos: La plataforma Databricks admite todo el flujo de trabajo de preprocesamiento de datos del centro de llamadas, desde la transcripción hasta el control de calidad. Esto nos permite producir resultados intermedios que pueden aprovecharse para otros modelos y proyectos, como marketing, evaluación de riesgos, cumplimiento normativo y detección de fraude.
- Capacitación y soporte maniquí: Databricks proporciona soporte y experiencia sólidos para GenAI, incluida la edificio de modelos y las capacidades de capacitación. Esto la convirtió en una plataforma ideal para probar e implementar modelos de código franco rápidamente, lo que nos permitió examinar e iterar de guisa valioso.
- Facilidad de creación de clústeres: Con Databricks, es sencillo crear clústeres e implementar modelos de código franco. Esto agiliza el proceso de experimentación y nos permite centrarnos más en el rendimiento del maniquí y menos en la gobierno de la infraestructura.
Perspectivas y resultados
A lo prolongado del esquema, experimentamos con varias técnicas de segmentación y recopilamos varios conocimientos valiosos:
- La calidad de los datos de entrada es crucial: La calidad de las grabaciones de audio varió de un cliente a otro, y algunos hablaban en voz desestimación o a distancia, lo que luego puede afectar la precisión de la transcripción. Los sistemas Whisper o similares pueden ayudar a resolver el problema.
- La definición de categoría es imprescindible: Aprendimos que si las categorías no pueden definirse fácilmente para los humanos, es igualmente difícil para los LLM comprenderlas. Esto reforzó la pobreza de definiciones de categorías claras y precisas para entrenar los modelos de guisa efectiva.
- Los modelos de código franco dan resultados: Los modelos de código franco demostraron que podían competir eficazmente con modelos propietarios como ChatGPT. Este hallazgo es importante para las empresas que buscan optimizar costos y al mismo tiempo ganar resultados de entrada calidad.
¿Qué sigue?
Con las herramientas GenAI impulsadas por Databricks Mosaic AI, los empleados de Česká spořitelna ahora pueden obtener paso a las respuestas que se encuentran en una variedad de documentos a través de la función de “búsqueda inteligente”. Por ejemplo, es posible que el equipo de compras necesite consultar cientos de páginas de documentación de procesos sobre cómo controlar y aprobar pagos a diferentes países. Ayer de rendir Databricks, a los empleados les llevaría horas encontrar la información correcta que necesitan. Ahora, la búsqueda impulsada por RAG brinda a los empleados respuestas en segundos, incluidas citas y enlaces al documento fuente.
De cara al futuro, hay muchas oportunidades para explorar más cargas de trabajo GenAI en Česká spořitelna. Nuestro objetivo es crear una integración sólida entre Databricks y las grabaciones del centro de llamadas de la pulvínulo de datos interna de Česká spořitelna. Esto desbloqueará nuevos casos de uso, como la detección de defección, el descomposición de sentimientos y la detección de señales de ventas, ya que Databricks es la plataforma de relato para la transmisión de datos. Estos informes diarios permitirán a Česká spořitelna reaccionar a los cambios en tiempo positivo y, al mismo tiempo, ganar reducciones de costos con una mejor respaldo de calidad en sus centros de llamadas.
Esta publicación de blog fue escrita conjuntamente por Petra Starmanova (Česká spořitelna), tereza mokrenova (Datos Sentics), Dalibor Karasek (Data Sentics) y Joannis Paul Schweres (Ladrillos de datos).