Esta publicación está coescrita con Gordon Campbell, Charles Guan y Hendra Suryanto de RDC.
La representación de Rich Data Co (RDC) es ampliar el camino al crédito sostenible a nivel mundial. Su opción de software como servicio (SaaS) permite a los principales bancos y prestamistas con profundas ideas de clientes y capacidades de toma de decisiones basadas en AI.
Tomar decisiones de crédito utilizando AI puede ser un desafío, requerir que los equipos de ciencia de datos y cartera sinteten la información compleja de la materia y colaboren productivamente. Para resolver este desafío, RDC usó IA generativapermitiendo que los equipos usen su opción de forma más efectiva:
- Asistente de ciencias de datos – Diseñado para equipos de ciencia de datos, este agente ayuda a los equipos a desarrollar, construir e implementar modelos de IA interiormente de un entorno regulado. Su objetivo es impulsar la eficiencia del equipo respondiendo consultas técnicas complejas en el ciclo de vida de las operaciones de educación necesario (MLOPS), que se apoyo en una almohadilla de conocimiento integral que incluye documentación del medio concurrencia, experiencia en ciencia de datos y datos de datos y concepción de código de Python.
- Asistente de cartera – Diseñado para gerentes de cartera y analistas, este agente facilita las consultas de jerga natural sobre las carteras de préstamos. Proporciona información crítica sobre el rendimiento, la exposición a riesgos y la columna de la política de crédito, lo que permite decisiones comerciales informadas sin requerir habilidades de examen en profundidad. El asistente es avezado en preguntas de stop nivel (como identificar segmentos de stop aventura o oportunidades de crecimiento potenciales) y consultas únicas, lo que permite diversificarse la cartera.
En esta publicación, discutimos cómo RDC usa AI generativo en Roca matriz de Amazon Para construir estos asistentes y acelerar su representación militar de democratizar el camino al crédito sostenible.
Descripción militar de la opción: construcción de una opción de IA generativa de múltiples agentes
Comenzamos con un conjunto de evaluación cuidadosamente pulido de más de 200 indicaciones, anticipando preguntas comunes del legatario. Nuestro enfoque original combinó ingeniería rápida y tradicional Recuperación de concepción aumentada (trapo). Sin retención, encontramos un desafío: la precisión cayó por debajo del 90%, especialmente para preguntas más complejas.
Para aventajar el desafío, adoptamos un enfoque agente, descomponiendo el problema en casos de uso especializados. Esta logística nos equipó para alinear cada tarea con la más adecuada Maniquí de almohadilla (FM) y herramientas. Nuestro situación de múltiples agentes se comparsa usando Langgraphy consistía en:
- Orquestador – El orquestador es responsable de enrutar las preguntas del legatario al agente apropiado. En este ejemplo, comenzamos con la ciencia de datos o el agente de cartera. Sin retención, imaginamos muchos más agentes en el futuro. El orquestador igualmente puede usar el contexto del legatario, como el rol del legatario, para determinar el enrutamiento al agente apropiado.
- Agente – El agente está diseñado para una tarea especializada. Está equipado con el FM apropiado para la tarea y las herramientas necesarias para realizar acciones y lograr al conocimiento. Todavía puede manejar conversaciones multiturno y orquestar múltiples llamadas al FM para alcanzar una opción.
- Herramientas – Las herramientas extienden las capacidades de agente más allá de la FM. Proporcionan camino a datos y API externos o habilitan acciones y cálculo específicos. Para utilizar eficientemente la ventana de contexto del maniquí, construimos un selector de herramientas que recupera solo las herramientas relevantes basadas en la información en el estado del agente. Esto ayuda a simplificar la depuración en caso de errores, lo que hace que el agente sea más efectivo y rentable.
Este enfoque nos brinda la útil adecuada para el trabajo adecuado. Progreso nuestra capacidad de manejar consultas complejas de forma valioso y precisa al tiempo que proporciona flexibilidad para futuras mejoras y agentes.
La venidero imagen es un diagrama de edificio de stop nivel de la opción.
Agente de ciencia de datos: trapo y concepción de código
Para impulsar la productividad de los equipos de ciencia de datos, nos centramos en la rápida comprensión del conocimiento renovador, incluidos los modelos específicos de la industria de una almohadilla de conocimiento curada. Aquí, RDC proporciona un entorno de expansión integrado (IDE) para la codificación de pitón, que atiende a varios roles de equipo. Un rol es el validador del maniquí, que evalúa rigurosamente si un maniquí se alinea con las políticas bancarias o de prestamistas. Para apoyar el proceso de evaluación, diseñamos un agente con dos herramientas:
- Aparejo de retriever de contenido – Bases de conocimiento de Amazon Bedrock Fuelve nuestra recuperación de contenido inteligente a través de una implementación de trapo simplificada. El servicio convierte automáticamente los documentos de texto en su representación vectorial utilizando Embedidas de texto de Amazon Titan y los almacena en Amazon OpenSearch Servidor sin ser. Porque el conocimiento es vasto, funciona fragmentación semánticacerciorarse de que el conocimiento esté organizado por el tema y pueda encajar interiormente de la ventana de contexto de la FM. Cuando los usuarios interactúan con el agente, Bases de conocimiento de Amazon Bedrock El uso de OpenSearch Servidor proporciona una búsqueda semántica rápida en memoria, lo que permite al agente recuperar los fragmentos de conocimiento más relevantes para respuestas relevantes y contextuales a los usuarios.
- Aparejo de dinamo de códigos – Con la concepción de código, seleccionamos Maniquí Claude de Anthrope en Amazon Bedrock Oportuno a su capacidad inherente para comprender y suscitar código. Esta útil se apoyo en replicar consultas relacionadas con la ciencia de datos y puede suscitar código Python para una implementación rápida. Todavía es avezado en solucionar problemas de codificación.
Agente de cartera: texto a SQL y autocorrección
Para aumentar la productividad de los equipos de cartera de crédito, nos centramos en dos áreas esencia. Para los gerentes de cartera, priorizamos las ideas comerciales de stop nivel. Para los analistas, habilitamos la exploración de datos de profundidad. Este enfoque capacitó tanto los roles con una comprensión rápida como con ideas procesables, racionalizando los procesos de toma de decisiones entre los equipos.
Nuestra opción requirió la comprensión del jerga natural de los datos de cartera estructurados almacenados en Amazon Aurora. Esto nos llevó a gravitar nuestra opción en un maniquí de texto a SQL para cerrar eficientemente la brecha entre el jerga natural y el SQL.
Para dominar los errores y tocar consultas complejas más allá de las capacidades del maniquí, desarrollamos tres herramientas utilizando el maniquí Claude de Anthrope en Amazon Bedrock para autocorrección:
- Verifique la útil de consulta – Verifica y corrige consultas SQL, abordando problemas comunes, como desajustes de tipo de datos o uso de funciones incorrectas
- Verifique la útil de resultados – Valida los resultados de la consulta, proporcionando relevancia y la provisión de requisitos o la explicación del legatario cuando sea necesario
- Vuelva a intentar la útil de legatario – Involucra a los usuarios para obtener información adicional cuando las consultas son demasiado amplias o carecen de detalles, guiando la interacción en función de la información de la almohadilla de datos y la entrada del legatario
Estas herramientas funcionan en un sistema de agente, permitiendo interacciones precisas de la almohadilla de datos y resultados de consulta mejorados a través del refinamiento iterativo y la décimo del legatario.
Para mejorar la precisión, probamos el maniquí conforme, capacitando el maniquí en consultas y contexto comunes (como esquemas de bases de datos y sus definiciones). Este enfoque reduce los costos de inferencia y restablecimiento los tiempos de respuesta en comparación con la solicitud en cada convocatoria. Usando Amazon Sagemaker Jumpstartnosotros Maniquí de llamas de Meta conforme proporcionando un conjunto de indicaciones anticipadas, respuestas previstas y contexto asociado. Amazon Sagemaker JumpStart ofrece una alternativa rentable a los modelos de terceros, proporcionando una vía viable para futuras aplicaciones. Sin retención, no terminamos desplegando el maniquí conforme porque observamos experimentalmente que la provisión con el maniquí Claude de Anthrope proporcionó una mejor extensión, especialmente para preguntas complejas. Para dominar la sobrecarga operativa, igualmente evaluaremos Recuperación de datos estructurados en las bases de conocimiento de Amazon Bedrock.
Conclusión y próximos pasos con RDC
Para acelerar el expansión, RDC colaboró con Startups de AWS y el AWS Generation AI Innovation Center. A través de un enfoque iterativo, RDC mejoró rápidamente sus capacidades generativas de IA, implementando la traducción original para la producción en solo 3 meses. La opción cumplió con éxito los estrictos estándares de seguridad requeridos en entornos bancarios regulados, proporcionando innovación y cumplimiento.
“La integración de la IA generativa en nuestra opción marca un momento crucial en nuestra representación de revolucionar la toma de decisiones de crédito. Al empoderar tanto a los científicos de datos como a los gerentes de cartera con asistentes de IA, no solo estamos mejorando la eficiencia, sino que estamos transformando cómo las instituciones financieras abordan los préstamos ”.
–Gordon Campbell, cofundador y director de clientes en RDC
RDC prevé que la IA generativa juegue un papel importante en el impulso de la productividad de la industria bancaria y crediticia. Al utilizar esta tecnología, RDC puede proporcionar información esencia a los clientes, mejorar la prohijamiento de la opción, acelerar el ciclo de vida del maniquí y dominar la carga de atención al cliente. Mirando en dirección a el futuro, RDC planea refinar y ampliar aún más sus capacidades de IA, explorando nuevos casos de uso e integraciones a medida que la industria evoluciona.
Para obtener más información sobre cómo trabajar con RDC y AWS y comprender cómo estamos apoyando a los clientes bancarios de todo el mundo para usar la IA en las decisiones de crédito, comuníquese con su apoderado de cuenta de AWS o visite Rich Data Co.
Para obtener más información sobre la IA generativa en AWS, consulte los siguientes bienes:
Sobre los autores
Daniel Wirjo es un arquitecto de soluciones en AWS, centrado en las startups fintech y SaaS. Como antiguo CTO de inicio, le gusta colaborar con los fundadores y líderes de ingeniería para impulsar el crecimiento y la innovación en AWS. Fuera del trabajo, Daniel disfruta caminar con un café en la mano, apreciar la naturaleza y estudiar nuevas ideas.
Xuefeng liu Lidera un equipo verificado en el Centro de Innovación AI AI AWS en las regiones de Asia Pacífico. Su equipo se asocia con clientes de AWS en proyectos generativos de IA, con el objetivo de acelerar la prohijamiento de la IA generativa por parte de los clientes.
Iman Abbasnejad es un verificado informático en el Centro de Innovación Generativa de IA en Amazon Web Services (AWS) que trabaja en IA generativos y sistemas complejos de agentes múltiples.
Gordon Campbell Es el director de clientes y cofundador de RDC, donde aprovecha más de 30 primaveras en el software empresarial para impulsar la plataforma de audacia de IA líder de RDC para prestamistas comerciales y comerciales. Con un historial comprobado en logística y expansión de productos en tres firmas de software globales, Gordon está comprometido con el éxito del cliente, la defensa y el avance de la inclusión financiera a través de datos e IA.
Charles Guan es el director de tecnología y cofundador de RDC. Con más de 20 primaveras de experiencia en examen de datos y aplicaciones empresariales, ha impulsado la innovación tecnológica en los sectores notorio y privado. En RDC, Charles lidera la investigación, el expansión y el avance del producto, colaborando con las universidades para utilizar el examen renovador y la IA. Se dedica a promover la inclusión financiera y el impacto de la comunidad positivo en todo el mundo.
Hendra Suryanto Es el verificado principal de datos en RDC con más de 20 primaveras de experiencia en ciencia de datos, big data e inteligencia empresarial. Antiguamente de unirse a RDC, se desempeñó como verificado de datos principal en KPMG, asesorando a los clientes a nivel mundial. En RDC, Hendra diseña soluciones de examen de extremo a extremo interiormente de un situación ágil DevOps. Tiene un doctorado en inteligencia fabricado y ha completado la investigación postdoctoral en educación necesario.