Hemos pasado los últimos dos abriles haciendo que los agentes de IA sean capaces. Pueden consultar sus bases de datos, resumir sus documentos, enrutar sus flujos de trabajo e iniciar transacciones en su nombre. Algunos de ellos son verdaderamente impresionantes.
El desafío más difícil es el que la mayoría de las organizaciones no han resuelto y es respaldar que rindan cuentas.
Un agente puede comportarse. Pero la rendición de cuentas es una cuestión completamente diferente. Cuando un empleado humano realiza una movimiento, se le atribuye una sujeción de identidad. Cuando un agente lo hace, a menudo no lo hay. A medida que los agentes pasan de las demostraciones a la producción, esa brecha se convierte en un problema de gobernanza.
Este es el problema de la identidad del agente. Un agente debe tener una identidad propia verificable: derechos definidos, radio definido y un registro persistente de lo que hizo. Sin él, no se puede reponer qué pasó, quién lo autorizó o si se mantuvo en el interior de sus límites, y eso se convierte en un pasivo en el momento en que poco sale mal.
La mayoría no lo hace. Y esa brecha ya está frenando la asimilación de algunos de los programas de IA más sofisticados del mundo.
Las preguntas que todo equipo de cumplimiento debe reponer
En las industrias reguladas, la IA no reduce la complejidad de las auditorías. Lo amplifica. Si un agente consulta su cojín de datos, genera una recomendación o inicia una movimiento: y poco sale mal en el interior de seis meses — su equipo deberá reponer:
-
¿Quién creó al agente?
-
¿Qué derechos tenía y por cuánto tiempo?
-
¿Qué datos tocó?
-
Y si produjo una idea derivada (una proyección, un sumario, un resultado que nadie autorizó explícitamente, por ejemplo), ¿a quién pertenece?
Imagínese un agente de suscripción de préstamos. Consulta datos crediticios, señala riesgos y produce una recomendación de aprobación. Un año a posteriori, un prestatario cuestiona el resultado. Su equipo de cumplimiento necesita rehacer exactamente a qué datos accedió el agente, bajo qué autoridad y si su salida se mantuvo en el interior del radio ratificado. Si ese registro no existe, no sólo estás expuesto. Estás empezando desde cero.
Parecen preguntas razonables. El problema es que la mayoría de las infraestructuras de identidad no fueron diseñadas para responderlas.
¿Por qué es más difícil de lo que parece?
Los sistemas de identidad tradicionales se crearon para roles estables y acercamiento definido. Los agentes no encajan en ese maniquí.
Un agente podría activarse para una sola tarea, extraer de cuatro fuentes de datos y desaparecer al mediodía. Es posible que cada fuente haya tenido controles de acercamiento adecuados de forma aislada. Pero el resultado combinado (una visión derivada) puede cruzar a un comarca que nadie autoriza. El agente hizo exactamente aquello para lo que fue creado. El problema fue que nadie definió el margen.
E incluso a posteriori de que un agente se haya ido, el registro todavía tiene que existir.
Piense en un proceso por lotes programado tradicional, un script de salario que se ejecuta todas las noches a medianoche. Tiene un nombre, un propietario y un registro de auditoría completo. ¿Un agente dinámico que funcionó durante tres horas y devolvió una recomendación? Sin una edificio intencional, casi no deja huella de gobernanza.
Resolver la identidad del agente comienza con la incorporación de la gobernanza en la edificio.
La gobernanza no se puede consolidar. Tiene que ser la edificio desde el principio.
Así es como se ve eso en la actos:
- Identidad en el momento de la creación, no en tiempo de ejecución. Los derechos de un agente, el acercamiento a los datos y el radio eficaz deben definirse antiguamente de comportarse, no inferirse del heredero que los invocó. Los permisos explícitos con vencimiento incluyen a qué puede alcanzar, durante cuánto tiempo y en nombre de quién. Por ejemplo, un agente invocado por un vicepresidente de finanzas obtiene su propio acercamiento con radio, no una copia heredada del suyo.
- Gobernanza de los productos, no sólo de los insumos. Los controles de acercamiento a los datos de origen no son suficientes. Cuando los agentes combinan datos entre sistemas, el resultado combinado puede cruzar líneas que ninguna fuente individual cruzaría. Las políticas deben seguir los conocimientos derivados, no sólo los datos que los crearon. Un agente competente para alcanzar a datos de medios humanos y datos financieros por separado no puede estar competente a combinarlos.
- Seguimiento del ciclo de vida que dura más que el agente. Los agentes de corta duración todavía necesitan un registro permanente de quién los creó, a qué accedieron, qué produjeron y quién los autorizó. La auditabilidad no puede obedecer de que el agente siga ejecutándose. Un agente clínico que funcionó durante una hora y devolvió una recomendación todavía necesita un registro permanente.
- La supervisión humana es un canario, no una soporte. El objetivo no es que un ser humano observe cada interacción de los agentes. Eso frustra el propósito. El maniquí correcto es una revisión periódica y sistemática y una función de auditoría que detecte la deriva antiguamente de que se agrave. Piense en ello como una auditoría financiera: no todas las transacciones, pero sí las suficientes para revelar patrones.
Es por eso que estos principios están integrados en Snowflake desde el diseño, guiando nuestro propio expansión de agentes de IA y los agentes que permitimos que nuestros clientes creen.
Cuando creamos nuestro propio Asistente de IA de comercialización de Snowflake, queríamos capacitar a nuestros equipos con todo el conocimiento de ventas relevante, historias de clientes e información de cuentas al radio de su mano. Para que esto funcionara, teníamos que hacer dos cosas perfectamente: teníamos que asegurarnos de que se pudiera creer en la información proporcionada y establecíamos controles para que el agente solo expusiera la información correcta a las personas adecuadas en el momento adecuado.
Como resultado, comenzamos con estas como restricciones de diseño, no como características:
- Entrada a datos basado en roles
- Consultas certificadas que distinguen las respuestas validadas de las inferidas.
- Importancia definido en la creación
- Un maniquí de datos racional que impone el acercamiento a los datos a través de múltiples fuentes
El resultado: nuestro agente ahora capacita a más de 6000 empleados y asegura más de 35 000 preguntas por semana: un agente en el que nuestros equipos confían para actuar de forma autónoma, con total auditabilidad a posteriori del hecho.
A escalera, apoyamos a nuestros clientes de la misma modo. Clientes de empresas como TS Imagine, Fanatics y United Rentals están creando agentes en Snowflake para acelerar sus negocios.
LendingTree, un mercado de préstamos en raya, por ejemplo, utiliza Snowflake Cortex Code para crear e implementar rápidamente agentes de inteligencia fabricado que brindan orientación financiera personalizada a los consumidores. La plataforma permite a sus equipos acaecer de la exploración de ideas a la producción en días en oportunidad de semanas, impulsando flujos de trabajo de toma de decisiones financieras más inteligentes y experiencias de consumidor más personalizadas que ayudan a los prestatarios a navegar por opciones de préstamos complejas.
Resolver la identidad del agente es su opción milagrosa para la asimilación de la IA empresarial
Resolver la identidad del agente no sólo reduce el aventura. Elimina la fricción que está frenando la asimilación.
En este momento, el miedo a lo desconocido es lo que lleva a las empresas a asignar a un humano para que vigile a cada agente, crear aplicaciones en oportunidad de agentes reales o evitar la categoría por completo. Eso es caro. Y frustra el propósito.
Esa fluctuación desaparece una vez que se puede reponer quién es el agente, qué está competente a hacer y qué hizo verdaderamente. Los agentes se ganan la confianza de la misma modo que la clan. No a través de la intención. A través de evidencia.
La capacidad ya no es la obstáculo. La confianza lo es.