Actualmente, la industria de la IA está obsesionada con los ‘agentes’: programas autónomos que hacen más que simplemente chatear. Sin bloqueo, la mayoría de los sistemas multiagente actuales se basan en heurísticas frágiles y codificadas que fallan cuando cambia el entorno.
Google DeepMind Los investigadores han propuesto una nueva alternativa. El equipo de investigación argumentó que para que la «red agentica» crezca, los agentes deben ir más allá de la simple división de tareas y adoptar principios organizativos similares a los humanos, como la autoridad, la responsabilidad y la rendición de cuentas.
Definición de delegación ‘inteligente’
En el software habitual, una subrutina simplemente se «subcontrata». Delegación inteligente es diferente. Es una secuencia de decisiones donde un delegado transfiere autoridad y responsabilidad a un delegado. Este proceso implica evaluación de riesgos, coincidencia de capacidades y establecimiento de confianza.
Los 5 pilares del ámbito
Para construir esto, el equipo de investigación identificó cinco requisitos básicos asignados a protocolos técnicos específicos:
| Pilar del ámbito | Implementación técnica | Función principal |
| Evaluación dinámica | Descomposición y asignación de tareas | Inferir granularmente el estado y la capacidad del agente. |
| Ejecución adaptativa | Coordinación adaptativa | Manejo de cambios de contexto y fallas de tiempo de ejecución. |
| Transparencia estructural | Monitoreo y finalización verificable | Auditar tanto el proceso como el resultado final. |
| Mercado escalable | Confianza, reputación y optimización multiobjetivo | Coordinación competente y confiable en mercados abiertos. |
| Resiliencia sistémica | Manejo de seguridad y permisos | Prevención de fallos en cascada y uso bellaco. |
Táctica de ingeniería: descomposición del ‘convenio primero’
El cambio más significativo es descomposición del primer convenio. Según este principio, un delegado sólo asigna una tarea si el resultado puede producirse con precisión.
Si una tarea es demasiado subjetiva o compleja para verificarla (como «escribir un artículo de investigación convincente»), el sistema debe descomponerla recursivamente. Esto continúa hasta que las subtareas coincidan con las herramientas de demostración disponibles, como pruebas unitarias o pruebas matemáticas formales.
Demostración recursiva: la condena de custodia
En una condena de delegación, como 𝐴 → 𝐵 → 𝐶la rendición de cuentas es transitiva.
- Agente B es responsable de realizar el trabajo de do.
- Cuando el agente B devuelve el resultado a Adebe proporcionar una condena completa de certificaciones firmadas criptográficamente.
- Agente A luego realiza una demostración de 2 etapas: realizar Btrabajo directo y verificando que B correctamente verificado do.
Seguridad: tokens y túneles
Subir estas cadenas introduce enormes riesgos de seguridad, incluyendo Exfiltración de datos, Implantación de puerta traseray Cuna de modelos.
Para proteger la red, el equipo de DeepMind sugiere Tokens de capacidad de delegación (DCT). Basado en tecnologías como macarrones o galletasestos tokens utilizan «advertencias criptográficas» para hacer cumplir el principio de privilegio exiguo. Por ejemplo, un agente podría admitir un token que le permita LEER una carpeta específica de Google Drive pero prohíba cualquier operación de ESCRITURA.
Evaluación de protocolos actuales
El equipo de investigación analizó si los estándares industriales actuales están preparados para este ámbito. Si correctamente estos protocolos proporcionan una colchoneta, a todos ellos les faltan «piezas» para la delegación de detención aventura.
- MCP (Protocolo de contexto maniquí): Estandariza cómo los modelos se conectan a las herramientas. La brecha: Carece de una capa de políticas para regular los permisos en cadenas de delegación profundas.
- A2A (Agente a Agente): Gestiona el descubrimiento y los ciclos de vida de las tareas. La brecha: Carece de encabezados estandarizados para pruebas de conocimiento cero (ZKP) o cadenas de firmas digitales.
- AP2 (Protocolo de pagos de agentes): Autoriza a los agentes a deteriorar fondos. La brecha: No puede realizar de forma nativa la calidad del trabajo antiguamente de realizar el plazo.
- UCP (Protocolo de Comercio Universal): Estandariza las transacciones comerciales. La brecha: Está optimizado para compras/cumplimiento, no para tareas computacionales abstractas.
Conclusiones secreto
- Vaya más allá de la heurística: Las delegaciones actuales de IA se basan en heurísticas simples y codificadas que son frágiles y no pueden adaptarse dinámicamente a cambios ambientales o fallas inesperadas. La delegación inteligente requiere un ámbito adaptativo que incorpore la transferencia de autoridad, responsabilidad y rendición de cuentas.
- Descomposición de tareas ‘convenio primero’: Para objetivos complejos, los delegados deben utilizar un enfoque de «primero el convenio», donde las tareas se descomponen hasta que las subunidades coincidan con capacidades de demostración automatizadas específicas, como pruebas unitarias o pruebas formales.
- Responsabilidad Transitiva en Cadenas: En cadenas de delegación largas (p. ej., 𝐴 → 𝐵 → 𝐶), la responsabilidad es transitiva. El Agente B es responsable del trabajo de C, y el Agente A debe realizar tanto el trabajo directo de B como que B verificó correctamente las certificaciones de C.
- Seguridad atenuada mediante tokens: Para evitar infracciones sistémicas y el «problema de los diputados confusos», los agentes deben utilizar tokens de capacidad de delegación (DCT) que proporcionan autorización atenuada. Esto garantiza que los agentes operen bajo el principio de privilegio exiguo, con golpe restringido a subconjuntos específicos de capital y operaciones permitidas.
Mira el Papel aquí. Adicionalmente, no dudes en seguirnos en Gorjeo y no olvides unirte a nuestro SubReddit de más de 100.000 ml y suscríbete a nuestro boletín. ¡Esperar! estas en telegrama? Ahora además puedes unirte a nosotros en Telegram.
Michal Sutter es un profesional de la ciencia de datos con una Industria en Ciencias de Datos de la Universidad de Padua. Con una colchoneta sólida en prospección estadístico, educación mecánico e ingeniería de datos, Michal se destaca en alterar conjuntos de datos complejos en conocimientos prácticos.
