A medida que las empresas se mueven de la experimentación con IA a la escalerala gobernanza se ha convertido en una preocupación a nivel de la articulación directiva. El desafío para los ejecutivos ya no es si la gobernanza importa, sino cómo diseñarla de modo que permita velocidad, innovación y confianza al mismo tiempo.
Para explorar cómo se está desarrollando ese contrapeso en la destreza, me senté con David Meyer, vicepresidente senior de producto de Databricks. Al trabajar estrechamente con clientes de todas las industrias y regiones, David tiene una visión clara de dónde las organizaciones están logrando avances reales, dónde se están estancando y cómo las decisiones de gobernanza de hoy dan forma a lo que será posible mañana.
Lo que destacó en nuestra conversación fue su pragmatismo. En puesto de tratar la gobernanza de la IA como poco nuevo o indeterminado, David volvió constantemente a los primeros principios: disciplina de ingeniería, visibilidad y responsabilidad.
La gobernanza de la IA como forma de avanzar más rápido
Catalina Brown: Pasas mucho tiempo con clientes de todos los sectores. ¿Qué está cambiando en la forma en que los líderes piensan sobre la gobernanza cuando planifican para los próximos dos abriles?
David Meyer: Uno de los patrones más claros que veo es que los desafíos de la gobernanza son tanto organizativos como técnicos, y entreambos están estrechamente relacionados. En el aspecto organizacional, los líderes están tratando de descubrir cómo permitir que los equipos se muevan rápidamente sin crear caos.
Las organizaciones que luchan tienden a ser demasiado reacias al aventura. Centralizan cada audacia, añaden procesos de aprobación pesados y, sin querer, ralentizan todo. Irónicamente, eso a menudo conduce a peores resultados, no a otros más seguros.
Lo interesante es que una gobernanza técnica sólida puede en sinceridad desbloquear la flexibilidad organizacional. Cuando los líderes tienen visibilidad existente de los datos, modelos y agentes que se utilizan, no necesitan controlar cada audacia manualmente. Pueden dar a los equipos más exención porque entienden lo que sucede en todo el sistema. En la destreza, eso significa que los equipos no necesitan pedir permiso para cada maniquí o caso de uso: el paso, la auditoría y las actualizaciones se manejan de modo centralizada, y la gobernanza ocurre por diseño y no por excepción.
Catalina Brown: Muchas organizaciones parecen estancadas entre moverse demasiado rápido y bloquearlo todo. ¿Dónde cree que las empresas lo están haciendo correctamente?
David Meyer: Normalmente veo dos extremos.
Por un costado, están las empresas que deciden que “la IA es lo primero” y alientan a todos a construir autónomamente. Eso funciona por un tiempo. La parentela se mueve rápido, hay mucha emoción. Luego parpadeas y de repente tienes miles de agentes, sin un inventario existente, sin idea de cuánto están costando y sin una idea clara de lo que positivamente se está ejecutando en producción.
En el otro extremo, hay organizaciones que intentan controlarlo todo desde el principio. Establecen un único punto de estrangulamiento para las aprobaciones, y el resultado es que nunca se implementa casi falta significativo. Esos equipos suelen notar la presión constante de quedarse detrás.
Las empresas que lo están haciendo correctamente tienden a subsistir en algún punto intermedio. Adentro de cada función empresarial, identifican personas con conocimientos de IA y que pueden encaminar la experimentación a nivel almacén. Esas personas comparan notas en toda la ordenamiento, comparten lo que funciona y limitan el conjunto de herramientas recomendadas. Acontecer de docenas de herramientas a incluso dos o tres marca una diferencia mucho maduro de lo que la parentela retraso.
Los agentes no son tan nuevos como parecen
catalina: Una cosa que dijiste antiguamente positivamente se destacó. Usted sugirió que los agentes no son tan fundamentalmente diferentes como mucha parentela supone.
David: Así es. Los agentes se sienten nuevos, pero muchas de sus características son en sinceridad muy familiares.
Cuestan moneda continuamente. Amplían su superficie de seguridad. Se conectan a otros sistemas. Esas son todas las cosas con las que hemos tratado antiguamente.
Ya sabemos cómo regentar los activos de datos y las API, y aquí se aplican los mismos principios. Si no sabe dónde existe un agente, no puede desactivarlo. Si un agente toca datos confidenciales, alguno debe ser responsable de ello. Muchas organizaciones asumen que los sistemas de agentes requieren un texto de reglas completamente nuevo. En sinceridad, si toma prestadas prácticas comprobadas de gobierno y ciclo de vida de la gobierno de datos, ya habrá trayecto la maduro parte del camino.
catalina: Si un ejecutor le preguntara por un puesto sencillo para aparecer, ¿qué le diría?
David: Yo empezaría con la observabilidad.
Una IA significativa casi siempre depende de datos patentados. Necesita aprender qué datos se utilizan, qué modelos están involucrados y cómo se unen esas piezas para formar agentes.
Muchas empresas utilizan varios proveedores de modelos en diferentes nubes. Cuando esos modelos se gestionan de forma aislada, resulta muy difícil entender el costo, la calidad o el rendimiento. Cuando los datos y los modelos se gobiernan juntos, los equipos pueden probar, comparar y mejorar de modo mucho más efectiva.
Esa observabilidad importa aún más porque el ecosistema está cambiando muy rápido. Los líderes deben poder evaluar nuevos modelos y enfoques sin rehacer todo su conjunto cada vez que poco cambia.
catalina: ¿Dónde están progresando rápidamente las organizaciones y dónde tienden a quedarse estancadas?
David: Los agentes basados en el conocimiento suelen ser los más rápidos en levantarse. Les señalas un conjunto de documentos y de repente la parentela puede hacer preguntas y obtener respuestas. Eso es poderoso. El problema es que muchos de estos sistemas se degradan con el tiempo. Cambios de contenido. Los índices quedan obsoletos. Caídas de calidad. La mayoría de los equipos no planean eso.
Perseverar el valía significa pensar más allá del despliegue auténtico. Necesita sistemas que actualicen continuamente los datos, evalúen los resultados y mejoren la precisión con el tiempo. Sin eso, muchas organizaciones ven unos primeros meses de actividad excelentes, seguidos de una disminución del uso y del impacto.
Tratar la IA agente como una disciplina de ingeniería
catalina: ¿Cómo equilibran los líderes la velocidad con la confianza y el control en la destreza?
David: Las organizaciones que hacen esto correctamente tratan la IA agente como un problema de ingeniería. Aplican la misma disciplina que utilizan para el software: pruebas, monitoreo e implementación continuos. Se esperan fracasos. El objetivo no es avisar todos los problemas, sino circunscribir el radiodifusión de crisis y solucionar los problemas rápidamente. Cuando los equipos pueden hacer eso, se mueven más rápido y con más confianza. Si falta sale mal, probablemente esté siendo demasiado conservador.
catalina: ¿Cómo están evolucionando las expectativas en torno a la confianza y la transparencia?
David: La confianza no surge de hacerse cargo que los sistemas serán perfectos. Proviene de aprender qué pasó luego de que poco salió mal. Necesita trazabilidad: qué datos se utilizaron, qué maniquí estuvo involucrado, quién interactuó con el sistema. Cuando tenga ese nivel de auditabilidad, podrá darse el fasto de tantear más.
Así es como siempre se han ejecutado los grandes sistemas distribuidos. Optimiza para la recuperación, no para la partida de fallas. Esa mentalidad se vuelve aún más importante a medida que los sistemas de IA se vuelven más autónomos.
Creación de una logística de gobernanza de la IA
En puesto de tratar la IA agente como una ruptura clara con el pasado, es como una extensión de disciplinas que las empresas ya saben cómo ejecutar. Para los ejecutivos que piensan en lo que positivamente importa a continuación, surgen tres temas:
- Utilice la gobernanza para permitir la velocidad, no limitarla. Las organizaciones más sólidas implementan controles fundamentales para que los equipos puedan moverse más rápido sin perder visibilidad ni responsabilidad.
- Aplicar prácticas familiares de ingeniería y datos a los agentes. El inventario, la gobierno del ciclo de vida y la trazabilidad son tan importantes para los agentes como para los datos y las API.
- Trate la IA como un sistema de producción, no como un dispersión único. El valía sostenido depende de la evaluación continua, los datos actualizados y la capacidad de detectar y corregir problemas rápidamente.
En conjunto, estas ideas apuntan a una conclusión clara: el valía duradero de la IA no proviene de despabilarse las herramientas más nuevas o asediar todo, sino de construir bases que permitan a las organizaciones memorizar, adaptarse y avanzar con confianza.
Para obtener más información sobre cómo crear un maniquí eficaz eficaz, descargue el Maniquí de virilidad de IA de Databricks.