Defiende sus sistemas de IA con escudos rápidos, una API unificada que analiza las entradas a su opción basada en LLM para proteger contra amenazas directas e indirectas.
Una musculoso defensa contra ataques de inyección rápidos
El panorama de seguridad de la IA está cambiando constantemente, con ataques inyectados inmediatos que surgen como una de las amenazas más significativas para los constructores generativos de aplicaciones de IA en la ahora. Esto ocurre cuando un adversario manipula la entrada de una LLM para cambiar su comportamiento o entrar a información no autorizada. Según el Esquema Open Worldwide Application Security (OWASP), la inyección rápida es la principal amenaza que enfrenta LLM en la ahora1. Ayudar a defender sus sistemas de IA contra esta amenaza emergente con Azure AI Content Safetycon Escudos rápidos— Una API unificada que analiza las entradas a su opción basada en LLM para ampararse contra amenazas directas e indirectas. Estas exploits pueden incluir eludir las medidas de seguridad existentes, la exfiltración de datos confidenciales o conquistar que los sistemas de IA tomen medidas no deseadas en el interior de su entorno.
Ataques de inyección puntuales
En un rápido ataque de inyección, los actores maliciosos ingresan a las indicaciones engañosas que provocan respuestas no intencionadas o dañinas de los modelos de IA. Estos ataques se pueden clasificar en dos categorías principales: ataques de inyección directa e indirecta.
- Los ataques de inyección directa, incluidos los intentos de jailbreak, ocurren cuando un heredero final ingresa un aviso sagaz diseñado para evitar las capas de seguridad y extraer información confidencial. Por ejemplo, un atacante podría pedir que un maniquí de IA divulgue datos confidenciales, como números de seguro social o correos electrónicos privados.
- Los ataques de inyección indirectos o de promtores cruzados (XPIA) implican empotrar indicaciones maliciosas en el interior de contenido extranjero aparentemente inocuo, como documentos o correos electrónicos. Cuando un maniquí de IA procesa este contenido, ejecuta inadvertidamente las instrucciones integradas, lo que puede comprometer el sistema.
Escudos de inmediato se integra sin problemas con Filtros de contenido de Azure OpenAI y esta arreglado en Azure AI Content Safety. Se defiende contra muchos tipos de ataques de inyección rápidos, y las nuevas defensas se agregan regularmente a medida que se descubren nuevos tipos de ataque. Al utilizar los algoritmos avanzados de formación instintivo y el procesamiento del jerigonza natural, los escudos de inmediato identifican y mitigan las posibles amenazas en las indicaciones del heredero y los datos de terceros. Esta capacidad de vanguardia respaldará la seguridad y la integridad de sus aplicaciones de IA, ayudando a proteger sus sistemas contra intentos maliciosos de manipulación o explotación.
Las capacidades de escudos de inmediato incluyen:
- Conciencia contextual: Los escudos rápidos pueden discernir el contexto en el que se emiten las indicaciones, proporcionando una capa adicional de seguridad al comprender la intención detrás de las entradas del heredero. La conciencia contextual además conduce a menos falsos positivos porque es capaz de distinguir los ataques reales de las indicaciones genuinas del heredero.
- Detención: En Microsoft Build 2025, anunciamos Destacadouna nueva capacidad poderosa que alivio la capacidad de los escudos rápidos para detectar y incomunicar los ataques de inyección indirecta. Al distinguir entre insumos confiables y no confiables, esta innovación permite a los desarrolladores afirmar mejor las aplicaciones de IA generativas contra las indicaciones adversas integradas en documentos, correos electrónicos y contenido web.
- Respuesta en tiempo existente: Escudos rápidos opera en tiempo existente y es una de las primeras capacidades en tiempo existente que se pone en universal a disposición. Puede identificar y mitigar rápidamente las amenazas antaño de que puedan comprometer el maniquí de IA. Este enfoque proactivo minimiza el peligro de violaciones de datos y mantiene la integridad del sistema.
Enfoque de extremo a extremo
- Evaluaciones de peligro y seguridad: Azure AI Foundry ofrece evaluaciones de peligro y seguridad para permitir que los usuarios evalúen la producción de su aplicación generativa de IA para riesgos de contenido: contenido odioso e injusto, contenido sexual, contenido violento, contenido relacionado con la autolesión, vulnerabilidad directa e indirecta de jailbreak y material protegido.
- Agente de equipo rojo: Habilite escaneos automatizados y tienta adversario para identificar riesgos conocidos a escalera. Ayuda a los equipos a la izquierda al acontecer de la respuesta de incidentes reactivos a las pruebas de seguridad proactivas antaño en el exposición. Las evaluaciones de seguridad además admiten el equipo rojo al originar conjuntos de datos adversos que fortalecen las pruebas y aceleran la detección de problemas.
- Controles y barandillas robustas: Pronto Shields es solo uno de los robustos filtros de contenido de Azure Ai Foundry. Azure Ai Foundry ofrece una serie de filtros de contenido para detectar y mitigar el peligro y los daños, ataques de inyección inmediatos, producción sin tierra, material protegido y más.
- Defensor para la integración de la aglomeración: El defensor de Microsoft ahora se integra directamente en la fundición de Azure Ai, superficial de las recomendaciones de postura de seguridad de IA y alertas de protección de amenazas de tiempo de ejecución en el interior del entorno de exposición. Esta integración ayuda a cerrar la brecha entre los equipos de seguridad e ingeniería, lo que permite a los desarrolladores identificar y mitigar de modo proactiva los riesgos de IA, como ataques de inyección inmediatos detectados por escudos rápidos. Las alertas se pueden ver en la pestaña Riesgos y alertas, capacitando a los equipos para dominar el peligro de la superficie y construir aplicaciones de IA más seguras desde el principio.
Casos de uso del cliente
Los escudos de seguridad de seguridad de contenido de IA ofrecen numerosos beneficios. Por otra parte de defenderse contra los jailbreaks, las inyecciones rápidas y los ataques de documentos, puede ayudar a asegurar que los LLM se comporten según lo diseñado, al incomunicar las indicaciones que intentan explícitamente eludir las reglas y las políticas definidas por el desarrollador. Los siguientes casos de uso y testimonios de clientes destacan el impacto de estas capacidades.
AXA: Respaldar la fiabilidad y la seguridad
Axa, líder mundial en seguros, Utiliza Azure OpenAI para impulsar su opción GPT segura. Al integrar la tecnología de filtrado de contenido de Azure y ampliar su propia capa de seguridad, AXA evita ataques de inyección inmediatos y ayuda a asegurar la confiabilidad de sus modelos de IA. Secure GPT se plinto en Azure Openai en modelos de fundiciónaprovechando los modelos que ya han sido ajustados utilizando el formación de refuerzo de feedback humana. Por otra parte, AXA además puede creer en Tecnología de filtrado de contenido de Azurea lo que la Compañía agregó su propia capa de seguridad para evitar cualquier rompecabezas del maniquí utilizando escudos rápidos, asegurando un nivel perfecto de confiabilidad. Estas capas se actualizan regularmente para permanecer la protección descubierta.
WRTN: escalera de forma segura con la seguridad de contenido de Azure AI
WRTN Technologies, una empresa líder en Corea, se plinto en la seguridad de contenido de Azure AI Para permanecer el cumplimiento y la seguridad en sus productos. En esencia, la tecnología insignia de WRTN compila una variedad de casos y servicios de uso de IA localizados para que los usuarios coreanos integren la IA en su vida cotidiana. La plataforma fusiona utensilios de búsqueda con IA, funcionalidad de chat y plantillas personalizables, capacitando a los usuarios para interactuar sin problemas con un agente infundido con «compañero emocional». Estos agentes de IA tienen personalidades atractivas y realistas, que interactúan en una conversación con sus creadores. La visión es un agente personal enormemente interactivo que es único y específico para usted, sus datos y sus saludos.
Correcto a que el producto es enormemente personalizable para usuarios específicos, la capacidad incorporada para codearse filtros de contenido y escudos de inmediato es muy provechoso, lo que permite a WRTN personalizar eficientemente sus medidas de seguridad para diferentes usuarios finales. Esto permite a los desarrolladores avanzar productos mientras se mantienen compatibles, personalizables y receptivos a los usuarios de Corea.
«No se negociación solo de la seguridad y la privacidad, sino además la seguridad. A través de Azure, podemos activar o desactivar fácilmente filtros de contenido. Simplemente tiene tantas características que se suman al rendimiento de nuestro producto», dice Dongjae «DJ» Lee, director de productos.
Integre los escudos rápidos en su logística de IA
Para los tomadores de decisiones de TI que buscan mejorar la seguridad de sus despliegues de IA, integrar los protectores rápidos de Azure es un imperativo clave. Por fortuna, habilitar escudos rápidos es ligera.
Los rápidos escudos de Azure y las características de seguridad de IA incorporadas ofrecen un nivel de protección incomparable para los modelos de IA, lo que ayuda a asegurar que las organizaciones puedan utilizar el poder de la IA sin comprometer la seguridad. Microsoft es un líder en la identificación y mitigación de ataques de inyección inmediatay utiliza las mejores prácticas desarrolladas con décadas de investigación, políticas, ingeniería de productos y aprendizajes de la creación de productos de IA a escalera, para que pueda conquistar su transformación de IA con confianza. Al integrar estas capacidades en su logística de IA, puede ayudar a proteger sus sistemas de ataques de inyección inmediatos y ayudar a permanecer la confianza y la confianza de sus usuarios.
Nuestro compromiso con la IA confiable
Las organizaciones en todas las industrias están utilizando Azure ai fundición y Copiloto de Microsoft 365 Capacidades para impulsar el crecimiento, aumentar la productividad y crear experiencias de valía adjunto.
Estamos comprometidos a ayudar a las organizaciones a usar y construir una inteligencia sintético que sea confiablelo que significa que es seguro, privado y seguro. La IA confiable solo es posible cuando combina nuestros compromisos, como nuestro Iniciativa segura futura y Principios de IA responsablescon nuestras capacidades de producto para desbloquear la transformación de IA con confianza.
Comience con la seguridad de contenido de Azure AI
1OWASP Top 10 para aplicaciones de modelos de idiomas grandes