Defender contra la inyección rápida con consultas estructuradas (STRUQ) y optimización de preferencias (Secalign)
Los avances recientes en modelos de idiomas grandes (LLM) permiten emocionantes aplicaciones integradas en LLM. Sin incautación, a medida que los LLM han mejorado, igualmente lo han hecho los ataques contra ellos. Ataque de inyección rápido figura como el #1 amenaza de OWASP a aplicaciones integradas en LLM, donde una entrada LLM contiene un mensaje […]