llm-redteamlisted

# Red teaming de aplicaciones con LLM (OWASP LLM Top 10) Línea de servicio emergente: evaluar la seguridad de aplicaciones que incorporan modelos de lenguaje. El riesgo NO está en el modelo aislado sino en **cómo la app lo conecta** a datos, herramientas y usuarios. No necesita infraestructura nueva: es metodología + prueba reproducible. ## Cuándo usarla Cuando el scope incluya un endpoint de chat/IA, una API de agente, o un buscador/asistente con recuperación (RAG). La ejecuta el agente `ai-security`. ## Vectores (OWASP LLM) - **LLM01 Prompt Injection — directa:** anula el system prompt (cambio de rol, "ignora…"), ofuscación (otros idiomas, base64, delimitadores, payload splitting). - **LLM01 Prompt Injection — indirecta:** esconde instrucciones en contenido que el LLM ingiere (página web, PDF, documento RAG, correo); se disparan al procesarlo. - **LLM07 System Prompt Leakage / LLM02 Sensitive Info:** extrae instrucciones, claves o datos de otras sesiones/tenants. - **LLM06 Excessive Agency:** si el LLM usa herramientas (funciones, shell, API), encadena una acción no autorizada — inyección de parámetros, tool shadowing, confused deputy. - **LLM05 Insecure Output Handling:** la salida del LLM llega a un sink sin sanear → XSS (DOM), SQLi/RCE (intérprete). Puente a explotación web clásica. - **LLM08 Vector/Embedding Weaknesses:** envenenamiento del índice RAG, manipulación de la recuperación, fuga cruzada entre contextos. ## Cómo probar - Manualmente vía el endp