Alineación de F5 con el Top 10 de OWASP para LLM
El Top 10 de OWASP para aplicaciones de LLM (2025) pone de relieve cómo la IA introduce nuevos riesgos de seguridad y gobernanza, al tiempo que aumenta las exigencias para la protección tradicional de las aplicaciones. A medida que las organizaciones pasan de proyectos piloto de IA a entornos de producción, los equipos de seguridad necesitan controles capaces de seguir el ritmo de unas técnicas de ataque en constante evolución y, a la vez, cumplir los requisitos de privacidad y conformidad normativa.
Las siguientes secciones relacionan cada área de riesgo para LLM de OWASP con las capacidades pertinentes de F5: F5 AI Guardrails para ofrecer protección en tiempo de ejecución independiente del modelo y aplicar políticas en todas las interacciones con la IA; F5 Web App and API Protection (WAAP) para proteger las aplicaciones y las API que hacen posibles los flujos de trabajo de IA; y F5 AI Red Team para evaluar de forma proactiva las vulnerabilidades de los modelos y las aplicaciones antes de que lo hagan los atacantes.
LLM01: Inyección de prompts
La inyección de prompts se produce cuando las entradas de los usuarios manipulan un modelo para que adopte comportamientos perjudiciales, como revelar información confidencial, proporcionar acceso no autorizado o generar contenido sesgado o tóxico. F5 AI Guardrails mitiga estos riesgos inspeccionando tanto los prompts como las respuestas del modelo para detectar actividades maliciosas y bloquear interacciones peligrosas o que incumplan las normas. Ofrece protección lista para usar frente a miles de técnicas conocidas de inyección de prompts, así como una interfaz para crear rápidamente Guardrails personalizadas a medida que surgen nuevas amenazas.
LLM02: Divulgación de información sensible
La divulgación de información confidencial supone un riesgo bidireccional: las aplicaciones de IA pueden exponer datos no autorizados a los usuarios, y estos pueden enviar información confidencial —como información de identificación personal (PII) o datos de propiedad exclusiva— que el sistema no está autorizado a tratar. F5 AI Guardrails aborda ambos riesgos filtrando tipos de datos confidenciales, incluidos PII, PCI y PHI, para evitar interacciones que incumplan la normativa. Los equipos también pueden definir patrones de datos personalizados para supervisar o bloquear las entradas de los usuarios, las salidas del modelo o ambas. Además, AI Guardrails admite funciones tradicionales de gestión de acceso, como el aprovisionamiento de grupos mediante RBAC, para adaptar la aplicación de políticas según el usuario o el grupo.
LLM03: Cadena de suministro
Las vulnerabilidades de la cadena de suministro en los LLM amenazan la integridad de los datos de entrenamiento, los modelos y las plataformas de despliegue. El riesgo más importante se deriva de la adopción de modelos preentrenados de terceros y adaptadores de bajo rango (LoRA), que se utilizan para ajustar un modelo base sin volver a entrenarlo. Con millones de modelos y LoRA disponibles en plataformas como Hugging Face, la superficie de ataque se amplía drásticamente, lo que crea oportunidades para la manipulación y el envenenamiento de datos en innumerables variantes de modelos. F5 AI Guardrails crea una capa uniforme de aplicación de políticas en todas las aplicaciones de IA, independientemente del origen del modelo. Implementado como un proxy que inspecciona las interacciones entre usuarios, agentes y aplicaciones, AI Guardrails aplica controles comunes de seguridad en tiempo de ejecución para mitigar los riesgos derivados de datos de entrenamiento sesgados, la variabilidad de los modelos y posibles vulnerabilidades antes de que los resultados perjudiciales lleguen a los usuarios. Además, F5 AI Red Team lleva a cabo simulaciones de ataques a gran escala para evaluar los riesgos específicos y las tendencias de comportamiento de cada modelo. Dado que los perfiles de riesgo pueden variar considerablemente incluso dentro de una misma familia de modelos, AI Red Team proporciona información rápida y práctica sobre las vulnerabilidades antes de que los atacantes puedan explotarlas.
LLM04: Envenenamiento de datos y modelos
El envenenamiento de datos y modelos implica la manipulación maliciosa de los datos de entrenamiento, ajuste fino o recuperación, lo que puede degradar la calidad de los resultados, introducir sesgos o incorporar activadores de puertas traseras. F5 mitiga los riesgos de envenenamiento protegiendo las superficies expuestas de aplicaciones y API mediante F5 Web App and API Protection (WAAP). Las funciones de F5 WAAP, como Bot Defense y DDoS Mitigation, reducen la inyección automatizada de contenido malicioso en los flujos de trabajo de ingesta y retroalimentación, mientras que API Discovery and Security ayuda a identificar y controlar las API de recopilación y recuperación de datos, una de las vías de ataque más habituales para influir en el comportamiento de los modelos. Además, F5 AI Guardrails puede actuar como control compensatorio en tiempo de ejecución mediante la detección y el bloqueo de indicadores de envenenamiento conocidos, como frases o patrones activadores, a través de Guardrails personalizadas.
LLM05: Gestión inadecuada de la salida
La gestión inadecuada de las salidas se produce cuando las respuestas generadas por los LLM no se validan ni se depuran suficientemente antes de enviarlas a sistemas posteriores. Dado que los atacantes pueden influir en las respuestas del modelo mediante prompts manipulados, esto puede dar lugar a un acceso indirecto a funcionalidades sensibles y provocar efectos posteriores, como XSS o CSRF en navegadores, o SSRF, escalada de privilegios y ejecución remota de código en sistemas backend. F5 AI Guardrails mitiga este riesgo inspeccionando las respuestas del modelo antes de entregarlas a los usuarios o dirigirlas a herramientas posteriores, y bloqueando o registrando el contenido no seguro según las políticas definidas. F5 Web App and API Protection (WAAP) reduce aún más la exposición mediante la aplicación de controles consolidados de seguridad web y de API —incluidos el descubrimiento de API, la validación de esquemas y la protección frente a amenazas— a las aplicaciones y API que consumen las respuestas de los LLM, evitando que las cargas maliciosas se conviertan en ataques ejecutables.
LLM06: Agencia excesiva
La autonomía excesiva se produce cuando se concede a un modelo o agente más autonomía, permisos o acceso a herramientas de los necesarios, lo que permite que entradas manipuladas desencadenen acciones no deseadas, como enviar mensajes, ejecutar transacciones o extraer datos. F5 AI Guardrails mitiga este riesgo aplicando límites basados en políticas a lo que los modelos pueden solicitar o generar, y bloqueando las interacciones que no cumplen las políticas antes de que lleguen a las herramientas o a los sistemas posteriores. F5 Web App and API Protection (WAAP) proporciona una protección adicional al aplicar autenticación, autorización y limitación de solicitudes en las API de herramientas y complementos, lo que garantiza que los servicios subyacentes permanezcan protegidos incluso si un agente intenta realizar una acción no segura.
LLM07: Filtración del prompt del sistema
La filtración de prompts del sistema se produce cuando los atacantes extraen instrucciones ocultas, credenciales o lógica de políticas integradas en los prompts del sistema y utilizan esa información para eludir controles o intensificar los ataques. F5 AI Guardrails mitiga este riesgo detectando y bloqueando patrones de extracción habituales en las entradas de los usuarios y filtrando las respuestas para impedir que el modelo devuelva contenido restringido de los prompts. F5 AI Red Team prueba de forma proactiva modelos y aplicaciones a gran escala para detectar filtraciones de prompts y su vulnerabilidad a la extracción de prompts del sistema, y proporciona conclusiones prácticas para reforzar los prompts, las políticas y los controles en tiempo de ejecución antes del despliegue.
LLM08: Debilidades de los vectores y las incrustaciones
Las vulnerabilidades de los vectores y las incrustaciones surgen en los sistemas de generación aumentada por recuperación (RAG) y en los sistemas basados en incrustaciones cuando los atacantes manipulan, contaminan o explotan el contenido recuperado para influir en las respuestas, provocar la exposición de datos confidenciales o eludir los controles de seguridad. F5 Web App and API Protection (WAAP) ayuda a mitigar estos riesgos protegiendo las API utilizadas para incorporar documentos, gestionar colecciones y realizar consultas de recuperación, mediante funciones como la detección de API, la aplicación de esquemas y la prevención de bots y usos abusivos. F5 AI Guardrails reduce aún más el impacto posterior mediante la inspección en tiempo de ejecución y la aplicación de políticas personalizadas a las salidas del modelo, lo que ayuda a detectar patrones sospechosos, contenido no seguro o datos confidenciales antes de entregar las respuestas a los usuarios.
LLM09: Desinformación
El riesgo de desinformación surge cuando un LLM genera respuestas incorrectas o engañosas que pueden dar lugar a decisiones poco seguras, daños reputacionales o incumplimientos normativos. F5 AI Guardrails mitiga este riesgo mediante Guardrails de moderación de contenido que marcan o bloquean categorías de contenido de alto riesgo, exigen estructuras de respuesta específicas o activan controles adicionales cuando el contenido parece incierto o no conforme. F5 AI Red Team evalúa cómo se comportan los sistemas de IA ante preguntas malintencionadas y casos extremos, lo que ayuda a los equipos a cuantificar la propensión a generar desinformación y a ajustar las políticas y los flujos de trabajo antes del despliegue en producción.
LLM10: Consumo sin límites
El consumo sin límites se produce cuando atacantes o clientes mal configurados provocan un uso excesivo del modelo, lo que ocasiona el agotamiento de los recursos, una menor disponibilidad o un aumento inesperado de los costes debido a un gran volumen de solicitudes, prompts sobredimensionados o automatizaciones abusivas. F5 Web App and API Protection (WAAP) mitiga este riesgo mediante la limitación de la tasa de solicitudes y la protección frente a ataques DDoS en las capas de aplicación y API, reduciendo así el tráfico abusivo antes de que llegue a la infraestructura del modelo. Junto con la detección de API orientadas a la IA y los controles de seguridad, F5 WAAP ayuda a contener tanto los riesgos para la disponibilidad como los costes asociados al uso descontrolado de los LLM.
La seguridad de la IA es un objetivo en constante evolución
Proteger las aplicaciones de LLM requiere algo más que pruebas puntuales o la configuración predeterminada del proveedor del modelo. Una estrategia eficaz de seguridad de la IA exige la aplicación continua de políticas en tiempo de ejecución y una protección sólida de las API, las herramientas y los sistemas de datos de los que dependen los LLM. Para abordar el Top 10 de OWASP para aplicaciones de LLM (2025), F5 combina:
- F5 AI Guardrails - Seguridad adaptativa en tiempo de ejecución, independiente del modelo, con F5 AI Guardrails para evitar fugas de datos, manipulaciones maliciosas y resultados perjudiciales
- F5 AI Red Team - Pruebas proactivas mediante F5 AI Red Team para detectar de forma temprana vulnerabilidades específicas de los modelos y los flujos de trabajo, y convertir los hallazgos en defensas activas
- F5 Web App and API Protection (WAAP) - Controles de aplicaciones y API para reducir la exposición, el uso indebido y los riesgos para los recursos
En conjunto, estas capas permiten a las empresas ampliar el uso de la IA manteniendo la resiliencia, el cumplimiento normativo y la confianza de los usuarios a medida que evolucionan las experiencias basadas en LLM.