Implemente y proteja la IA empresarial a la velocidad de la inferencia

La mayoría de los clústeres de GPU empresariales funcionan muy por debajo de su capacidad. Para mejorar el aprovechamiento de las GPU, las organizaciones deben implementar técnicas de eficiencia en tiempo de ejecución, como el procesamiento continuo por lotes, la decodificación especulativa y la cuantización, que permiten obtener un rendimiento considerablemente mayor del hardware. Además, pueden utilizar un enrutamiento inteligente de inferencias para dirigir las consultas sencillas a modelos más pequeños y almacenar en caché las respuestas repetidas para evitar volver a calcularlas. Si las organizaciones alimentan adecuadamente esas GPU e instrumentan toda la pila tecnológica, pueden reducir el coste por token.

Las GPU consumen datos más rápido de lo que el canal de procesamiento puede suministrarlos, por lo que estos costosos aceleradores permanecen inactivos mientras esperan. Los sistemas de almacenamiento tradicionales no se diseñaron para proporcionar el acceso sostenido y de alto rendimiento a los datos que requieren el entrenamiento y la inferencia modernos. El problema del movimiento de datos se agrava cuando los patrones de acceso son impredecibles, cuando el preprocesamiento recae en una CPU sobrecargada y cuando los datos están dispersos en silos sin una vía rápida y unificada hacia los recursos de computación. Las organizaciones pueden agilizar el movimiento de datos si tratan su entrega como una infraestructura diseñada específicamente para ello. Deben emplear técnicas de precarga, almacenamiento en caché y carga en paralelo, así como sistemas de almacenamiento de alto rendimiento que sitúen los datos más cerca de las GPU. Con estas técnicas, pueden mantener abastecidos de forma constante clústeres más pequeños, en lugar de mantener clústeres más grandes que sufren una falta continua de datos.

La seguridad tradicional de las API y los datos protege las API y la información confidencial mediante controles como la autenticación, la autorización, la validación de esquemas, la detección de amenazas y la protección de datos. Sin embargo, estos controles no están diseñados para interpretar de forma fiable el significado semántico y la intención de las instrucciones en lenguaje natural, lo que genera riesgos adicionales para los sistemas de IA. La seguridad de la IA en tiempo de ejecución protege los sistemas durante las interacciones con los usuarios. Interpreta las entradas en lenguaje natural para detectar amenazas, en lugar de aplicar reglas fijas, y examina las respuestas antes de que lleguen a los usuarios para garantizar que el modelo no proporcione contenido dañino ni exponga datos confidenciales.

Según la organización sin ánimo de lucro OWASP (Open Worldwide Application Security Project), la principal amenaza para los sistemas de IA es la inyección de instrucciones, mediante la cual los atacantes elaboran entradas para manipular el comportamiento del modelo. La siguiente amenaza más importante es la divulgación de información confidencial, que se produce cuando los modelos revelan datos personales, instrucciones del sistema o propiedad intelectual en sus respuestas. Las barreras de protección para la IA pueden ayudar a detener estas y otras amenazas. Las barreras de entrada detectan patrones de inyección de instrucciones y de anulación del sistema para evitar que los modelos procesen instrucciones maliciosas. Las barreras de salida examinan y validan las respuestas del modelo antes de que lleguen a los usuarios o desencadenen acciones posteriores, lo que ayuda a evitar que se expongan datos confidenciales a través de dichas respuestas.

Hay tres razones principales por las que las empresas están trasladando de vuelta las cargas de trabajo de datos e IA desde la nube a entornos soberanos o aislados físicamente. En primer lugar, muchas necesitan reforzar el control sobre los datos regulados o sensibles, garantizando el cumplimiento de la normativa sobre soberanía de datos y evitando al mismo tiempo que los datos de entrenamiento propios se almacenen en centros de datos externos en la nube. En segundo lugar, las organizaciones quieren evitar las elevadas tarifas por transferencia de datos y las facturas impredecibles de los proveedores de servicios en la nube. Por último, quieren mejorar el rendimiento de la inferencia de IA eliminando la sobrecarga que supone la infraestructura en la nube compartida entre varios clientes.

Para evitar fugas de datos al utilizar agentes de IA y herramientas de inteligencia artificial generativa (GenAI), los equipos de SecOps empresariales deben implementar una estrategia de defensa multicapa. Esta estrategia debe incluir la aplicación de mecanismos de protección en línea y en tiempo real para las entradas y salidas; la limitación de los privilegios de acceso de los agentes de IA; la protección del almacenamiento de objetos de IA utilizado para la generación aumentada por recuperación (RAG); la protección del acceso a las API; y la realización continua de ejercicios de red teaming y la corrección de las vulnerabilidades detectadas. Al mismo tiempo, los equipos deben implementar herramientas que ayuden a detectar, clasificar y gestionar el uso de la IA por parte de los empleados.

F5 AI Guardrails ayuda a aplicar políticas en tiempo de ejecución y a proteger frente a riesgos como la inyección de prompts, la filtración de datos confidenciales, los resultados dañinos y las acciones no seguras de los agentes. F5 AI Red Team utiliza pruebas adversariales para identificar vulnerabilidades y puntos débiles antes y durante el despliegue. F5 AI Gateway proporciona un punto de control centralizado para gestionar el acceso a modelos, agentes y herramientas, mientras que F5 Workforce AI Security ofrece visibilidad sobre el uso autorizado y no autorizado de la IA en toda la empresa. En conjunto, estas funcionalidades forman parte de F5 AI Security Platform. Para ofrecer una protección y una distribución más amplias en aplicaciones, API y entornos distribuidos, F5 Application Delivery and Security Platform (ADSP) proporciona funcionalidades como la protección de aplicaciones web y API, la gestión de bots, la mitigación de ataques DDoS y la distribución de aplicaciones.