Protegiendo modelos y agentes de IA sin compromisos: Cómo F5 potenciará la protección integral en tiempo real de la IA tras adquirir CalypsoAI

Gestionar la ciberseguridad en un mundo con IA es más complejo que nunca. A medida que adoptas rápidamente herramientas de inteligencia artificial generativa y autónoma, te enfrentas a riesgos crecientes como ataques de inyección de comandos, exfiltración de datos y retos de cumplimiento normativo. La naturaleza dinámica y altamente interconectada de las aplicaciones, modelos y API de IA amplía la superficie de ataque, aumenta el escrutinio regulatorio y genera puntos ciegos operativos.

Las herramientas tradicionales de seguridad puntual no logran seguir el ritmo del complejo y cambiante panorama de amenazas impulsadas por IA. Debe integrar estas potentes herramientas en sus operaciones, garantizando al mismo tiempo el cumplimiento normativo, protegiendo los datos sensibles y evitando retrasos operativos, todo a una velocidad y escala sin precedentes.

En F5, creemos que proteger los flujos de trabajo de IA no implica renunciar a la velocidad, la experiencia del usuario ni la escalabilidad. Por eso, nos entusiasma anunciar la adquisición de CalypsoAI, pionera en seguridad para IA empresarial que ofrece protección adaptativa, monitorización de amenazas en tiempo real y gobernanza preparada para auditorías de sistemas de IA. Con esta adquisición, posicionamos a F5 como la primera compañía que ofrece protección integral para cada aplicación, API y ahora también para modelos y agentes de IA, en cualquier lugar.

Junto con CalypsoAI, redefinimos la seguridad de la IA en las empresas, permitiéndote escalar con confianza, reducir riesgos, facilitar el cumplimiento y obtener flujos de trabajo de IA con alto rendimiento. Al integrar las capacidades de CalypsoAI en la Plataforma de Entrega y Seguridad de Aplicaciones (ADSP) de F5, accedes a la solución de seguridad de IA más completa y global, asegurando tus sistemas de IA desde la fase piloto hasta la producción sin compromisos.

Hablamos con James White, CTO de CalypsoAI, y Kunal Anand, director de innovación de F5, para explicar cómo esta solución pionera simplifica la seguridad de la IA empresarial durante todo el ciclo de vida de los sistemas de IA.

James White: ¡Gracias! En CalypsoAI, nuestra misión siempre ha sido ayudarte a adoptar la IA con confianza y seguridad. Al acelerar la adopción de la IA, las empresas se enfrentan a riesgos crecientes como ataques adversarios, comportamientos inesperados de modelos, incumplimientos de políticas y requisitos de cumplimiento en constante evolución. Dado el ritmo vertiginoso del cambio en la IA, las herramientas tradicionales no pueden hacer frente a estos riesgos, dejando huecos en la protección y gobernanza.

Para hacerlo, hemos desarrollado soluciones que aseguran los flujos de trabajo de IA en todas sus fases de madurez. Incluimos pruebas de ataques proactivas mediante AI Red Teaming, defensas en tiempo real con soluciones como inspección y aplicación en ejecución, y visibilidad y cumplimiento centralizados que garantizan el cumplimiento de normativas como GDPR y la Ley de IA de la UE.

Al unirnos a F5, ampliamos nuestra visión e integrarnos sin dificultades estas capacidades en una plataforma unificada que te permite probar, desplegar y escalar IA sin sacrificar la seguridad.

Kunal Anand: La IA no es solo una carga de trabajo más; representa una nueva y dinámica superficie de ataque que esquiva la seguridad tradicional. Durante décadas, F5 ha estado en el punto crítico entre aplicaciones y usuarios. Proteger modelos de IA, agentes y flujos de datos sigue siendo la extensión lógica de nuestra misión principal.

Nuestra visión es una plataforma única y adaptativa que garantiza la seguridad del código, las API y, ahora, las estructuras de IA que impulsan las aplicaciones modernas. Al integrar la seguridad nativa de IA de CalypsoAI en nuestro ADSP, hacemos realidad esa visión. No consiste en añadir una simple función nueva. Consiste en integrar la protección de IA en la propia estructura de la aplicación. Las empresas pueden ahora construir con IA, no solo reaccionar ante sus riesgos. Esa es la diferencia entre liderar o simplemente participar en este cambio.

James White: A medida que las empresas implementan una nueva pila de IA, los flujos de trabajo de IA generan una superficie de ataque dinámica que plantea retos únicos:

• Vulnerabilidades de la IA: Los riesgos incluyen ataques de inyección de comandos, envenenamiento de datos y manipulaciones adversas, que pueden comprometer la integridad del sistema de IA. Uno de los desafíos más urgentes señalados por los profesionales de seguridad es el auge de la IA oculta, donde el uso no autorizado de servicios de IA de terceros aumenta los riesgos como la exfiltración de datos y los puntos ciegos operativos. Los expertos advierten que equilibrar las demandas de datos de la IA con los principios de ciberseguridad obliga a menudo a hacer sacrificios, forzando a las empresas a elegir entre una IA eficaz y una seguridad sólida.
• Brechas en cumplimiento: Regulaciones como el RGPD y la Ley de IA de la UE exigen supervisión y responsabilidad centralizadas, pero muchas organizaciones no cuentan con herramientas efectivas para facilitar el cumplimiento en sistemas de IA.
• Shadow AI: El uso no controlado o no autorizado de servicios de inteligencia artificial externos aumenta riesgos como la exfiltración de datos y las zonas ciegas operativas.
• Herramientas de seguridad fragmentadas: Muchas empresas utilizan herramientas desconectadas o procesos manuales, lo que genera ineficiencias y cuellos de botella.

Al integrar las soluciones diseñadas por CalypsoAI en F5 ADSP, afrontamos esos desafíos ofreciendo una protección proactiva y en tiempo real en cada fase, desde el piloto hasta la producción.

Kunal Anand: Ofrece seguridad con IA durante todo el ciclo de vida. Obtendrás tres beneficios inmediatos:

• Refuerza los modelos antes de implementarlos. Piénsalo como un red-teaming automatizado y continuo para tu IA. CalypsoAI lanza miles de ataques adversarios a tus modelos, detectando y corrigiendo vulnerabilidades en horas, no semanas. Así, los equipos entregan sistemas más robustos con rapidez.
• Protege la IA en tiempo real. No es un escáner de registros pasivo. Es un escudo en tiempo real que actúa en la ruta de datos, bloqueando activamente inyecciones de comandos, exfiltración de datos y otros ataques sin afectar el rendimiento. Evitamos la brecha, no solo la notificamos.
• Observabilidad unificada para IA. Los sistemas de IA pueden parecer una caja negra, generando grandes puntos ciegos operativos. CalypsoAI monitoriza cada petición, respuesta e interacción de datos en todo tu conjunto de IA. Así transformamos la ambigüedad en información clara, lo que te permite resolver incidencias, detectar desviaciones y conservar un registro completo y preparado para auditorías del comportamiento de la IA. No se puede proteger lo que no se ve.

James White: Adoptamos un enfoque proactivo y continuo. Por ejemplo, durante el desarrollo, nuestras herramientas de Red Teaming simulan ataques adversarios para poner a prueba los sistemas de IA, asegurando que solucionemos las vulnerabilidades antes del despliegue. Tras el despliegue, los sistemas de supervisión en vivo y protección en tiempo real detectan y responden a comportamientos anómalos y ataques, como la exfiltración de datos, de inmediato.

Este enfoque de seguridad en capas proporciona a las empresas las herramientas para protegerse de los riesgos desde el piloto hasta la producción, simplificar el cumplimiento y acelerar su innovación en IA de forma segura. CalypsoAI es el experto reconocido del sector en seguridad de modelos de IA post-implementación. Nuestras soluciones nos permiten obtener perspectivas únicas para medir y comparar la vulnerabilidad de los modelos de IA generativa y agentica más usados a nivel mundial. Nuestro índice de seguridad CASI y las clasificaciones de resistencia a la guerra agentica sitúan a los 10 mejores modelos en cada área, ayudándote a entender mejor qué modelos desplegar y qué riesgos conllevan.