Protección de modelos y agentes de IA sin concesiones: cómo la adquisición de CalypsoAI por parte de F5 ofrecerá protección integral de la IA en tiempo de ejecución

Kunal AnandDirector de Producto | F5

Gestionar la ciberseguridad en un mundo dominado por la IA es más difícil que nunca. A medida que las empresas adoptan rápidamente herramientas de IA generativa y agéntica, se enfrentan a riesgos cada vez mayores, como los ataques de inyección de instrucciones, las filtraciones de datos y los problemas de cumplimiento normativo. La naturaleza dinámica y altamente interconectada de las aplicaciones, los modelos y las API de IA está ampliando la superficie de ataque, intensificando el escrutinio regulatorio y generando puntos ciegos operativos.

Las herramientas de seguridad tradicionales basadas en soluciones puntuales tienen dificultades para seguir el ritmo de un panorama de amenazas de IA complejo y en constante evolución. Las empresas deben integrar estas potentes herramientas en sus operaciones y, al mismo tiempo, garantizar el cumplimiento normativo, proteger los datos confidenciales y evitar retrasos operativos, todo ello a una velocidad y una escala sin precedentes.

En F5, creemos que proteger los flujos de trabajo de IA no implica renunciar a la velocidad, la experiencia de usuario ni la escalabilidad. Por eso, nos complace anunciar la adquisición de CalypsoAI, empresa pionera en seguridad de IA para empresas que ofrece protección adaptativa, supervisión de amenazas en tiempo real y gobernanza preparada para auditorías en sistemas de IA. Esta adquisición sitúa a F5 como la primera empresa capaz de ofrecer protección integral para todas las aplicaciones y API y, ahora también, para todos los modelos y agentes de IA, estén donde estén.

Junto con CalypsoAI, estamos redefiniendo la seguridad de la IA empresarial, lo que permite a las organizaciones escalar de forma segura, mitigar los riesgos, simplificar el cumplimiento normativo y ofrecer flujos de trabajo de IA de alto rendimiento. Al incorporar las capacidades de CalypsoAI a la F5 Application Delivery and Security Platform (ADSP), las empresas obtienen acceso a la solución de seguridad de IA integral más completa del mundo, lo que les permite proteger sus sistemas de IA desde la fase piloto hasta la producción sin concesiones.

Nos reunimos con James White, director de tecnología de CalypsoAI, y Kunal Anand, director de Innovación de F5, para hablar sobre cómo esta solución revolucionaria simplifica la seguridad de la IA empresarial durante todo el ciclo de vida de los sistemas de IA.

P: ¡Bienvenido a F5, James! ¿Puedes hablarnos de la misión de CalypsoAI y de qué os llevó a establecer esta colaboración?

James White: ¡Gracias! Nuestra misión en CalypsoAI siempre ha sido ayudar a las organizaciones a adoptar la IA con confianza y seguridad. A medida que las empresas amplían rápidamente el uso de la IA, se enfrentan a riesgos cada vez mayores, como ataques adversarios, comportamientos indebidos de los modelos, infracciones de las políticas y requisitos normativos en constante evolución. Dada la rapidez con la que cambia la IA, estos riesgos no pueden abordarse con herramientas tradicionales, que dejan lagunas en la protección y la gobernanza.

Para abordar esta cuestión, hemos desarrollado soluciones que protegen los flujos de trabajo de IA en todas las etapas de madurez de la IA. Esto incluye pruebas proactivas de ataques mediante equipos rojos de IA, defensas en tiempo real proporcionadas por soluciones como la inspección y la aplicación de políticas en tiempo de ejecución, así como observabilidad y cumplimiento normativo centralizados para satisfacer normas como el RGPD y la Ley de IA de la UE.

Unirnos a F5 nos permite ampliar nuestra visión e integrar estas capacidades a la perfección en una única plataforma, lo que permite a las empresas probar, implementar y escalar la IA sin comprometer la seguridad.

P: Kunal, ¿cómo contribuye esta adquisición a la visión de F5 sobre el éxito empresarial?

Kunal Anand: La IA no es simplemente otra carga de trabajo; es una nueva superficie de ataque dinámica que elude las medidas de seguridad tradicionales. Durante décadas, F5 ha ocupado un punto crítico entre las aplicaciones y los usuarios. Proteger los modelos y agentes de IA, así como los flujos de datos, es la extensión lógica de nuestra misión principal.

Nuestra visión consiste en una plataforma única y adaptativa que proteja el código, las API y, ahora también, los componentes de IA que sustentan las aplicaciones modernas. Al integrar la seguridad nativa para IA de CalypsoAI en nuestra ADSP, estamos haciendo realidad esa visión. No se trata de añadir una nueva funcionalidad, sino de incorporar la protección de la IA al propio tejido de las aplicaciones. Ahora las empresas pueden crear con IA, en lugar de limitarse a reaccionar ante sus riesgos. Esa es la diferencia entre liderar este cambio y limitarse a participar en él.

P: James, ¿puedes contarnos más sobre los retos específicos para los que se creó CalypsoAI?

James White: A medida que las empresas buscan implementar una nueva pila de IA, los flujos de trabajo de IA crean una superficie de ataque dinámica que plantea desafíos únicos:

• Vulnerabilidades de la IA: Entre los riesgos se incluyen los ataques de inyección de instrucciones, el envenenamiento de datos y las manipulaciones adversarias, que pueden comprometer la integridad de los sistemas de IA. Uno de los retos más acuciantes señalados por los profesionales de la seguridad es el auge de la IA en la sombra, en la que el uso no autorizado de servicios de IA de terceros aumenta riesgos como la exfiltración de datos y los puntos ciegos operativos. Los profesionales destacan que conciliar las necesidades de datos de la IA con los principios de ciberseguridad suele obligar a asumir compromisos que llevan a las empresas a elegir entre una IA eficaz y una seguridad sólida.
• Deficiencias de cumplimiento: normativas como el RGPD y la Ley de IA de la UE exigen una supervisión centralizada y la rendición de cuentas, pero muchas organizaciones carecen de herramientas eficaces para agilizar el cumplimiento normativo de los sistemas de IA.
• IA en la sombra: el uso no supervisado o no autorizado de servicios de IA de terceros aumenta riesgos como la exfiltración de datos y los puntos ciegos operativos.
• Herramientas de seguridad fragmentadas: Muchas empresas dependen de herramientas inconexas o de procesos manuales, lo que genera ineficiencias y crea cuellos de botella.

La integración de las soluciones específicas de CalypsoAI en F5 ADSP aborda directamente estos retos y proporciona protección proactiva en tiempo real en todas las etapas, desde la fase piloto hasta la producción.

P: Kunal, ¿cuáles son las principales ventajas que pueden esperar los clientes de la incorporación de CalypsoAI a F5 ADSP?

Kunal Anand: Ofrece seguridad para la IA durante todo su ciclo de vida. Hay tres ventajas inmediatas:

• Refuerce los modelos antes de implementarlos. Piense en ello como un proceso continuo y automatizado de red teaming para su IA. CalypsoAI somete sus modelos a miles de prompts adversarios para detectar y corregir vulnerabilidades en cuestión de horas, no de semanas. Así, los equipos pueden implementar sistemas resilientes con mayor rapidez.
• Proteja la IA en tiempo de ejecución. No se trata de un escáner pasivo de registros, sino de un escudo en tiempo real situado en la ruta de datos que bloquea activamente las inyecciones de prompts, la exfiltración de datos y otros ataques sin comprometer el rendimiento. Evitamos la brecha de seguridad, no nos limitamos a informar de ella.
• Observabilidad unificada para la IA. Los sistemas de IA pueden parecer una caja negra y generar enormes puntos ciegos operativos. CalypsoAI supervisa cada instrucción, respuesta e interacción de datos en todo su entorno de IA. Esto transforma la ambigüedad en información clara, lo que permite a los equipos solucionar problemas, detectar desviaciones y mantener un registro completo del comportamiento de la IA, listo para auditorías. No se puede proteger lo que no se puede ver.

P: James, ¿qué hace que el enfoque de CalypsoAI sea transformador para las empresas?

James White: Nuestro enfoque es proactivo y continuo. Por ejemplo, durante el desarrollo, nuestras herramientas de Red Teaming simulan ataques adversarios para someter los sistemas de IA a pruebas de resistencia, garantizando que las vulnerabilidades se solucionen antes de su implementación. Tras la implementación, los sistemas de supervisión en directo y protección en tiempo de ejecución detectan y responden en tiempo real a comportamientos anómalos y ataques como la exfiltración de datos.

Este enfoque de seguridad por capas proporciona a las empresas las herramientas necesarias para protegerse frente a los riesgos desde la fase piloto hasta la producción, agilizar el cumplimiento normativo y acelerar de forma segura su innovación en IA. CalypsoAI es el referente consolidado del sector en seguridad de modelos de IA tras su implementación. Nuestras soluciones nos proporcionan información única para medir y comparar el grado de vulnerabilidad de los modelos de IA generativa y de IA agéntica más utilizados del mundo. Nuestro índice de seguridad CASI y nuestras clasificaciones de resistencia a la guerra agéntica sitúan a los 10 mejores modelos en cada una de estas áreas, lo que ayuda a las empresas a comprender mejor qué modelos implementar y los riesgos inherentes que conlleva su implementación.

P: Kunal, ¿por qué esta alianza supondrá un antes y un después para la seguridad de la IA empresarial?

Kunal Anand: El enfoque actual no funciona y las empresas lo saben. El mercado ofrece un conjunto fragmentado de herramientas especializadas de seguridad para la IA que resuelven el 10 % del problema, pero generan un 100 % más de carga operativa. Las empresas se ven obligadas a actuar como integradores de sistemas para su propia seguridad.

Esto supone un cambio radical porque se trata de una integración, no de un complemento. Estamos consolidando la pila tecnológica. Estamos integrando la seguridad de la IA en toda nuestra F5 ADSP. Se convierte en una capacidad nativa de la infraestructura, no en otro dispositivo más que gestionar. Y, al ser de F5, esa plataforma funciona dondequiera que la necesite: en hardware, software o SaaS, en cualquier nube. Una plataforma unificada siempre supera a una pila improvisada de soluciones puntuales. Ese es el cambio radical.

En un mundo en el que la IA ocupa un lugar central, proteger las operaciones de IA no es opcional: es fundamental. Con F5 y CalypsoAI unidos, las empresas disponen ahora de las herramientas, la gobernanza y el control que necesitan para innovar sin concesiones.

Sobre el autor

Kunal AnandDirector de Producto | F5

Kunal Anand dirige la organización de productos de F5 como director de Producto. Es responsable de la visión, la estrategia y la ejecución de los productos, y garantiza el desarrollo de soluciones innovadoras que resuelven retos críticos y ofrecen experiencias excepcionales a los clientes. En su anterior cargo como director de Tecnología e IA, Kunal definió la estrategia y la visión tecnológica y de inteligencia artificial de la empresa. Antes de incorporarse a F5, Kunal desempeñó simultáneamente los cargos de director de Tecnología y director de Seguridad de la Información en Imperva. Su trayectoria en Imperva comenzó en 2018 con la adquisición de Prevoty, una startup de seguridad de aplicaciones que cofundó en 2013. Antes de incorporarse a Prevoty, fue director de Tecnología en BBC Worldwide. Kunal cuenta con una amplia trayectoria en innovación y conocimientos técnicos, y ha ocupado puestos de liderazgo al frente de equipos de seguridad, datos, tecnología e ingeniería en Gravity, MySpace y el Laboratorio de Propulsión a Chorro de la NASA. Kunal cuenta con más de 15 años de experiencia en inteligencia artificial y aprendizaje automático, que abarca desde el entrenamiento de modelos y el uso de algoritmos basados en IA para mejorar productos hasta el diseño y la implementación de arquitecturas de IA. Kunal es graduado en Ciencias de la Computación por Babson College.

Más artículos de Kunal Anand