F5 colabora con AWS y Microsoft en un estudio de NSS Labs sobre pruebas de seguridad de la IA en tiempo de ejecución

Un nuevo estudio de NSS Labs establece el estándar para evaluar la seguridad de la IA y define una hoja de ruta para las empresas

SEATTLE – F5, líder mundial en la entrega y protección de todas las aplicaciones y API, en colaboración con Amazon Web Services (AWS) y Microsoft, ha anunciado hoy sus contribuciones a un informe técnico de referencia de NSS Labs centrado en Seguridad de la IA más allá del modelo: qué debe importar a las empresas y por qué. Esta iniciativa establece un marco integral para realizar pruebas adecuadas de la eficacia de las medidas de protección de la IA, lo que marca un momento decisivo en las mejores prácticas de seguridad y gobernanza de la IA.

El libro blanco tiene como objetivo proporcionar a las empresas orientaciones prácticas y basadas en situaciones reales para comprender y evaluar la seguridad y la rendición de cuentas de los sistemas de IA en entornos complejos y de alto riesgo.

A medida que la IA sigue transformando las operaciones empresariales, introduce riesgos sin precedentes y amplía las superficies de ataque, lo que expone a las organizaciones a amenazas operativas, legales y reputacionales. Este libro blanco aborda la necesidad urgente de contar con métodos estandarizados para evaluar eficazmente las soluciones de seguridad de la IA. Representa un enfoque pionero en el sector de la seguridad de la IA, que reúne a líderes de los ámbitos de la seguridad, la nube y la IA para afrontar uno de los retos más acuciantes a los que se enfrentan actualmente las empresas. El objetivo de este libro blanco es establecer claridad, estructura y responsabilidad en todo el sector en relación con las medidas de protección de la IA, garantizando que las empresas puedan adoptar la innovación en IA de forma segura y eficaz.

Recomendaciones clave

El libro blanco ofrece un marco práctico para que las empresas comprendan e implementen medidas de protección para la seguridad de la IA. Entre sus principales recomendaciones, el análisis destaca:

• Áreas de capacidades críticas: identificación de los componentes clave que las empresas deben evaluar, incluida la detección de amenazas en los datos de entrada, la gestión de la exfiltración de datos en los resultados y los controles de la IA agéntica.
• Marco para las pruebas de validación: proporciona un modelo para realizar pruebas independientes, adversariales y en condiciones reales de los controles de seguridad de la IA, a fin de garantizar su eficacia en entornos dinámicos.
• Gobernanza y resiliencia operativa: se destaca la importancia de alinear la gobernanza y reforzar la resiliencia para gestionar el estrés, los fallos y la degradación en los sistemas de IA.

NSS Labs: Estándares rigurosos para la evaluación de la ciberseguridad
«Nuestra investigación pone de relieve la importancia de la validación independiente de las medidas de protección de la IA», afirmó Ian Foo, director de Tecnología y vicepresidente ejecutivo de Producto de NSS Labs. «La IA está transformando las empresas de todo el mundo y, sin pruebas de validación rigurosas y reproducibles, las afirmaciones sobre seguridad no son más que promesas vacías. Creemos que este marco permitirá a las empresas tomar decisiones informadas y establecer nuevos estándares para la seguridad de la IA».

F5: Impulsando la seguridad de la IA mediante la experiencia en la entrega de aplicaciones
«Este esfuerzo colaborativo refleja la importancia crucial de reunir conocimientos especializados de distintos ámbitos del sector para abordar los complejos retos que plantea la protección de los sistemas de IA», afirmó Jeanette Hur, arquitecta de soluciones globales de F5. «En F5, aportamos décadas de experiencia en la entrega y la seguridad de aplicaciones en las capas 4 a 7 a esta colaboración con NSS Labs, AWS y Microsoft. Este marco permitirá a las organizaciones evaluar rigurosamente las medidas de protección de la IA, garantizando que las empresas puedan implementar innovaciones de IA con confianza y, al mismo tiempo, mantener la resiliencia, la seguridad y la rendición de cuentas en todos sus ecosistemas de aplicaciones».

Microsoft: La ética y la seguridad no son incompatibles con la IA
«En Microsoft, nos apasiona impulsar la IA de forma ética y segura», afirmó Zachary Riffle, arquitecto de seguridad de Microsoft. «Este libro blanco supone un paso adelante y esperamos sinceramente que proporcione a compradores de todos los tamaños las herramientas adecuadas y unas directrices independientes de los proveedores para proteger cualquier modelo o sistema de IA que utilicen, manteniendo al mismo tiempo la transparencia y la rendición de cuentas».

Comprender y proteger los sistemas de IA empresariales

Este libro blanco ofrece una hoja de ruta práctica para las empresas que se enfrentan a los desafíos de la seguridad de la IA, que evolucionan rápidamente. Al centrarse en lo que realmente importa —la eficacia en entornos reales, la validación independiente y una gobernanza sólida—, proporciona a las organizaciones los conocimientos necesarios para tomar decisiones más acertadas y fundamentadas al evaluar soluciones de seguridad para la IA.

Para las empresas que utilizan la IA, saber cómo protegerse frente a riesgos emergentes como la exfiltración de datos, la inyección de instrucciones y los fallos de gobernanza ya no es opcional. Este recurso ayuda a los equipos de seguridad a dejar de lado el ruido de las afirmaciones de los proveedores y les proporciona las herramientas necesarias para plantear las preguntas difíciles, evaluar las soluciones con rigor e implementar medidas de protección que garanticen que los sistemas de IA sigan siendo seguros y responsables.

Materiales de apoyo

• Informe técnico de NSS Labs: Seguridad de la IA más allá del modelo: qué debe preocupar a las empresas y por qué
• Blog: Estableciendo el estándar: por qué las pruebas de eficacia de las barreras de seguridad de la IA no pueden esperar

Acerca de F5

F5, Inc. (NASDAQ: FFIV) es el líder mundial en la entrega y protección de todo tipo de aplicaciones. Avalada por tres décadas de experiencia, F5 ha creado la plataforma líder del sector —F5 Application Delivery and Security Platform (ADSP)— para entregar y proteger cualquier aplicación y API, en cualquier lugar: en entornos locales, en la nube, en el extremo de la red y en entornos híbridos y multinube. F5 mantiene su compromiso con la innovación y la colaboración con las organizaciones más grandes y avanzadas del mundo para ofrecer experiencias digitales rápidas, disponibles y seguras. Juntos, nos ayudamos mutuamente a prosperar y hacemos realidad un mundo digital mejor.

Para obtener más información, visita f5.com
Consulta las investigaciones sobre amenazas de F5 Labs en f5.com/labs
Síguenos para obtener más información sobre F5, nuestros socios y nuestras tecnologías: Blog | LinkedIn | X | YouTube | Instagram | Facebook

F5 es una marca comercial, una marca de servicio o un nombre comercial de F5, Inc. en Estados Unidos y otros países. Todos los demás nombres de productos y empresas mencionados en el presente documento pueden ser marcas comerciales de sus respectivos propietarios.