La IA está cambiando la economía tanto del software como de la seguridad.
Ahora los agentes pueden descubrir vulnerabilidades, escribir código, utilizar herramientas, llamar a API y actuar en toda la infraestructura a la velocidad de una máquina. Esto proporciona a los defensores nuevas y potentes capacidades. También significa que la seguridad de la IA ya no puede limitarse al modelo.
Por este motivo, F5 se unió a NVIDIA y a otros líderes del sector como miembro de la Open Secure AI Alliance. La alianza desarrolla y comparte tecnologías, técnicas y herramientas abiertas para ayudar a los equipos de defensa a proteger el software y los agentes en la era de la IA.
La seguridad necesita un nivel mínimo de aplicación
Un agente de IA no es simplemente un modelo de lenguaje. Es un sistema compuesto por modelos, instrucciones, identidad, permisos, memoria, herramientas, API, mecanismos de protección, registros y sistemas de evaluación. Cada capa es importante, pero el control más duradero es aquel que el agente no puede reescribir, eludir ni siquiera convencer.
“Ese es el principio de diseño que F5 aporta a la alianza: proteger la interacción, no solo la inteligencia que la sustenta. También tenemos la intención de contribuir con investigaciones abiertas, bancos de pruebas, herramientas y trabajos seleccionados de distintas áreas de nuestra organización.””
Considero que este es el nivel básico de aplicación de políticas: el punto en el que se evalúa una solicitud y se aplica la política fuera del control de quien la realiza. En el caso de los agentes de IA, ese nivel se sitúa cada vez más en la ruta entre el agente y los sistemas a los que puede acceder. La capacidad práctica de un agente viene determinada por los recursos que puede invocar, los datos a los que puede acceder y las acciones que puede realizar.
Este es un terreno conocido para F5.
Internet se volvió fiable no porque todos los puntos finales se comportaran correctamente, sino porque se implementaron controles críticos:
- Los balanceadores de carga gestionaban la disponibilidad
- Los cortafuegos aplicaban la política de red
- Los firewalls de aplicaciones web protegían las aplicaciones
Los agentes de IA dan lugar a la siguiente versión de este problema. El punto de control vuelve a desplazarse, esta vez hacia las conexiones entre usuarios, aplicaciones, API, agentes, herramientas y modelos.
Qué aporta F5
F5 lleva décadas operando en los puntos de control críticos del tráfico de aplicaciones y API. Durante los últimos dos años, hemos ampliado ese papel al ámbito de la IA.
La F5 AI Security Platform está diseñada para proteger y gobernar las aplicaciones, los modelos y los agentes de IA, así como las API que los conectan. Ofrecemos pruebas independientes del modelo y protección en tiempo de ejecución, visibilidad de las acciones de los agentes y las llamadas a herramientas, y opciones de despliegue en entornos de nube pública, nube privada, locales y aislados físicamente.
Esto es importante porque la mayoría de las empresas no se estandarizarán en torno a un único modelo o proveedor. Utilizarán distintos modelos para diferentes cargas de trabajo, perfiles de riesgo, regiones geográficas y estructuras de costes. Es probable que su cartera de modelos cambie más rápido que sus aplicaciones o su arquitectura de seguridad.
Por tanto, los controles de seguridad deben seguir siendo eficaces cuando se sustituya el modelo. Una política vinculada a un modelo concreto debe rehacerse cuando este cambie. En cambio, una política aplicada en todo el recorrido de la aplicación y la API puede implementarse de forma coherente en distintos modelos, proveedores y entornos de despliegue.
Ese es el principio de diseño que F5 aporta a la alianza: proteger la interacción, no solo la inteligencia que la sustenta. También tenemos la intención de aportar investigaciones abiertas, bancos de pruebas, herramientas y trabajos seleccionados de toda nuestra organización. Nuestro objetivo es ayudar a la comunidad de defensores.
De cara al futuro
El debate entre lo abierto y lo cerrado es demasiado limitado para la seguridad empresarial.
El resultado final será híbrido. Las empresas utilizarán modelos abiertos y cerrados, sistemas alojados y autogestionados, y modelos de propósito general y especializados. La verdadera cuestión es si podrán aplicar una postura de seguridad única a todos ellos, demostrarla ante clientes y organismos reguladores, y cambiar los modelos subyacentes sin tener que reconstruir los controles desde cero.
No se trata principalmente de qué modelo tiene el mayor potencial. Se trata de si el sistema cuenta con una base fiable.
F5 se unió a la Open Secure AI Alliance para ayudar a establecer abiertamente ese nivel mínimo de confianza. Para obtener más información, lea este blog.
Sobre el autor
Kunal Anand dirige la organización de productos de F5 como director de Producto. Es responsable de la visión, la estrategia y la ejecución de los productos, y garantiza el desarrollo de soluciones innovadoras que resuelven retos críticos y ofrecen experiencias excepcionales a los clientes. En su anterior cargo como director de Tecnología e IA, Kunal definió la estrategia y la visión tecnológica y de inteligencia artificial de la empresa. Antes de incorporarse a F5, Kunal desempeñó simultáneamente los cargos de director de Tecnología y director de Seguridad de la Información en Imperva. Su trayectoria en Imperva comenzó en 2018 con la adquisición de Prevoty, una startup de seguridad de aplicaciones que cofundó en 2013. Antes de incorporarse a Prevoty, fue director de Tecnología en BBC Worldwide. Kunal cuenta con una amplia trayectoria en innovación y conocimientos técnicos, y ha ocupado puestos de liderazgo al frente de equipos de seguridad, datos, tecnología e ingeniería en Gravity, MySpace y el Laboratorio de Propulsión a Chorro de la NASA. Kunal cuenta con más de 15 años de experiencia en inteligencia artificial y aprendizaje automático, que abarca desde el entrenamiento de modelos y el uso de algoritmos basados en IA para mejorar productos hasta el diseño y la implementación de arquitecturas de IA. Kunal es graduado en Ciencias de la Computación por Babson College.
Más artículos de Kunal AnandArtículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.