Durante el último año, hemos aprendido mucho sobre la IA generativa. En particular, hemos visto cómo se han consolidado las prácticas recomendadas para los patrones de despliegue, cómo las fábricas de IA se han convertido en un nuevo componente fundamental de los centros de datos y cómo las inquietudes sobre la distribución y la seguridad de los modelos y las aplicaciones de IA han pasado a un primer plano.
Si bien es cierto que las aplicaciones de IA son «las más modernas entre las aplicaciones modernas» y dependen en gran medida de las API, también es cierto que las aplicaciones de IA plantean retos únicos en materia de seguridad, supervisión y entrega.
Uno de los principales retos se debe a la naturaleza no determinista de las aplicaciones de IA. Es decir, los datos de entrada y las respuestas de salida varían considerablemente y evolucionan con el tiempo. Las aplicaciones de IA también pueden obtener datos de fuentes tanto estructuradas como no estructuradas, que pueden estar distribuidas en varias ubicaciones. De hecho, no fue ninguna sorpresa que, al analizar el mercado, encontráramos una sólida combinación de planes de implementación de IA en la nube pública, en entornos locales e híbridos.
El problema de las entradas y salidas no estructuradas e impredecibles radica en la dificultad de determinar si una solicitud o respuesta contiene información confidencial o incorrecta. Aunque la seguridad de las API y los cortafuegos de aplicaciones web suelen utilizarse precisamente para este fin, operan con contenido determinista. Es decir, se conocen el formato y el contenido de las solicitudes y respuestas, por lo que resulta más fácil detectar contenido malicioso o confidencial. En el caso de la IA, aunque utiliza las mismas estructuras que las API y las aplicaciones web, el contenido es muy variable, lo que dificulta la creación de políticas que analicen o depuren las solicitudes y respuestas.
Ese reto lleva implícito otro: el tráfico de IA debe supervisarse en ambas direcciones. Esto es especialmente importante dado que un porcentaje significativo de organizaciones tiene previsto utilizar la IA como servicio, a través de plataformas como ChatGPT, Azure, Google o Hugging Face.
La seguridad necesaria para proteger los modelos de IA
Por este motivo, las soluciones actuales de seguridad de API y aplicaciones no bastan para proteger los modelos y las aplicaciones de IA. La seguridad de la IA complementa estos servicios existentes y ofrece las capacidades adicionales y específicas necesarias para proteger a las empresas y a sus clientes, como la protección frente a la inyección de instrucciones, la manipulación de modelos, las alucinaciones y los ataques basados en IA.
Para gestionar y proteger los modelos y las aplicaciones de IA, los servicios de entrega y seguridad de aplicaciones deben:
- Supervisar y registrar todas las solicitudes, respuestas y acciones administrativas para cumplir los requisitos legales y normativos.
- Proteja a las organizaciones y a los usuarios mediante la inspección y la adopción de medidas ante instrucciones y respuestas maliciosas, sensibles o inexactas.
- Acelere el rendimiento mediante políticas y controles de direccionamiento del tráfico, incluida la prevención de ataques volumétricos.
¿Por qué F5 AI Gateway?
Durante más de 20 años, F5 ha respondido a los retos de entrega y seguridad derivados de los cambios en las arquitecturas de las aplicaciones. La IA introduce una nueva arquitectura de aplicaciones que, al igual que sus predecesoras, requiere una evolución paralela de la entrega y la seguridad de las aplicaciones. F5 AI Gateway protege, acelera y supervisa las aplicaciones basadas en IA, y constituye una evolución natural de la entrega y la seguridad de aplicaciones para F5.
Esta evolución incluye compatibilidad con la realidad híbrida y multinube de los entornos de TI actuales, por lo que F5 AI Gateway puede implementarse de forma independiente o integrarse con el software, el hardware o los servicios de F5 existentes.
Inicialmente, nuestro enfoque para F5 AI Gateway se centra en abordar las necesidades básicas de entrega y los diez principales riesgos de OWASP para los LLM relacionados con los retos de seguridad en tiempo real, y en el futuro se incorporarán más funciones.
Otras funcionalidades, como la generación de informes sobre una amplia variedad de métricas mediante OpenTelemetry, la atención minuciosa a los requisitos de los registros de auditoría, el almacenamiento en caché semántico, la limitación de solicitudes y el enrutamiento de modelos basado en el contenido, garantizan la compatibilidad con los tres requisitos de entrega y seguridad de la IA: observar, proteger y acelerar.
Dado que la IA evoluciona rápidamente y que no hay dos empresas iguales, F5 AI Gateway también permite a las organizaciones adaptarse a requisitos personalizados y nuevos mediante un ecosistema de complementos respaldado por un kit de desarrollo de software (SDK) para Python, Rust y Go.
Protección de cualquier aplicación y API, en cualquier lugar
F5 se compromete a ofrecer y proteger todas las aplicaciones y API, estén donde estén. A medida que evolucionan las aplicaciones, también debe hacerlo nuestra cartera para afrontar retos nuevos y específicos. En lo que respecta a las aplicaciones de IA, F5 AI Gateway proporciona a las organizaciones todo lo que necesitan para ofrecerlas y protegerlas estén donde estén.
Puede obtener más información sobre F5 AI Gateway aquí o poniéndose en contacto con su ejecutivo de cuenta de F5 o su socio tecnológico de F5.
Sobre el autor
Lori MacVittie es ingeniera distinguida y evangelista jefe en la Oficina del CTO de F5, y cuenta con una amplia experiencia en entrega de aplicaciones, estrategia de automatización e infraestructura. Es conocida por convertir la complejidad en claridad, ya sea definiendo mecanismos de protección para agentes de IA, analizando arquitecturas multinube frágiles o explorando los límites de los sistemas escalables. Aporta más de treinta años de experiencia en el sector en desarrollo de aplicaciones, arquitectura de TI y operaciones de redes y sistemas. Antes de incorporarse a F5, fue una galardonada editora de tecnología. MacVittie posee un máster en Informática y es una autora prolífica cuyas publicaciones abarcan la seguridad, la nube y la arquitectura empresarial. También es una apasionada de los juegos de mesa y los videojuegos, y expresa sin complejos sus firmes opiniones sobre el queso.
Más artículos de Lori Mac VittieArtículos relacionados del blog
Cree servicios públicos seguros, resilientes y preparados para la IA con F5 y AWS
Descubre cómo las organizaciones del sector público pueden modernizar de forma segura sus aplicaciones y soluciones de IA, al tiempo que gestionan los sistemas heredados, el cumplimiento normativo y el riesgo operativo.
Protección de los sistemas de IA: por qué la seguridad debe avanzar al ritmo de la innovación
Desde acelerar avances revolucionarios en medicina y educación hasta transformar la vida cotidiana, la IA está cambiando nuestra forma de vivir y trabajar. Pero también ofrece grandes oportunidades a los ciberdelincuentes.
Avanzar hacia la optimización digital tras la transformación
Descubre estrategias de optimización digital para garantizar políticas de seguridad coherentes, impulsar la madurez de la transformación digital y superar los retos de la transformación.
Proyecto de código abierto destacado: mayor observabilidad con F5 Cloud Logger iApp
En el punto de mira del código abierto: cómo aumentar la observabilidad. Lee el blog de F5 para descubrir cómo exportar fácilmente la telemetría de BIG-IP a plataformas modernas de análisis en la nube.
El estado de la entrega de aplicaciones en 2018: la transformación digital impulsa la automatización y la multinube pese a las preocupaciones de seguridad
Descubre las principales conclusiones del cuarto informe anual de F5 sobre el estado de la entrega de aplicaciones.
Estado de la entrega de aplicaciones en 2017: automatización, API y DevOps
Descubre el informe sobre el estado de la entrega de aplicaciones de 2017. Lee el blog retrospectivo de F5 sobre los inicios del auge de las redes declarativas y los flujos de DevOps.