BLOG

Puerta de enlace IA F5: Resolviendo los desafíos únicos de la seguridad y la entrega de IA

Miniatura de Lori MacVittie
Lori MacVittie
Publicado el 12 de noviembre de 2024

Durante el último año, hemos aprendido mucho sobre la IA generativa. En particular, hemos visto cómo se materializan las mejores prácticas para los patrones de implementación , cómo las fábricas de IA se convierten en un nuevo componente fundamental de los centros de datos y cómo cobran mayor importancia las preocupaciones sobre la entrega y la seguridad de los modelos y aplicações de IA. 

Si bien es cierto que las aplicações de IA son las “más modernas de las aplicações modernas” y dependen en gran medida de las API, también es cierto que aplicações desafíos únicos con respecto a la seguridad, la supervisión y la entrega. 

Un desafío importante se debe a la naturaleza no determinista de las aplicações de IA. Es decir, las entradas y las respuestas salientes varían mucho y evolucionan con el tiempo. Las aplicações de IA también pueden extraer datos de fuentes estructuradas y no estructuradas que pueden abarcar múltiples ubicaciones. De hecho, no fue una sorpresa cuando analizamos el mercado y encontramos una sólida combinación de planes de implementación de IA en nube pública, local e híbrida. 

El problema con la entrada y la salida no estructuradas e impredecibles es la dificultad inherente a determinar si una solicitud o respuesta contiene información sensible o incorrecta. Si bien la seguridad de API y los firewalls de aplicação web se utilizan a menudo precisamente para este propósito, operan con contenido determinista. Es decir, se entiende el formato y el contenido de las solicitudes y respuestas y por tanto es más fácil detectar contenido malicioso o sensible. Con la IA, aunque aprovecha las mismas estructuras que las API y las aplicações web, el contenido es muy variable, lo que dificulta la elaboración de políticas que escaneen o depuren solicitudes y respuestas.

En ese desafío hay implícito otro: El tráfico de IA debe monitorearse en ambas direcciones. Esto es particularmente cierto dado que un porcentaje significativo de organizaciones planean aprovechar la IA como servicio, como ChatGPT, Azure, Google o Hugging Face.   

La seguridad necesaria para proteger los modelos de IA

Es por esto que las soluciones de seguridad de aplicação y API existentes no son suficientes para proteger los modelos y aplicações de IA. La seguridad de la IA se suma a estos servicios existentes y ofrece capacidades adicionales y únicas necesarias para mantener a las empresas y a los clientes seguros, como protección contra inyección rápida, manipulación de modelos, alucinaciones y ataques impulsados por IA. 

Para gestionar y proteger los modelos y aplicações de IA, los servicios de seguridad y entrega de aplicação deben: 

  • Observar y registrar todas las solicitudes, respuestas y acciones administrativas para respaldar los requisitos legales y de cumplimiento. 
  • Proteja a las organizaciones y a los usuarios inspeccionando y actuando ante indicaciones y respuestas maliciosas, sensibles o inexactas.  
  • Acelere el rendimiento mediante políticas y controles de dirección de tráfico, incluida la prevención de ataque volumétrico . 

¿Por qué F5 AI Gateway?

Durante más de 20 años, F5 ha estado a la altura de los desafíos de entrega y seguridad que plantean los cambios en las arquitecturas de aplicação . La IA introduce una nueva arquitectura de aplicação que, al igual que sus predecesoras, requiere una evolución complementaria en la entrega y seguridad de las aplicação . F5 AI Gateway protege, acelera y observa las aplicações impulsadas por IA y es una progresión natural de la entrega y seguridad de aplicação para F5. 

Esa progresión incluye soporte para la realidad híbrida y multicloud de los parques de TI actuales, por lo que F5 AI Gateway se puede implementar por sí solo o integrarse con software, hardware o servicios de F5 existentes.  

Inicialmente, nuestro enfoque para F5 AI Gateway está en abordar las principales necesidades de entrega y los diez elementos principales de OWASP LLM relacionados con los desafíos de seguridad en tiempo real, y habrá más en el futuro.

Las capacidades adicionales, como los informes de una amplia gama de métricas a través de OpenTelemetry, la atención cuidadosa a los requisitos del registro de auditoría, el almacenamiento en caché semántico, la limitación de velocidad y el enrutamiento de modelos basado en contenido garantizan el soporte para los tres requisitos de seguridad y entrega de IA: observar , proteger y acelerar

F5 AI Gateway se centra en abordar las necesidades de entrega y los desafíos de seguridad en tiempo real identificados por el OWASP LLM Top Ten.
F5 AI Gateway se centra en abordar las necesidades de entrega y los desafíos de seguridad en tiempo real identificados por el OWASP LLM Top Ten.

Reconociendo que la IA está evolucionando rápidamente y que no hay dos empresas iguales, F5 AI Gateway permite además que las organizaciones se adapten a requisitos nuevos y personalizados con un ecosistema de complementos respaldado por un kit de desarrollo de software (SDK) para Python, Rust y Go.   

Protegemos cualquier aplicación y API, en cualquier lugar.

F5 se compromete a entregar y proteger todas las aplicação y API, en cualquier lugar. A medida que las aplicações evolucionan, eso significa evolucionar nuestra cartera para enfrentar desafíos nuevos y únicos. Cuando se trata de aplicações de IA, F5 AI Gateway proporciona lo que las organizaciones necesitan para entregarlas y protegerlas en cualquier lugar. 


Puede obtener más información sobre F5 AI Gateway aquí o comunicándose con su ejecutivo de cuenta de F5 o su socio tecnológico de F5.