Puerta de enlace IA F5: Resolviendo los desafíos únicos de la seguridad y la entrega de IA
Durante el último año, hemos aprendido mucho sobre la IA generativa. En particular, hemos visto cómo se materializan las mejores prácticas para los patrones de implementación , cómo las fábricas de IA se convierten en un nuevo componente fundamental de los centros de datos y cómo cobran mayor importancia las preocupaciones sobre la entrega y la seguridad de los modelos y aplicações de IA.
Si bien es cierto que las aplicações de IA son las “más modernas de las aplicações modernas” y dependen en gran medida de las API, también es cierto que aplicações desafíos únicos con respecto a la seguridad, la supervisión y la entrega.
Un desafío importante se debe a la naturaleza no determinista de las aplicações de IA. Es decir, las entradas y las respuestas salientes varían mucho y evolucionan con el tiempo. Las aplicações de IA también pueden extraer datos de fuentes estructuradas y no estructuradas que pueden abarcar múltiples ubicaciones. De hecho, no fue una sorpresa cuando analizamos el mercado y encontramos una sólida combinación de planes de implementación de IA en nube pública, local e híbrida.
El problema con la entrada y la salida no estructuradas e impredecibles es la dificultad inherente a determinar si una solicitud o respuesta contiene información sensible o incorrecta. Si bien la seguridad de API y los firewalls de aplicação web se utilizan a menudo precisamente para este propósito, operan con contenido determinista. Es decir, se entiende el formato y el contenido de las solicitudes y respuestas y por tanto es más fácil detectar contenido malicioso o sensible. Con la IA, aunque aprovecha las mismas estructuras que las API y las aplicações web, el contenido es muy variable, lo que dificulta la elaboración de políticas que escaneen o depuren solicitudes y respuestas.
En ese desafío hay implícito otro: El tráfico de IA debe monitorearse en ambas direcciones. Esto es particularmente cierto dado que un porcentaje significativo de organizaciones planean aprovechar la IA como servicio, como ChatGPT, Azure, Google o Hugging Face.
La seguridad necesaria para proteger los modelos de IA
Es por esto que las soluciones de seguridad de aplicação y API existentes no son suficientes para proteger los modelos y aplicações de IA. La seguridad de la IA se suma a estos servicios existentes y ofrece capacidades adicionales y únicas necesarias para mantener a las empresas y a los clientes seguros, como protección contra inyección rápida, manipulación de modelos, alucinaciones y ataques impulsados por IA.
Para gestionar y proteger los modelos y aplicações de IA, los servicios de seguridad y entrega de aplicação deben:
- Observar y registrar todas las solicitudes, respuestas y acciones administrativas para respaldar los requisitos legales y de cumplimiento.
- Proteja a las organizaciones y a los usuarios inspeccionando y actuando ante indicaciones y respuestas maliciosas, sensibles o inexactas.
- Acelere el rendimiento mediante políticas y controles de dirección de tráfico, incluida la prevención de ataque volumétrico .
¿Por qué F5 AI Gateway?
Durante más de 20 años, F5 ha estado a la altura de los desafíos de entrega y seguridad que plantean los cambios en las arquitecturas de aplicação . La IA introduce una nueva arquitectura de aplicação que, al igual que sus predecesoras, requiere una evolución complementaria en la entrega y seguridad de las aplicação . F5 AI Gateway protege, acelera y observa las aplicações impulsadas por IA y es una progresión natural de la entrega y seguridad de aplicação para F5.
Esa progresión incluye soporte para la realidad híbrida y multicloud de los parques de TI actuales, por lo que F5 AI Gateway se puede implementar por sí solo o integrarse con software, hardware o servicios de F5 existentes.
Inicialmente, nuestro enfoque para F5 AI Gateway está en abordar las principales necesidades de entrega y los diez elementos principales de OWASP LLM relacionados con los desafíos de seguridad en tiempo real, y habrá más en el futuro.
Las capacidades adicionales, como los informes de una amplia gama de métricas a través de OpenTelemetry, la atención cuidadosa a los requisitos del registro de auditoría, el almacenamiento en caché semántico, la limitación de velocidad y el enrutamiento de modelos basado en contenido garantizan el soporte para los tres requisitos de seguridad y entrega de IA: observar , proteger y acelerar .
Reconociendo que la IA está evolucionando rápidamente y que no hay dos empresas iguales, F5 AI Gateway permite además que las organizaciones se adapten a requisitos nuevos y personalizados con un ecosistema de complementos respaldado por un kit de desarrollo de software (SDK) para Python, Rust y Go.
Protegemos cualquier aplicación y API, en cualquier lugar.
F5 se compromete a entregar y proteger todas las aplicação y API, en cualquier lugar. A medida que las aplicações evolucionan, eso significa evolucionar nuestra cartera para enfrentar desafíos nuevos y únicos. Cuando se trata de aplicações de IA, F5 AI Gateway proporciona lo que las organizaciones necesitan para entregarlas y protegerlas en cualquier lugar.
Puede obtener más información sobre F5 AI Gateway aquí o comunicándose con su ejecutivo de cuenta de F5 o su socio tecnológico de F5.