Conectividad de Kubernetes preparada para el futuro de la IA

Enrutamiento con reconocimiento del modelo para cargas de trabajo de IA

Las cargas de trabajo de inferencia de IA son impredecibles: las solicitudes varían en tamaño e intensidad de cómputo, lo que hace que el enrutamiento tradicional sea ineficiente. El balanceo de carga estático puede sobrecargar los backends o infrautilizar los recursos. NGINX Gateway Fabric permite un enrutamiento adaptado a los modelos, dirigiendo el tráfico en función del tipo de modelo, los perfiles de coste y rendimiento y las señales en tiempo de ejecución para ofrecer servicios de IA eficientes y escalables.

• Enrutamiento por modelo y tipo de carga de trabajo: Dirija las solicitudes en función del tipo de modelo, la versión u otros parámetros para garantizar una selección óptima del backend y un uso eficiente de los recursos.
• Gestionar cargas de trabajo de IA variables: Adaptarse dinámicamente a las fluctuaciones en el tamaño de los prompts y las necesidades de computación, evitando la sobrecarga y manteniendo un rendimiento constante.
• Mejore el rendimiento y la eficiencia: Optimice la latencia y el rendimiento enrutando las solicitudes a los backends más adecuados en función de métricas en tiempo real, como la profundidad de la caché y de la cola.
  

Integración de NGF con F5 AI Guardrails y F5 WAF

• Mitigación avanzada de amenazas de IA: Inspecciona y filtra el tráfico entrante para bloquear los ataques de inyección de instrucciones y jailbreak directamente en el perímetro del clúster, antes de que lleguen a sus modelos de lenguaje de gran tamaño.
• Protección de datos sensibles: Aplica políticas estrictas de salida para evitar la filtración de información de identificación personal (PII) y propiedad intelectual en las respuestas del modelo.
• Protección WAF integrada: Aplica protección de firewall de aplicaciones web (WAF) de nivel empresarial mediante flujos de trabajo GitOps fáciles de usar para los desarrolladores, lo que permite prevenir amenazas de forma nativa.
• Cumplimiento normativo declarativo: Permite a los equipos de seguridad crear políticas globales de cumplimiento normativo y protección, mientras que los equipos de aplicaciones las implementan de forma segura mediante recursos personalizados nativos de Kubernetes.

Control de tráfico expresivo

El ingress tradicional depende en gran medida de las anotaciones, lo que da lugar a configuraciones fragmentadas y difíciles de gestionar. NGINX Gateway Fabric incorpora CRD expresivos y nativos de Kubernetes que permiten aplicar políticas de tráfico coherentes, reutilizables y declarativas en distintos equipos y entornos.

• CRD en lugar de anotaciones: Sustituya las anotaciones dispersas por API estructuradas y nativas de Kubernetes que mejoran la legibilidad, la coherencia y la facilidad de mantenimiento a largo plazo.
• Políticas de tráfico reutilizables: Define las políticas de enrutamiento y tráfico una sola vez y reutilízalas en distintos entornos, reduciendo la duplicación y las desviaciones de configuración.
• Modelo de configuración declarativa: Gestione el tráfico mediante recursos declarativos con control de versiones que se ajustan a las prácticas recomendadas de Kubernetes.

Control basado en roles para equipos de plataforma

A medida que los equipos crecen, la gestión de la infraestructura compartida se vuelve compleja y propensa a errores. NGINX Gateway Fabric incorpora recursos orientados a roles que separan las responsabilidades de la plataforma y de las aplicaciones, lo que permite una delegación segura a la vez que mantiene una gobernanza y un control centralizados.

• Separación clara de funciones: Permite que los equipos de plataforma definan la infraestructura y las políticas, mientras que los desarrolladores controlan de forma segura el enrutamiento específico de cada aplicación.
• Habilitación segura del autoservicio: Permite a los equipos desplegar y gestionar servicios de forma independiente dentro de unos límites establecidos, reduciendo los cuellos de botella y los riesgos.
• Gobernanza coherente a escala: Aplique políticas centralizadas en todos los clústeres y equipos, manteniendo al mismo tiempo la flexibilidad de cada aplicación.

Evolucione más allá del ingress sin interrupciones

NGINX Gateway Fabric ofrece un modelo de gestión del tráfico orientado al futuro, que permite a los equipos modernizar la conectividad de Kubernetes aprovechando los patrones de ingress existentes y su experiencia operativa.

• Modelo de ingress de nueva generación: Adopte un enfoque más flexible y extensible para la gestión del tráfico, diseñado para aplicaciones modernas y cargas de trabajo en constante evolución.
• Diseñado para cargas de trabajo modernas: Compatible con aplicaciones, API y casos de uso de IA mediante enrutamiento avanzado, control de políticas y escalabilidad.
• Adopción flexible: Ejecute Ingress y Gateway API en paralelo: use Gateway API para las aplicaciones nuevas y mantenga los flujos de trabajo de Ingress existentes sin interrupciones.

GatewayLink: ampliación de BIG-IP a Kubernetes

• Elimina los cambios constantes de configuración: Protege el hardware BIG-IP externo frente a los cambios constantes de IP de los pods dinámicos de Kubernetes al proporcionar un único endpoint NGINX de gran estabilidad.
• Conecta NetOps y DevOps: NetOps mantiene un control seguro en el perímetro de BIG-IP, mientras que DevOps conserva una agilidad total para el enrutamiento interno de aplicaciones.
• Flujo de tráfico optimizado: Agiliza el tráfico norte-sur desde el perímetro de la red hasta el interior del clúster de Kubernetes, lo que reduce la latencia y simplifica las arquitecturas de enrutamiento multiclúster.

DESTACADO

NGINX Gateway Fabric es compatible con la extensión de inferencia de Gateway API

NGINX Gateway Fabric admite la extensión Inference para Gateway API, lo que permite un enrutamiento inteligente y adaptado a la inferencia en Kubernetes

Blogs

La alternativa a Ingress NGINX: F5 NGINX Ingress Controller a largo plazo ›

Novedades de F5 NGINX Gateway 2.3.0 ›

Guías comparativas

Compara NGINX One con NGINX Open Source ›

Fichas técnicas

F5 NGINX Gateway Fabric

Herramientas

Laboratorio de Aprendizaje Interactivo

Automatiza la migración de tu API Gateway