AI時代を見据えたKubernetes接続
F5 NGINX Oneの一部であるNGINX Gateway Fabricは、組み込みのガバナンスとセキュリティを備え、アプリ、API、モデルを認識するルーティングを提供します。
AI対応のKubernetes接続を実現する設計
AIワークロード向けモデル認識型ルーティング
AI推論ワークロードは予測が困難です。プロンプトのサイズや必要な計算量が変動するため、従来のルーティングでは効率が低下します。静的な負荷分散では、バックエンドに過剰な負荷がかかったり、リソースを十分に活用できなかったりする可能性があります。NGINX Gateway Fabricはモデル対応ルーティングを実現し、モデルの種類、コストとパフォーマンスのプロファイル、ランタイムシグナルに基づいてトラフィックを振り分けることで、効率的かつスケーラブルなAI配信を可能にします。
- モデルとワークロードのタイプに基づくルーティング： モデルのタイプ、バージョン、その他のパラメーターに基づいてリクエストを振り分け、最適なバックエンドの選択とリソースの効率的な利用を実現します。
- 変動するAIワークロードに対応：変動するプロンプトサイズとコンピューティング需要に動的に適応し、一貫したパフォーマンスを維持しながら過負荷を回避します。
- パフォーマンスと効率を向上：キャッシュやキューの深さなどのリアルタイム指標に基づいて、リクエストを最適なバックエンドにルーティングし、レイテンシとスループットを最適化します。
NGFとF5 AI GuardrailsおよびF5 WAFの統合
- 高度なAI脅威緩和：受信トラフィックを検査してフィルタリングし、プロンプトインジェクション攻撃やジェイルブレイク攻撃がお客さまの大規模言語モデルに到達する前に、クラスターエッジで直接ブロックします。
- 機密データの保護：モデルの応答に含まれる個人を特定できる情報（PII）や知的財産の流出を防ぐため、厳格なアウトバウンドポリシーを適用します。
- 統合WAF保護： 開発者にとって使いやすいGitOpsワークフローを使用して、エンタープライズグレードのWeb Application Firewall（WAF）保護を適用し、ネイティブな脅威防御を実現します。
- 宣言型コンプライアンス：セキュリティチームはグローバルなコンプライアンスポリシーと保護ポリシーを作成でき、アプリケーションチームはKubernetesネイティブのカスタムリソースを介してそれらを安全にデプロイできます。
柔軟なトラフィック制御
従来のIngressはアノテーションに大きく依存しているため、設定が断片化し、管理が複雑になります。NGINX Gateway Fabricは、チームや環境をまたいで一貫性と再利用性のある宣言的なトラフィックポリシーを実現する、表現力に優れたKubernetesネイティブのCRDを提供します。
- アノテーションではなくCRDを使用：分散したアノテーションを構造化されたKubernetesネイティブAPIに置き換えることで、可読性と一貫性を高め、長期的な保守性を向上させます。
- 再利用可能なトラフィックポリシー：ルーティングポリシーとトラフィックポリシーを一度定義すれば、複数の環境で再利用できるため、重複や構成ドリフトを削減できます。
- 宣言型構成モデル：バージョン管理された宣言型リソースを使用し、Kubernetesのベストプラクティスに沿ってトラフィックを管理します。
プラットフォームチーム向けのロールベース制御
チームの規模が拡大するにつれて、共有インフラストラクチャの管理は複雑になり、エラーが発生しやすくなります。NGINX Gateway Fabricでは、プラットフォームとアプリケーションの責務を分離するロール指向のリソースを導入しています。これにより、一元的なガバナンスと制御を維持しながら、安全に権限を委譲できます。
- 役割の明確な分離：プラットフォームチームがインフラストラクチャとポリシーを定義し、開発者がアプリケーション固有のルーティングを安全に制御できるようにします。
- 安全なセルフサービスの実現：ガードレールの範囲内で各チームがサービスを自律的にデプロイ、管理できるようにし、ボトルネックとリスクを軽減します。
- 大規模環境でも一貫したガバナンス：個々のアプリケーションの柔軟性を維持しながら、複数のクラスターやチームに一元管理されたポリシーを適用します。
中断することなく、Ingressの先へ進化
NGINX Gateway Fabricは、将来を見据えたトラフィック管理モデルを提供します。これにより、チームは既存のIngressパターンと運用上の習熟を活かしながら、Kubernetesの接続性をモダナイズできます。
- 次世代のIngressモデル：最新のアプリケーションや変化し続けるワークロード向けに設計された、より柔軟で拡張性の高いトラフィック管理アプローチを導入できます。
- 最新のワークロードに対応： 高度なルーティング、ポリシー制御、スケーラビリティにより、アプリ、API、AIのユースケースをサポートします。
- 柔軟な導入：IngressとGateway APIを並行して運用できます。既存のIngressワークフローを中断することなく維持しながら、新しいアプリにはGateway APIを使用できます。
GatewayLink - BIG-IPをKubernetesに拡張
- 構成変更の頻発を解消：単一の極めて安定したNGINXエンドポイントを提供することで、動的なKubernetes Podで頻発するIP変更の影響が外部のBIG-IPハードウェアに及ばないようにします。
- NetOpsとDevOpsを橋渡し： NetOpsはBIG-IPエッジでセキュアな制御を維持しながら、DevOpsは内部アプリケーションのルーティングにおける俊敏性を最大限に確保できます。
- トラフィックフローの最適化：ネットワークエッジからKubernetesクラスター内部へのノースサウストラフィックを効率化し、レイテンシーを低減するとともに、マルチクラスターのルーティングアーキテクチャを簡素化します。
製品概要
効率的なKubernetesガバナンス
NGINX Gateway Fabricは、Gateway APIを使用して大規模なトラフィックを管理し、Kubernetes上のアプリケーションを配信します。プラットフォームチームがアクセスを制御し、アプリケーションチームがルーティングを定義できるため、クラスター内サービスへの安全で一貫した配信が可能になります。
NGINX Gateway Fabric製品ドキュメントコア機能
NGINX Gateway Fabricは、高度なルーティング、ポリシー制御、モデル対応のトラフィック管理を備えたGateway APIを提供します。さらに、NGINX Plusの機能により、可観測性、セキュリティ、信頼性が強化されます。
高度なL7ルーティング
ホスト、パス、ヘッダー、メソッドに基づいてトラフィックをルーティングします。
トラフィック分割
重み付けルーティングにより、カナリアリリースを実現します。
モデル対応ルーティング
モデルの種類、バージョン、またはコスト／パフォーマンスのプロファイルに基づいて、AIトラフィックをルーティングします。
ポリシーベースのガバナンス
再利用可能なトラフィックポリシーとセキュリティポリシーを適用します。
ロールベースのアクセス制御
プラットフォームレベルとアプリレベルの責任を分離します。
リアルタイムのオブザーバビリティ
メトリクスとリアルタイムのインサイトを活用して、トラフィックを監視します。
動的再構成
リロードせずにルーティングを即座に更新できます。
組み込みのセキュリティ制御
TLS、mTLS、認証ポリシーを適用します。
リソース
注目
NGINX Gateway FabricがGateway API Inference Extensionをサポート
NGINX Gateway Fabricは、Kubernetesでインテリジェントな推論対応ルーティングを実現するGateway APIのInference Extensionをサポートします
ブログを読む