F5とIntelでAIモデルを導入、保護、最適化し、インテリジェントアプリを実現

F5エコシステム | 2024年5月06日

AIを活用したアプリは普及が進み、ユーザー数も大幅に増加しています。2023年のデータ分析によると、モバイルアプリの新規ダウンロード数が前年比でわずか1%の増加にとどまった一方、機能にAIを統合した上位20のアプリは平均11%の成長を記録しました。¹ しかし、こうしたアプリを支えるAIモデルを容易にデプロイし、セキュリティを確保することは、開発者やITチームにとって障壁となる可能性があります。

AIでよりスマートなアプリを実現

新世代のインテリジェントアプリでは、データ入力に基づくAI自動化が活用されています。たとえば、悪天候を監視する保険アプリなどです。また、機械学習を活用してユーザーエクスペリエンスを適応、改善する場合もあります。Gartnerは、パーソナライズされた適応型ユーザーインターフェースをAIで実現する新規アプリケーションの割合が、現在の5%未満から、2026年までに30%に増加すると予測しています。²

しかし、多くの組織では、必要なAIモデルを構築または利用するためのスキルが不足しています。世界経済フォーラムの調査によると、経営幹部は、AIと連携して効果的に働くために、全従業員の最大40%がリスキリングを必要とする可能性があると見積もっています。³これを受け、開発者が最小限のコードでAIモデルを活用できる新たなソリューションが登場しています。

AIモデルには多大なコンピューティング能力も必要となるため、制約が生じる可能性があります。AIモデルを入力ソースの近くに配置すると推論のレイテンシーを低減できますが、エッジロケーションでは、許容可能なAIパフォーマンスに必要なリソースが不足していることが少なくありません。

AIをより利用しやすく

開発者の使いやすさとリソースの最適化に対応するため、Intelは、フットプリントを抑え、「一度記述すれば、どこにでもデプロイできる」アプローチを提供しながらAI推論を高速化するオープンソースツールキット、OpenVINOを開発しました。プログラマーは、比較的少ないコード行数で、スケーラブルかつ効率的なAIソリューションを開発できます。また、OpenVINOはAIモデルを変換・最適化し、データセンター、クラウド、エッジで実行できるようにします。

OpenVINOにより、AI推論などの実環境でAIを利用しやすくなりますが、アプリケーションと同様にセキュリティ機能と配信機能が必要です。OpenVINO環境は、コンテナベースのモデルサーバー数百台から数千台で構成される場合があります。ユーザーやアプリケーションに推論結果を確実に提供するには、サーバーの健全性を監視し、トラフィックを管理する手段が必要です。F5 NGINX Plusは、OpenVINOモデルサーバーを保護できます。

F5 NGINX PlusによるAIモデルの保護

OpenVINOではオープンソース版のNGINXも使用できますが、NGINX Plusを使用すると、高可用性、アクティブヘルスチェック、受賞歴のあるサポートなどの有用な機能を追加できます。また、NGINX Plusは負荷分散とSSL終端も提供するため、アプリケーションとユーザーはOpenVINOモデルサーバーに信頼性とセキュリティを確保しながら接続できます。

可用性を向上させるため、NGINX Plusはアクティブ／パッシブ構成のペアとして導入できます。これにより、プライマリがトラフィックを処理し、バックアップが稼働状態を監視して問題発生時に処理を引き継ぐ、高可用性ソリューションを構築できます。コンテンツキャッシュとSSL終端により、OpenVINOモデルサーバーの負荷を軽減し、パフォーマンスを向上させます。

NGINX Plusのアクティブヘルスチェックはモデルサーバーを監視し、利用可能なサーバーにのみトラフィックが送信されるようにします。mTLS証明書を使用して受信する暗号化トラフィックの安全性を確保し、検証できます。また、分析機能とダッシュボードを活用して、サーバーの問題を予測したり、トラブルシューティングしたりできます。NGINX Plusは軽量で、インストール、デプロイ、デバッグに関する最高水準のサポートも提供されるため、AI搭載アプリケーションのニーズに容易に導入できます。