Sentient.io、F5 Distributed Cloud ServicesでAIを民主化

シンガポールを拠点とするAIおよびデータプラットフォームプロバイダーのSentient.ioは、あらゆる規模の企業がAIを利用できる環境の普及に取り組んでいます。F5 Distributed Cloud Servicesは、Sentient.ioの分散した業務の効率化を支援し、運用コストを削減するとともに、エッジでのリアルタイムAI処理を可能にしました。

ビジネス上の課題

AIイノベーターとして歩んできたSentient.ioは、目覚ましい成功を収めています。革新的なAIソリューションによって多様な業界を支援するというビジョンの実現に向け、効果的な意思決定を後押しするリアルタイムのインサイトの提供を目指しています。同社のAIソリューションは、企業がAIの革新的な力を引き出せるよう支援し、さまざまな業界に変革をもたらしています。同社のSentient Marketplaceは、企業が既存のワークフローにAIを容易に統合できる革新的なAIサービスのハブです。Sentient Marketplaceにより、ASEAN諸国と日本のお客さまはAIの力を活用できます。

しかし、急速な成長と顧客基盤の拡大に伴い、マルチクラウド環境の複雑さや従来のクラウドネイティブ処理の限界など、複雑な課題がいくつも生じました。個々のクラウドプロバイダーが提供するソリューションには、複数のプロバイダーをまたいで運用する際に固有の課題があります。たとえば、各プロバイダーは独自のKubernetesディストリビューション（GKEやAKS）を提供しているため、それぞれのクラウド環境でこれらのプラットフォームを活用する必要がある組織にとって、大きな負担となる可能性があります。

さらに、顧客サイトへのAIモデルの導入プロセスが煩雑であることも、課題を深刻化させていました。モデルのダウンロード、各エッジサイト向けのオンプレミスKubernetes環境の構築、更新作業をすべて手動で行う方法は、時間がかかるだけでなくミスも発生しやすく、導入の遅延やモデル展開の不整合を招いていました。また、中央のSentient Marketplaceから顧客サイトへの新しいモデルの同期も大部分が手作業であったため、顧客サイト全体で運用上の非効率が増大していました。

Sentient.ioのAIアプリケーションが顧客の支持を集めるにつれ、オンプレミス、パブリッククラウド、プライベートクラウドにまたがる分散環境で、これらのサービスを運用・展開することの難しさが明らかになりました。その結果、運用の複雑さが増し、ワークフローのオーケストレーションとセキュリティポリシーに一貫性を欠くようになり、サービスの価値を実現するまでの期間が長期化しました。さらに、あらゆるクラウド環境でAIアプリケーションを安全に展開・配信できるソリューションを見つけられずにいました。

ソリューション

より合理的で効率的なアプローチの必要性を認識したSentient.ioは、F5と提携し、F5 Distributed Cloud Servicesを活用して、さまざまな業界のお客さまにターンキー型のエンタープライズグレードAI「as a service」ソリューションを提供することで、ビジネスにおけるAIの力を引き出しています。

F5 Distributed Cloud App Stackは、エッジでのリアルタイムデータ処理を実現するために、同社がプラットフォーム上で有効化した中核的なサービスです。Distributed Cloud App Stackにより、ローカライズされた推論データをアプリケーションのより近くに配信できるため、推論データの取得におけるインターネット接続やモバイル回線への依存を軽減できます。

Distributed Cloud App Stackによりアプリケーション環境が統合され、複数のKubernetesディストリビューションを管理する必要がなくなったほか、主要なAIサービスのデプロイと管理が効率化されました。この簡素化によって運用面で多くの改善が実現し、Sentient.ioはあらゆるクラウドプロバイダーにAIモデルを容易かつ効率的にデプロイできるようになりました。

Sentient.ioのCEO、Christopher Yeo氏は次のように述べています。「F5 Distributed Cloud App Stackにより、お客さまへのAIインフラストラクチャの提供方法が一変しました。エッジでデータを処理することでリアルタイムのインサイトを得られるようになり、データ量や場所を問わず、お客さまは情報に基づいて即座に意思決定できるようになりました。この変革によって当社のビジネスは大きく進化し、AIイノベーションの最前線に立つことができました」

今後、Sentient.ioは、LLMソリューションのセキュリティを確保するため、F5 Distributed Cloud Servicesの活用も検討しています。Yeo氏は次のように述べています。「F5を利用してきた経験から、F5 Distributed Cloud Web Application and API Protection（WAAP）を活用し、LLMサービスを包括的に保護するとともに、サービス拒否や機密情報の漏えいといったLLMの脅威を軽減できるという確信を得ました」

Sentient.ioはF5を活用し、革新的なAI/MLソリューションを求める企業の価値実現までの時間を短縮できます。

成果

統合PaaSプラットフォーム

F5 Distributed Cloud Servicesにより、複数のクラウド環境を管理する必要がなくなり、運用が簡素化され、効率が向上しました。これにより、Sentient.ioは俊敏性と拡張性を高めながら、複数のクラウドプロバイダーにAIモデルをデプロイできるようになりました。

エッジでリアルタイムのインサイトを獲得

このソリューションにより、Sentientの運用が効率化され、レイテンシが低減するとともに、エッジでのリアルタイムAI処理が可能になりました。エッジで推論を実行することで、地理的な場所に起因するネットワークと帯域幅の制約が解消され、推論結果をリアルタイムでアプリケーションに即時提供できます。このモデル展開方法への移行により、Sentient.ioは高性能なAIアプリケーションをお客さまに提供し、価値実現までの時間を短縮できるようになりました。

Distributed Cloud App StackにはGPU機能が組み込まれているため、Sentientが各推論サイトに追加のGPUリソースを導入する必要性を低減できます。

コスト削減とセキュリティ強化

運用をDistributed Cloud Platformに集約して効率化することで、リソース配分を最適化し、運用コスト全体を削減できました。また、プラットフォームにネイティブ統合されたアプリケーションおよびAPIセキュリティ機能とそのサポートにより、すべての推論アプリが保護されました。

この連携により、大幅なコスト削減も実現しました。複数のクラウドプラットフォームを管理するには専任チームが必要で、多額のリソースコストが発生していました。F5 Distributed Cloud Servicesの導入により、Sentientは運用を効率化し、リソースの最適化とアプリケーション管理の簡素化によってコストを削減するとともに、戦略的な取り組みに充てるリソースを確保しました。

Yeo氏は次のように述べています。「F5 Distributed Cloud Servicesは、AIを強力に支えるだけではありません。データセキュリティを実現するための、私たちの切り札でもあります。何より重要なのは信頼です。F5により、Sentient.ioはイノベーションを推進するだけでなく、データのプライバシーと完全性を強固に確保しています」

お客様事例をすべて見る