企業におけるLLMの導入：プライベートクラウドでのAPI経由の導入

F5 ADSP | 2023年9月06日

専門的な保護対策やセキュリティプロトコルを導入せずに、生成AI（GenAI）モデル、特に大規模言語モデル（LLM）を全社規模で展開することは、どの組織にとっても大きなリスクを伴う一方で、大きな成果が期待できる機会です。GenAIの活用に向けてこの大きな一歩をどのように踏み出すべきか、慎重に計画する必要があります。

組織としては、構成やインストールに関する問題を避けるため、Software as a Service（SaaS）の形態でプロバイダーを通じてAIモデルを利用する方が適している場合があります。あるいは、組織のプライベートクラウドまたはオンプレミスにモデルを導入し、APIの構成と管理を組織内で制御できるようにする方が適している可能性もあります。

このブログシリーズでは、「どのように？」という問いを取り上げます。投資収益率を最大化するには、組織全体にLLMをどのように導入すべきでしょうか。各ブログでは、一般的な導入フレームワークを1つ取り上げ、そのメリットとデメリットについて解説します。自社の組織体制や事業構造、具体的なビジネスニーズに照らして検討する際にお役立てください。

クラウドとAPIの定義

「クラウド」という用語は広く使われている一方で、誤解されることも多いため、ここではその意味を明確にします。クラウドとは、世界各地の無数のデータセンターに設置された物理サーバーの巨大な集合体です。これらのリモートサーバーは、アプリケーションの実行、データの保存や管理、ソーシャルメディアなどのコンテンツ配信、ストリーミングサービスや専用ソフトウェアなどのサービス提供といった、ビジネスに不可欠なさまざまな機能を担います。それぞれ固有の機能を備えていますが、相互にネットワークで接続され、単一の相互依存型デジタルエコシステムの構成要素として動作します。これにより、個人や組織のユーザーは、インターネットに接続されたあらゆるデバイスからファイルやデータにアクセスできます。

一方、アプリケーションプログラミングインターフェース（API）とは、基本的に、2つのデバイス間で情報を相互に送受信できるようにする接続です。APIソフトウェアは、デバイス間で送信する内容を特定する定義（例：リクエストを行うクライアントデバイスと、レスポンスを返すサーバーデバイス）と、その情報の送信方法を定めるプロトコル（例：受信側デバイスのURL/エンドポイント、およびリクエストとレスポンスの両方で使用する必要がある構文/表現/言語）で構成されます。

これによりエンドユーザーは、システムの仕組みや動作する理由を理解していなくても、たとえばアプリケーションにログインしてWebサイトで商品を購入したり、ライドシェアを予約したり、LLMにクエリを送信して回答を受け取ったりできます。APIは監視および保護できるため、クライアントデバイス上のデータがサーバーデバイスに完全に公開されることはありません。

SaaSとクラウドベースのサービスの違い

本シリーズの第1回ブログでは、Software-as-a-Service（SaaS）のフレームワークを使用して企業全体にLLMを導入するメリットとデメリットを取り上げました。SaaSベースの導入モデルとクラウドベースの導入モデルには、多くの共通点があります。どちらも、自社のシステムでアプリケーションをホストするのではなく、クラウドを利用して必要なソフトウェアにアクセスするためです。ただし、両者を分ける重要な違いは、非常にシンプルな概念に集約できます。基本的に、SaaSでは、組織は「クラウド上」でホストされているサードパーティ製ソフトウェアアプリケーションへのアクセスと利用に対して料金を支払います。一方、クラウドコンピューティングでは、「クラウド上」に保存されている組織のデータのホスティングと、そのデータへのアクセスの提供をサードパーティに委託し、その対価を支払います。

メリット

迅速な導入：組織で利用できるようにLLMを構成するクラウドサービスは短期間でセットアップでき、モデルをすぐに使い始められます。

スケーラビリティ：クラウドにデプロイされたLLMは、手動操作なしで需要に応じて自動的にスケールするよう構成できます。

運用負荷の軽減：セットアップ、セキュリティ、メンテナンス、アップデート、システム最適化は通常、クラウドプロバイダーが担うため、ITチームやその他の担当者は別の業務に注力できます。アクセス性：クラウドベースのLLMは、インターネットに接続できる場所であれば、どこからでも任意のデバイスでアクセスできるため、出張中やリモート勤務中の担当者も柔軟に利用できます。

コスト効率：クラウドサービスプロバイダーは通常、使用したリソースの分だけ料金が発生する従量課金モデルを提供しています。これは、組織の需要が変動する場合に重要となる可能性があります。大規模なコンピューティングリソースやデータストレージ容量を組織で用意する必要はありません。

事前学習済みモデルとファインチューニング済みモデル：AIモデルは継続的にアップグレードされ、より大規模で高品質なデータセットを用いて学習されています。また、カスタムデータセット向けにファインチューニングすることも可能です。

本質的な冗長性：クラウド環境では、多層的な冗長化により、障害に伴うデータ損失のリスクが大幅に低減されます。

デメリット

レイテンシ：「リアルタイム」の定義は、クラウドサービスプロバイダーが運用するサーバーの場所、速度、処理能力によって異なります。応答時間のわずかな遅延は、環境によっては気付かれない場合もありますが、別の環境ではミッションクリティカルな業務に支障をきたす可能性があります。

継続的なコスト：クラウドコンピューティングには相応の予算が必要であり、モデルの大規模化と高速化が進むにつれて、コンピューティングおよびストレージリソースのコストも増加します。

ベンダーロックイン：単一のプロバイダーに依存することにはリスクが伴います。プロバイダーの物理セキュリティおよびサイバーセキュリティに対する体制やプロトコルに加え、利用規約やその他のポリシーの変更、値上げ、サービス終了なども重要な検討事項です。

まとめ

クラウドベースのサービスを利用して企業全体にLLMを導入するメリットがデメリットを上回るかどうかを判断するには、組織の財務・技術リソース、ビジネスニーズ、セキュリティ上の制約やその他の運用上の制約を慎重に検討する必要があります。これまでのブログでは、組織内外における体系的な保護策、AIガバナンスプログラム、およびその他の方法を通じて、組織にこうした革新的なツールを安全に導入する方法を取り上げてきました。テクノロジー領域の新たな道を進むうえで、これらの記事が参考になるかもしれません。