企業におけるLLMの導入：API経由でオンプレミスに展開

F5 ADSP | 2023年9月08日

GenAIモデル、特に大規模言語モデル（LLM）を、保護対策や追加のAIセキュリティプロトコルを導入せずに単独で企業全体に展開することは、どの組織にとっても高いリスクを伴う一方で、大きな成果が期待できる機会です。

しかし、GenAIの活用に向けたこの大きな一歩を具体的にどのように踏み出すべきかについては、慎重な計画が必要です。構成やインストールに関する問題を避けるため、Software as a Service（SaaS）の形態でプロバイダー経由でモデルを利用する方が、組織に適している場合があります。一方、組織のプライベートクラウドまたは自社ネットワーク（オンプレミス）にモデルを導入し、APIの構成と管理を組織側で制御できるようにする方が適している場合もあります。

この全3回のブログシリーズでは、「どのように？」という問いを取り上げます。投資収益率を最大化するには、組織全体にLLMをどのように導入すべきでしょうか。各ブログでは、一般的な導入フレームワークを1つずつ取り上げ、そのメリットとデメリットについて解説します。自社の組織体制や事業構造、具体的なビジネスニーズに照らして検討する際にお役立ていただけます。

APIの定義

アプリケーションプログラミングインターフェース（API）とは、端的に言えば、2つのデバイス間で情報を双方向にやり取りできるようにするデジタル接続です。APIソフトウェアは、デバイス間（たとえば、リクエストを行うクライアントデバイスとレスポンスを返すサーバーデバイス）で送受信する内容を特定する定義と、その情報の送信方法を定めるプロトコル（たとえば、受信側デバイスのURL/エンドポイントや、リクエストとレスポンスの両方で使用する必要がある構文、表現、言語）で構成されます。これによりエンドユーザーは、システムがどのように、またなぜ機能するのかを理解しなくても、たとえばアプリケーションにログインしてWebサイトで商品を購入したり、配車サービスを予約したり、LLMにクエリを送信して回答を受け取ったりできます。APIは監視してセキュリティを確保できるため、クライアントデバイス上のデータがサーバーデバイスに完全に公開されることはありません。

オンプレミスの定義

オンプレミスシステムとは、アプリケーション（この場合はLLM）が組織のインフラストラクチャ（サーバー）にインストールされ、組織のネットワークとそのアプリケーションへのアクセス権を持つすべてのユーザーが利用できるシステムを指します。一部のオンプレミスシステムは、インターネットへのオープンアクセスから隔離、つまり「エアギャップ」されていますが、安全な手段で接続することも可能です。

メリット

データセキュリティとコンプライアンス：自社サーバーでLLMをホストすることで、データと、内部および外部の脅威からデータを保護するセキュリティプロトコルを完全に管理できます。これは、医療機関や金融機関など、厳格なデータ保護規制の対象となる組織にとって特に重要です。

カスタマイズと制御：オンプレミス環境では、組織固有のタスクや要件などのニーズに合わせてLLMをカスタマイズし、APIを構成、管理できます。

低レイテンシ：オンプレミスのLLMは、多くの場合、より低いレイテンシを実現します。これは、即時翻訳、リアルタイム分析、チャットボットを利用したカスタマーサービス業務など、一部のリアルタイムアプリケーションにとって極めて重要です。

データ統合：LLMを既存のデータベースや社内システムと統合する際、データ転送時の安全性やセキュリティを懸念する必要がありません。

コスト管理と予測可能性：オンプレミスソリューションは初期導入費用が高額になる場合がありますが、値上がりする可能性のあるサードパーティー利用料、サブスクリプション料金、ホスティング料金などの継続的な費用がかからず、ベンダーロックインの問題もありません。そのため、長期的にはオンプレミスソリューションの方が経済的になる可能性があります。また、オンプレミスモデルでは、タスクの自動化や他の用途に合わせたモデルのファインチューニングをより効率的に進められるため、コスト削減につながるタスクだけでなく、収益創出につながるタスクも増やせます。

デメリット

高額な初期費用：オンプレミスLLMに必要なローカルのハードウェアとソフトウェアをセットアップし、設置スペースや電源を確保するには、多額の費用と時間がかかる場合があります。

メンテナンス要件：オンプレミスソリューションでは、ハードウェアの修理、ソフトウェアのアップデート、セキュリティ対策など、継続的なメンテナンスと運用上の負担が必要となり、多くのリソースを要する場合があります。

複雑さとスケーラビリティ： オンプレミスLLMのスケーリングは複雑でコストがかかる場合があります。スケールアップやスケールダウンをオンデマンドで行えないため、多くの場合、追加のハードウェア購入やアップグレードに伴うシステム停止が必要になります。

アクセス性の制限：オンプレミスソリューションは、別の場所から容易かつ安全にアクセスできない場合があり、リモートアクセスには仮想プライベートネットワーク（VPN）やその他のセキュアな通信経路が必要になることがあります。組織が重要な冗長構成を計画し、維持していない場合、気象災害などに起因するローカルシステムの障害によって接続性が損なわれる可能性があります。