通信事業者はいかにして生成AIを次のレベルへ導くか

ここ18か月で、生成AI（GenAI）が世界を席巻しています。

ChatGPTやDALL-Eなどの新しいサービスは、ユーザーからの自然言語プロンプトに対応して、テキスト、画像、およびソフトウェアコードを生成できます。

新たな生産性のレベルが可能になり、Bloomberg Intelligenceによる最近の調査によると、2032年までにGenAI市場は1.3兆ドルにもなる可能性があります。

この技術の価値が明らかになった今、業界や地域に特化した大規模言語モデル（LLMs）の作成への動きが増えています。LLMは、膨大な量のデータでトレーニングされた統計言語モデルです。テキストやその他のコンテンツの生成や翻訳、自然言語処理のタスクを実行するために使用されます。LLMは、通常、ディープラーニングアーキテクチャに基づいています。

世界中の先駆的な通信事業者は、すでに専門のLLMの提供とセキュリティにおいて主要な役割を果たす準備を進めています。特に、企業、スタートアップ、大学、および自前で必要なコンピューティングインフラを構築できない公共機関からのエンドツーエンドのGenAIソリューションへの強い需要が見込まれています。

これは目を引くトレンドであり、適切なセキュリティ保護が施されれば、LLM-as-a-serviceソリューションは、医療、教育、交通などの主要セクター（通信も含む）のための特定のGenAIアプリケーションの開発にすぐに使用される可能性があります。

課題

では、すべてがうまくいくための次のステップは何であり、今後の主要な課題のいくつかは何でしょうか？ 非常にレスポンスが高く、高信頼性で常に利用可能である必要があるため、多くのLLMはおそらく複数のクラウドとネットワークエッジの場所に分散されるでしょう。

実際、適切なレイテンシを備えた場合、GenAIはユーザーがリアルタイムで「会話的」な応答を必要とするため、通信事業者のエッジ提案の一環として不可欠になるでしょう。

収益成長に苦労している通信事業者にとって、専門のGenAIシステムをサポートするエッジインフラを提供することは、重要な新市場になるかもしれません。Bloomberg Intelligenceによると、2032年までにLLMのトレーニングに使用されるGenAIインフラストラクチャサービス市場の価値は2470億ドルになると予想されています。

それでも、GenAIの大当たりを期待する人々は慎重に進む必要があります。

攻撃面積を増加させる可能性がある分散アーキテクチャは、データや個人を特定できる情報の漏洩を防ぐための堅牢でスケーラブルなセキュリティソリューションを要求します。悪質な行為者は、ますます多くの相互接続されたシステムを横断するために横断的な移動技術を使用しており、通信事業者は、サードパーティがLLM-as-a-serviceにアクセスするために使用するアプリとAPIの両方を保護する必要があります。この点で意識を高めるために、Open Source Foundation for Application Security（OWASP）は最近、LLMの展開と管理時に潜在的なセキュリティリスクについて開発者、デザイナー、アーキテクト、マネージャー、および組織に教育する新しいプロジェクトを開始しました。

確かなことは、通信事業者がこの市場で信頼性のあるプレーヤーになるためには、顧客信頼を維持する必要があるということです。GenAIシステムは、個人または商業的に機密性の高いデータを処理する必要があるため、多くの政府と規制当局が、これらのシステムが彼らの管轄区域内の計算能力で実行されるように希望しています。その一方で、企業は、知的財産を脅かす可能性のある機密データを共有することをためらい、そのため、プライベートLLMオファーを使用することを好みます。

注意すべき他の問題には、AIクラスターが仮想ユーザーコミュニティとして機能する方法が含まれます。これには、国や企業のプライベートリポジトリに存在するデータにアクセスするための高性能データパスが必要です。

さらに、AIがネットワークトラフィックとインフラに与える影響は、自己ホスト型AIアプリを持つ国や企業の計画によってますます影響を受けるでしょう。AIの幻覚、著作権、セキュリティおよび環境への影響に関する懸念から、多くの人々がデータに対するさらなるセキュリティと制御を求めています。さらに、GPUへの予想される負荷を緩和する新しい方法が必要となります。これらすべての考慮事項が、AIインフラストラクチャの全体的なTCOに影響を与えます。

通信事業者：複数の環境での柔軟でスケーラブルな保護

通信事業者はAI革命で主要な役割を果たすことができます。彼らは国家インフラを所有しており、既存のB2B提供を持ち、AI-as-a-serviceのプロバイダになる自然な選択肢です。

たとえば、F5はすでにヨーロッパの通信事業者に新しいGenAI提案のセキュリティを支援しています。この場合、お客様はNvidia DGX Super PODとNvidia AI Enterpriseテクノロジを使用して、最初のローカル言語でトレーニングされたLLMを開発しています。目標は、言語のニュアンスだけでなく、その文法、文脈、および文化的アイデンティティの特異性を捉えることです。

通信事業者は、複数のエッジサイト全体でソリューションを確実にするために、クラウドベースのサービスとして提供されるF5 Distributed Cloud Web Application and API Protection（WAAP）を活用します。彼らはまた、新しいAIプラットフォームの負荷分散を行うためにF5のADCクラスタを活用します。

重要なのは、F5のソリューションが、パブリッククラウドやマルチテナンシーデータセンターだけでなく、社内およびエッジインフラの両方で使用できることです。

さらに、F5 Distributed Cloud WAAPおよび関連するAPIセキュリティソリューションは、トラフィックが増加するにつれて迅速にスケーリングでき、LLM-as-a-serviceの提供コストを削減できます。 F5はまた、エンタープライズの顧客にサービスレベル契約を提供するために必要なトラフィックフロー、レイテンシ、および応答時間の可視化を提供します。

F5が役立つ別の方法は、LLM推論とAIタスクが多くのリソースを必要とすることです。これらのワークロードは、大規模なデータ交換を必要とし、しばしば安全なデータ交換が必要なため、スケーラブルで頑健なセキュリティソリューションが必要です。これにより、貴重なリソースの利用率が低下し、運用コストが増加し、望ましい結果に遅れが生じる可能性があります。

彼らがうまくカードをプレイし、スケーラブルで堅牢なセキュリティソリューションを賢く活用できる場合、通信事業者は業界や国に特化したLLMの信頼できるプロバイダになるために必要なすべてを持っています。成功すれば、これらの通信事業者は将来的に大きな競争上の優位性を得るでしょう。