AIジャーニーにおける新たな制御ポイントの保護

Kunal Anand最高製品責任者 | F5

先日、取引の執行から大規模な分析まで、あらゆる業務の自動化に取り組んでいる金融サービス企業と話す機会がありました。その実現に向けて、同社は従業員数の5倍に相当する100,000のAIエージェントを導入する計画です。

こうした企業はほかにもあります。さまざまな業界の多くの企業が、業務効率の向上にAIを活用し始めています。

AI利用の急増は、組織が自社環境を保護する方法に大きな影響を及ぼすことになります。私は企業に対し、AIインフラストラクチャの一側面だけを保護すればよいわけではないと、たびたびお伝えしています。エンタープライズAIには新たなアーキテクチャが必要であり、それに伴い、エンドツーエンドのAIジャーニー全体にわたってインフラストラクチャとワークロードを保護する新たなセキュリティモデルも必要になります。

では、具体的にどこにセキュリティを適用すべきでしょうか。AIアーキテクチャをより適切に保護するには、AIの経路上に新たに生じるコントロールポイントのセキュリティを確保する必要があります。

この経路は、次のように考えると分かりやすくなります。まず、プロンプトがアプリケーションに到達します。これを「イングレス」と呼びます。そこからワークフローがコンテキストを構成し、内部APIを呼び出してエージェントを連携させます。こうして拡充されたプロンプトはモデルレイヤーに移り、推論によってトークンに変換されます。そのトークンから生成された結果がユーザーに返されます。

これが新たな価値のサプライチェーンです。ここでは、その各段階にある重要な制御ポイントのセキュリティ確保にF5がどのように貢献しているかをご紹介します。

すべての始まり：プロンプト

AIのジャーニーは、外部世界とAIシステムが最初に接するポイントであるプロンプトから始まります。プロンプトは、チャットインターフェースに入力されたユーザークエリ、API呼び出し、または機械によって生成されたイベントから送られる場合があります。プロンプト自体には、自然言語、構造化された指示やシステム指示が含まれるほか、写真、音声、動画が入力される場合もあります。

イングレス：プロンプトがシステムに入力される

プロンプトはイングレスレイヤーを通じてAIインフラストラクチャに入ります。イングレスレイヤーは、AIシステムの防御とトラフィック管理の最前線として、検査、ポリシー適用、サニタイズ、トラフィックルーティングを一元的に担います。

ここが最前線の入口です。そして今、その扉をたたくのは人間だけではありません。エンドポイントセキュリティや従来型WAFによる保護を回避し、データおよびアプリケーションのセキュリティシステムを標的とする、AIを活用した自動攻撃システムも含まれます。

AIを活用する攻撃者は、今や新たなペイロードをその場で生成できます。脅威アクターがリアルタイムで学習し、戦術を転換できるのであれば、防御側にも同様の対応が必要です。

そのためF5は、実際の攻撃から得られたリアルタイムデータで学習させた、ゼロから構築したニューラルネットワークを活用し、既存のシグネチャや静的なWAFルールに依存せずに脅威を検知して対応する、次世代のWAFソリューションを開発しています。新たな攻撃を特定して即座に対処できるAI機能を備え、リアルタイムで学習し適応する防御システムの構築を進めています。

社内テストでは、事前定義なしでゼロデイ攻撃を検出し、誤検知率が28%から1%に低下、初期状態での精度が64%から98%に向上するという顕著な結果が得られています。これは従来型のWAFではなく、根本的に異なるものです。この機能をF5 Distributed Cloud ServicesおよびF5 Application Delivery and Security Platform (ADSP)のその他の領域に導入します。

ワークフロー：プロンプトをアクションに変換

有用な出力を生成するため、通常、プロンプトには追加のコンテキストが付加されます。このコンテキストは、データソース、アプリケーション、エージェント、APIを接続するワークフローから得られます。一方、こうしたワークフローは、安全でない出力処理やデータ漏えいなど、重大なセキュリティ脆弱性ももたらします。さらに、システムが複雑で可観測性が限られているため、検出が困難な脅威も生じます。

新たな脅威が日々出現する中、組織には、あらゆる環境のAIワークフローを保護・管理し、シームレスに連携する多層防御によって、複雑なAI主導の攻撃から守ることが求められます。F5は、まさにそのためのソリューションを提供します。F5 AI Red Teamは、自動化された多段階の敵対的テストを提供し、F5 AI Guardrailsと連携して、AIシステムが定められた境界内で安全かつ責任ある形で動作できるようにします。これらのソリューションが弱点を特定すると、F5 AI Remediate が、優先順位付けされた敵対的テストの結果を、検証・最適化されたランタイム保護へと自動的に変換します。

相互に連携するこれらのソリューションがもたらす真の価値は、検出の迅速化だけではありません。脆弱性の発見から修正までの時間を短縮できることにあります。リスクの発見がリスクの軽減に直結することで、AIセキュリティのあり方が根本から変わります。

推論：トークンが価値を生む

拡張され、数値トークンに変換されたプロンプトは、学習済みモデルに送られます。そこでトークンは一連の確率計算によって処理され、分類や推論のタスク、確率の評価、予測が行われ、結果が生成されます。

トークンはAIの運用コストを表し、スループット、最初のトークンが生成されるまでの時間、トークン当たりのコスト、レイテンシ、ワット当たりのトークン数という5つの変数に左右されます。これらすべてにおいて、最終的な制約となるのはエネルギーです。AIインフラが最適化されていなければ、電力を浪費し、利益率を損なうことになります。AIにおいて、パフォーマンスは経済性に直結し、経済性は競争力の源泉となります。

そこでF5は、AIデータとワークロードを最小限のレイテンシと消費電力で処理・転送できるようにすることで、運用コストを削減し、AIファクトリーの効率的な拡張を促進して、これまでの常識を変える一助となります。消費電力の大きいネットワーキング、管理、セキュリティのタスクを高効率のDPUにオフロードすることで、F5とNVIDIAのテクノロジーを基盤とする最新のAIアーキテクチャでは、推論リクエストが多くのリソースを消費するGPUに到達する前に、最小限のレイテンシと消費電力でデータを前処理できます。

この共同ソリューションを導入した組織では、トークンスループットが最大40%向上し、最初のトークンが生成されるまでの時間が61%短縮され、応答時間が34%改善しています。これらは、The Tolly Groupによる独立したテストで検証されています。AIファクトリーには、単なる高速性だけでなく、プログラム可能でガバナンスを適用できることが必要だと理解することで、このような変革が実現します。

確信を持ってAIイニシアチブを推進

AIイノベーションには、堅牢で柔軟に適応できるアーキテクチャが不可欠です。新たな制御ポイントを把握して保護することで、組織はエンタープライズAIを大規模に展開しながら、安全性、速度、信頼性を高めることができます。

F5は、インターネットとクラウドの時代に、ITアーキテクチャ保護の取り組みを先導してきました。今、AIによってエンタープライズアーキテクチャが再び進化する中、F5 ADSPは、AI活用の全過程にわたって組織のデータ、モデル、システムの保護を支援するよう設計された統合プラットフォームを提供します。リアルタイムの脅威を学習して適応し、即座に対応できる防御機能を備えています。

詳細については、F5の「AIセキュリティソリューション」Webページをご覧ください。

著者について

Kunal Anand最高製品責任者 | F5

Kunal Anandは、最高製品責任者としてF5の製品部門を率いています。製品のビジョン、戦略、実行を統括し、重要な課題を解決して優れた顧客体験を生み出す画期的なソリューションの開発を推進しています。前職の最高技術・AI責任者としては、F5のテクノロジーおよびAIに関する戦略とビジョンを策定しました。 F5入社以前は、Impervaで最高技術責任者と最高情報セキュリティ責任者を兼任していました。2013年に共同創業したアプリケーションセキュリティのスタートアップPrevotyが2018年に買収されたことを機に、Impervaに加わりました。Prevoty以前は、BBC Worldwideでテクノロジーディレクターを務めました。イノベーションと技術分野で豊富な実績と専門知識を有し、Gravity、MySpace、NASA Jet Propulsion Labでは、セキュリティ、データ、テクノロジー、エンジニアリングの各チームを率いる役職を歴任しました。 AIと機械学習の分野で15年以上の経験を持ち、モデルのトレーニング、AIを活用したアルゴリズムによる製品強化、AIアーキテクチャの設計と実装に携わってきました。 Babson Collegeでコンピューターサイエンスの理学士号を取得しています。

Kunal Anandのその他のブログ記事