フロンティアAIでコードを保護：F5が構築したものと、そこから得た知見

Kunal Anand最高製品責任者 | F5

4月に、私は「従来のソフトウェアセキュリティモデルが機能しなくなった理由」について書きました。その記事では、問題点と原則を取り上げました。今回は、F5が自社のコードを保護するために行っている取り組みについてご紹介します。

約9か月前、F5はフロンティアAIモデルを活用し、自社のソースコードに脆弱性がないか体系的にスキャンする取り組みを開始しました。当初は、実際の本番環境規模のコードベースに対して、これらのモデルで何ができるかを探る初期的な試みでしたが、今ではF5の製品部門における最も重要な投資の1つとなっています。専用インフラストラクチャを構築し、全社からエンジニアリングリソースを集め、組織のあらゆるレベルで最優先事項として取り組んでいます。

Global Fortune 500企業の80%以上がF5を信頼しています。F5は、世界のアプリケーションデリバリーコントローラー（ADC）環境の半数以上を支えています。世界の大手銀行上位15行すべて、米国の大手商業銀行上位30行すべて、世界の大手保険会社上位10社すべて、世界の大手通信会社上位10社すべて、さらに米国の行政各省上位15機関すべてが、自社のインフラストラクチャでF5を運用しています。

組織が、ユーザーとアプリケーションの間、そしてエージェントとAPIの間という最も重要な経路にF5を配置しているからこそ、私たちは自らにより高い基準を課しています。

当初、モデルの性能は十分ではありませんでした。今では違います。

2025年秋にこの取り組みを始めた当時、利用可能だった最先端モデルには期待が持てたものの、限界もありました。表面的な問題は特定できましたが、複雑なコードベースを分析し、モジュール間のコンテキストを理解して、実際の脆弱性と誤検知を見分ける能力にはばらつきがありました。

誤検知率は高いものでした。非常に高いものでした。

多くのことを一から学ばなければなりませんでした。

• 効果的なハーネスの構築方法
• 実際のコードについて推論するために十分なコンテキストを提供するプロンプトの構成方法
• 大規模環境で有用な情報とノイズを分離できる検証パイプラインの構築方法
• あるモデルの出力を別のモデルへの入力として使用し、検出結果を確認または棄却する方法

F5に適用できる汎用的なプレイブックがなかったため、独自に構築する必要がありました。

これらのモデルの進歩の速さには目を見張るものがあります。Claude MythosやGPT CyberをはじめとするAnthropicとOpenAIの最先端モデルは、実在する脆弱性を発見し、それがどのように悪用され得るかを実証し、エンジニアによる修正を支援できるようになりました。場合によっては、ソースコードだけでなく、バイナリやコンパイル済みコードに対しても極めて高い性能を発揮します。昨秋には、まだ実現していなかったことです。

この進歩を実感しているのは、F5だけではありません。F5は、Project Glasswingに参加する組織を含め、世界最大級の組織と緊密に連携してきました。これらの組織は、最も重要な処理経路でF5を運用しており、F5と同じ変化に直面しています。

いくつかの点が明らかになりました。

• プレビュー版および研究用モデルは、非常に高い能力を備えています。AnthropicとOpenAIの最新モデルは、コンパイル済みコードを推論し、複雑な脆弱性チェーンを特定して、高度な概念実証を生成できます。
• モデルの進化は一定のペースではなく、加速しています。 新しい世代のモデルが登場するたびに、能力は飛躍的に向上します。最新モデルを自社のコードに適用していない組織は、後れを取っています。
• 当初のボトルネックはモデル自体ではなく、誤検知でした。 取り組みを始めた当初は、信号対雑音比が極めて低い状態でした。実際の問題とノイズを区別できるようシステムを学習させるため、検証ハーネスの構築、トリアージの自動化、フィードバックループに多大な投資が必要でした。その結果、誤検知率が低下し、エンジニアが対処すべき実際のセキュリティ上の問題や不具合を提示できるようになりました。
• フロンティアAIモデルが出力する脆弱性情報を保護し、適切に管理することは、セキュリティ上の優先事項です。モデルがリモートコード実行などの重大な脆弱性を発見した場合、その情報の取り扱い自体がセキュリティ運用となります。F5は、これを責任ある形で管理する方法について多くを学んできました。

これらすべてを踏まえると、私が繰り返し強調してきた点が改めて明確になります。脆弱性の発見に使用しているのと同じモデルが、いずれ攻撃者によって私たちへの攻撃に利用されることになります。ゲーム理論上、責任ある唯一の戦略は、攻撃者に先んじてフロンティアAIモデルを継続的に活用し、コードをスキャンして改善することです。

ツール、ハーネス、プロセスの構築

F5は、欠陥分析と脆弱性管理に対する根本的に異なるアプローチを実現する社内ツールを構築しました。

当社のコードベースは、C、C++、Python、Tcl、Java、Go、およびFPGA向けに記述された低レベルCで構成され、数千万行に及びます。調査対象の問題は、異なる形で相互作用する複数のモジュールにまたがり、長年にわたって本番環境で稼働してきたコードに潜んでいます。この広範な領域を対象に、言語や抽象化レイヤーを越えて推論できるハーネスを構築することは、技術的に大きな課題でした。

当社が開発したツールの1つは、プロバイダーを問わず、新しいモデルが利用可能になると取り込み、当社のコードベースに対して継続的に実行します。当社は最先端のAI研究機関と積極的に連携しており、プレビューモデルや研究用モデルを含む、極めて高度なモデルの一部を利用できます。このツールは、これらのモデルに加え、グラフ理論や静的構成分析などを活用します。また、公開されている脆弱性や弱点のデータセットを含む脅威インテリジェンスも取り込んでいます。

私たちが活用しているツールは、これだけではありません。F5の各チームは、特定の種類の欠陥をスキャンし、他の組織の成果を活用する追加ツールも構築しています。さらに、多くのフロンティアAIラボでは、基盤モデルの能力を最大限に引き出すよう設計された高性能なハーネスを備えています。

使用するツールにかかわらず、スキャンインフラストラクチャでは、以下のような厳格な複数ステップのプロセスに従います。

1. 取り込み。 主要なモジュールや言語にわたるコードベースをモデルに入力し、要約や抽象化された情報ではなく、実際の実装の詳細に基づいて推論できるようにします。
2. 分析。AIを活用した静的解析を実行し、バグ、リスクのあるパターン、不審なフローを検出します。たとえば、認証ロジックの不備、安全でない暗号化、メモリ安全性の問題などです。
3. 分類。 CWEマッピング、深刻度評価、ファイルおよび行の参照、悪用可能性に関するコンテキストなど、構造化された検出結果を抽出します。
4. 検証。第2のモデルが、検出結果をエンジニアリングパイプラインに送る前に確認し、重要度を引き下げるか、却下します。この段階で、誤検知の問題に対処します。当初、このステップは実質的に存在せず、膨大なノイズが発生していました。現在では、システムを構成する最も重要な要素の1つです。
5. 修正。 検証済みの検出事項は、優先順位に基づいて修正プロセスに送られます。修正内容は作成、テストされた後、リリースされます。

サイクルを重ねるたびにナレッジベースが蓄積され、次のサイクルをより迅速かつ高精度に進められるようになります。時間の経過とともに、コードベース自体の耐性も高まります。検出すべき問題が減るため、モデルが検出する問題も少なくなります。F5が投資しているのは、このような効果の積み重ねです。

F5のスキャンインフラストラクチャでは、厳格な複数ステップのプロセスを採用しています。

調査で判明したこと

ほぼすべての成熟したコードベースに存在する問題が見つかっています。具体的には、構成の強化が不十分な箇所、より厳格にすべきデフォルト設定、メモリ安全性の問題（バッファオーバーフロー、整数オーバーフロー）、競合状態、入力検証の不備などです。

これらはまさに、発見して修正したい問題です。AIモデルが複数の脆弱性をどのように連鎖させるかを推論できる時代において、こうした問題を体系的に排除することで、コードベース全体の悪用に対する耐性が大幅に高まります。これらはエクスプロイトチェーンを構成する要素であり、取り除くことでソフトウェアへの攻撃がより困難になります。

新たな習慣：スキャン、トリアージ、修正、テスト、リリースを繰り返す

この取り組みの最も重要な成果の1つは、エンジニアリング組織がこの数か月で培った運用力です。スキャンは、これまで存在しなかったエンドツーエンドの対応能力を構築するうえで、その一部にすぎません。

すべてのソフトウェアについて、四半期ごとのリリースサイクルから、より頻繁なセキュリティ強化版のリリースへと移行しています。これは運用面での大きな転換です。たとえば、BIG-IPエンジニアリングチームは厳格なプロセスを適用し、お客さまが使用しているすべての現行F5OSとTMOSの組み合わせをテストしています。組み合わせごとに専用のテスト環境が必要です。各リリースでは、厳格なブランチ管理、回帰テスト、長期稼働テストを実施します。また、アップグレードと再起動にかかる時間を記録し、バッファオーバーフロー、入力処理の強化、CVEなど、すべての修正を該当するリリースに紐付けています。

F5は長年にわたり、厳格なスキャンとテストを実施してきました。変わったのは、AIを活用してスキャン、トリアージ、修正、テスト、リリースを繰り返すサイクルです。

今後の展望

AIを活用したスキャンによって、より多くの脆弱性が明らかになるにつれ、今後もリリースが増える見込みです。これはソフトウェアの脆弱化ではなく、セキュリティ強化の表れです。堅牢化したリリースの公開後、判明した内容を開示します。

業界全体でパッチの提供頻度が高まるにつれ、お客さまは、あらゆるベンダーから提供される更新を、これまで以上に頻繁に適用する必要があります。F5は、その負担を増やすのではなく、軽減することに取り組んでいます。そのために不可欠なフリート管理、自動更新、アップグレードワークフローの簡素化に向けた取り組みを加速しています。

さらに、ランタイムセキュリティも進化し続ける必要があります。AIを活用した検知・対応機能は、既知のシグネチャに依存したり、パッチの提供を待ったりすることなく、脅威を特定して阻止するための重要な防御線となります。脅威を取り巻く状況に対応するため、F5はこれらの機能を開発しています。近日中に詳細をお知らせします。

9か月前、私たちはフロンティアAIモデルによって、自社コードの脆弱性を発見し、修正する方法を根本から変えられるかどうかの検証を始めました。その可能性は実証されています。モデルの性能は予想を上回り、運用能力も想定以上に高いことが分かりました。そして、その必要性はますます高まっています。

最も重要なインフラストラクチャをF5に託してくださる組織の信頼に応えるには、それ以外の選択肢はありません。

詳しくは、以前のブログ記事「パッチ適用の猶予期間は終わった。次なる時代に向けたF5の取り組み」をご覧ください。

著者について

Kunal Anand最高製品責任者 | F5

Kunal Anandは、最高製品責任者としてF5の製品部門を率いています。製品のビジョン、戦略、実行を統括し、重要な課題を解決して優れた顧客体験を生み出す画期的なソリューションの開発を推進しています。前職の最高技術・AI責任者としては、F5のテクノロジーおよびAIに関する戦略とビジョンを策定しました。 F5入社以前は、Impervaで最高技術責任者と最高情報セキュリティ責任者を兼任していました。2013年に共同創業したアプリケーションセキュリティのスタートアップPrevotyが2018年に買収されたことを機に、Impervaに加わりました。Prevoty以前は、BBC Worldwideでテクノロジーディレクターを務めました。イノベーションと技術分野で豊富な実績と専門知識を有し、Gravity、MySpace、NASA Jet Propulsion Labでは、セキュリティ、データ、テクノロジー、エンジニアリングの各チームを率いる役職を歴任しました。 AIと機械学習の分野で15年以上の経験を持ち、モデルのトレーニング、AIを活用したアルゴリズムによる製品強化、AIアーキテクチャの設計と実装に携わってきました。 Babson Collegeでコンピューターサイエンスの理学士号を取得しています。

Kunal Anandのその他のブログ記事