The Global CISOポッドキャストシリーズへようこそ

F5エコシステム | 2025年8月28日

新しいポッドキャストシリーズ「The Global CISO: For defenders by defenders」をご紹介できることを大変うれしく思います。私は20年以上にわたりCISOを務め、現在はF5のField CISOを務めています。経験は最良の教師ですが、その代償は大きくなることがあります。そこで、CISOやCIOが、世界で驚異的な速さで進む技術変化により適切に対応し、将来の情報セキュリティ上の課題に備える方法について議論するため、このポッドキャストシリーズを開始します。

F5は、世界最大級の銀行、自動車メーカー、通信事業者をはじめ、170か国以上で23,000社を超える企業のお客さまを支援しています。私は昨年、約30万マイルを移動しながら、世界でも特に複雑な組織の数々と協働しました。このポッドキャストシリーズでは、そこで得た視点から、今日最も重要な情報セキュリティ、コンプライアンス、リスク管理のトレンドを考察します。何が有効で何が有効でないのか、そしてCISOやCIOがAI革命の力をどのように活用し、急速に変化する世界で成長していけるのかをお話しします。

今すぐ聴く

エピソード1：「API、AIセキュリティ、PQCを使いこなす」
エピソード2：「自動化を最優先に：API、オブザーバビリティ、ベンダーの説明責任に関するCTO向け実践ガイド」

第1回のエピソードから得られた主なポイントをご紹介します。

国家AIモデルにおけるイデオロギーに注意

AIのグローバルリーダーシップをめぐり、米国と中国は世界的な優位性とグローバルサウスにおける影響力を競っています。しかし、両国とも自国のAIスタックにイデオロギー上の制約を組み込んでいます。米国のAI Action Planは、地政学的なテーマを軸にモデルを構築しており、米国国立標準技術研究所（NIST）に対し、気候変動、DEI、誤情報などの項目をNISTのリスク管理フレームワークから削除するよう求めています。一方、オープンソース（実際にはオープンウェイト）として販売され、グローバルサウスで容易に利用できる中国の公式AIスタックは、社会主義の原則に忠実であり続けるよう構築されています。

これらのAIモデルと、それを推進するAIスタックに組み込まれたイデオロギー的要素が、いずれの採用も妨げる可能性があると考えます。たとえば、米国のAIモデルが気候変動に関するデータを取り込んでいない場合、保険業界のアクチュアリーは、財物・損害の評価や予測にそのモデルを利用したいと思うでしょうか。中国のAIモデルを金融市場の分析に使用する場合、社会主義の原則に従うことにどのような価値があるのでしょうか。多くのグローバル組織は、イデオロギー的な純粋性に偏ったAIモデルを避けたいと考えるでしょう。

米中間のAIをめぐるイデオロギー対立から恩恵を受ける可能性のあるダークホースとして、EUに注目すべきです。EUは必ずしも世界有数のAIイノベーターではありませんが、欧州のテクノロジー企業は優れた成果を上げており、フランスには世界屈指の数学者がいます。EUのAIアプローチは、イデオロギー的な偏りを避け、代わりにリスク管理、リスク受容、そして無責任と見なされる方法でAIを導入する企業への重い罰則に重点を置こうとしています。したがって、EUをまだ侮るべきではありません。

重要なポイント：テクノロジーリーダーは、採用するAIモデルとテクノロジースタックを慎重に検討する必要があります。こうした初期段階の決定は長期にわたる影響を及ぼし、移行時に高額なコストが発生する可能性があるためです。いずれにせよ、あらゆる分野でオープンモデルの導入を推進する動きは今後も続くと見込まれます。

不正行為の急増を見込む

OpenAIのCEOであるSam Altman氏は最近、壇上でAIシステムによる不正行為が急増していると語りました。これはF5での経験とも一致します。F5は以前から、自動化されたチューリングテストやCAPTCHAの問題の大半はすでに長い間意味をなしておらず、高度なボットに対しては特に効果が低いと指摘してきました。しかし、防御側は、ChatGPTエージェントがいとも簡単にCAPTCHAの制限を回避できることを目の当たりにし、不意を突かれたのではないでしょうか。

音声を悪用した詐欺も多発しています。AIエージェントは今や、非常に自然な現地のアクセントを使い、まるで近所に住んでいる人のように話します。ボイスメールやSMSを使ったフィッシング、ソーシャルエンジニアリング、ディープフェイク、そして人のだまされやすさにつけ込む、ますます巧妙なスパムメールを利用したAIによる詐欺は、約2,400%増加しています。

今後、AIを悪用した詐欺はさらに増えると予想されるため、備えが必要です。そこに金銭的な利益があり、犯罪者もその方向へ向かっているからです。

重要なポイント：AIによって不正行為が急速に高度化し、CAPTCHAのような従来の防御策はもはや通用しません。CISOは、音声、テキスト、ソーシャルメディアの各チャネルで巧妙さを増すAI利用型詐欺に対抗するため、従業員教育と、状況に適応するAI主導のセキュリティ戦略を優先する必要があります。

職務内容に「推論のセキュリティ確保」を追加

CISOはすでに多くの責任を担っています。データ、メール、アプリケーション、境界、エッジ、ネットワーク、デバイスの保護とセキュリティ確保に加え、今後は推論のセキュリティにも取り組む必要があります。

その理由は、推論が新たな攻撃対象領域となっているためです。現在、推論は事業、財務、コンプライアンス、評判に影響を及ぼす意思決定に直結しており、攻撃者はプロンプトインジェクションやモデル操作など、さまざまな攻撃を通じて推論エンジンを悪用できます。推論は新たな攻撃ベクトルであると同時に重要なビジネス機能でもあるため、CISOはAIを取り巻くインフラストラクチャだけでなく、AIによる意思決定そのものも保護しなければなりません。

推論を操作する新たな手法の1つが、「エコーチェンバー」攻撃です。これはプロンプトインジェクションの一種で、許可されていない生成を直接要求することなく、許可されていない応答を徐々に誘導する一連のプロンプトを作成します。複数ターンにわたる一連のプロンプトで小さな示唆を重ね、大規模言語モデル（LLM）をいわばガスライティングすることで、モデル自体にジェイルブレイクさせたり、制御を回避させたりする手法です。

こうしたエコーチェンバー攻撃の成功率は約80～90%です。では、推論のセキュリティ確保は今やCISOの役割なのでしょうか。そうでないとすれば、組織内の誰がその責任を担うのでしょうか。

重要なポイント：推論は、重大な新たな攻撃対象領域として浮上しており、CISOはAIによる意思決定そのものの保護まで責任範囲を広げる必要があります。私の考えでは、役職名に「Chief」と「Security」が含まれているなら、現時点でそう認識されているかどうかにかかわらず、いずれ自分の問題になります。今から取り組んでおくべきでしょう。

AI分野で中国が優位に立っているのか？

実際のところ、AIでは中国が優位に立っている可能性があると思います。ただし、それは何を基準に評価するかによります。私はアジアで多くの時間を過ごし、現地で暮らし、働く多くの人々と話をしてきました。中国は、AIを実際に有意義な形で活用するという点で、先行しているように思えます。中国には、これまでに開発された中で最大規模のモデルはないかもしれません。しかし、中国が持つモデルは実際に活用されており、サプライチェーンの問題解決や輸送ルートの変更など、現実世界で役立つさまざまな機能を担っています。

200京ものパラメーターを持つ最高のモデルを構築したいのであれば、それはそれでよいと思います。しかし現時点では、米国や欧州において、ドラッグレースに例えるなら、強大なパワーを生み出すことと、そのパワーを実際に路面へ伝えることの間に、かなり大きな隔たりがあるように思えます。

米国のAI Action Planでは、エネルギー開発とAIファクトリーおよびAIデータセンターの建設が最優先されています。この分野には投資家から巨額の資金が次々と投入されていますが、現実世界での価値創出には至っていないようです。AI導入の現段階でビジネス価値を生み出しているAIプログラムがいかに少ないかを示し、最近大きく報じられた調査に言及します。これは、新技術の導入における「幻滅期」の話へ自然につながります。

ここでの問題の一つは、米国が最大かつ最も強力なAIモデルを有しているからといって、それを有意義なビジネス成果につなげられているとは限らないことです。また、AI分野では競争優位性を守る参入障壁がほとんどありません。最大のモデルを持つことで得られる競争優位性には期限があり、永続するものではありません。

要点： 中国は、最大規模のモデルを構築するのではなく、現実の課題に迅速に適用することで、AI全般において優位に立つ可能性があります。一方、米国と欧州は、実用的な効果よりも規模を重視することで、後れを取るおそれがあります。また、中国は米国よりもはるかに大きな電力供給能力を有しており、米国がこの問題を短期間で解決することはできません。「掘って、掘って、掘りまくる」以外に選択肢はありません。それが持続可能でないことは誰もが承知していますが、これが世界的な競争状況の「論理」なのです。