AI利用の実態を把握する:企業に可視性が必要な理由

業界動向 | 2025年1月06日

この2年間で、数億人もの人々がAI技術を導入する様子を目の当たりにしてきました。ChatGPTからGeminiまで、こうしたツールは、私を含む多くの専門家の日常業務に欠かせないものとなっています。エンジニアとして、新しいライブラリの理解、複雑なTypeScript宣言の読み解き、さまざまな技術に関するベストプラクティスの要約といった作業に大規模言語モデル(LLM)を活用することで、生産性が大きく向上することを実感しています。

StackOverflowが恋しくてたまりませんが、質問や依頼に不備や曖昧さがあっても、いつも正しい方向へ導いてくれる、意欲的で親しみやすいアシスタントを今では利用できることに魅力を感じずにはいられません。LLMは、まず尋ねられた質問への回答を試み、そのうえで補足説明や指針を加えるという大原則を、まるで魔法のように守っているように見えます。

AI導入における課題

以前はSurepathAIという名称だったF5 Workforce AI Securityでは、他のテクノロジーに精通した企業と同様に、さまざまなワークフローへAIを幅広く組み込んでいます。AIが何を正しく判断し、何を誤り、何について自信を持って誤った回答をするのかを、さらに深く理解したいと考えています。しかし、多くの企業は、自社ネットワーク内でAIがどこまで利用され、どのような影響を及ぼし得るのかを検討し始めたばかりです。IT担当者や管理者は、従業員がこうしたツールを使用していることは把握していても、実際にどのツールが使われているかまでは把握できていません。つまり、次の点について有意義な可視性が不足しています。

  • 誰が、どの程度の頻度で、どのような業務にAIを使用しているか
  • どのLLMとどのような情報を共有しているか
  • こうしたやり取りがもたらす潜在的なリスク

失敗しがちな一般的なアプローチ

この種のデータ漏えいに対する懸念を受け、多くの企業が最初に取る一般的な対応は、LLMに送信する内容に注意するよう従業員に丁寧に呼びかけるメモを作成し、機密情報や知的財産と見なされる情報、その他共有すべきでない情報を、配慮の行き届いた箇条書きで説明することです。

その対極では、AIのブラックボックス性を懸念し、まずは一切の利用を厳格に禁止するゼロトレランス方針を採用する企業もあります。

どちらのアプローチも、実際の利用パターンを十分に可視化できないため、うまくいきません。具体的なテレメトリがなければ、従業員がガイドラインを遵守しているか、生産性にどの程度の影響が及んでいるかを把握できません。従業員はガイドラインを無視したり誤解したりすることが多く、認識しているリスクよりもメリットの方が大きいと判断する場合もあります。AIとのやり取りは一見プライベートに思えるため、この問題はさらに深刻になります。ユーザーが気付かないうちに機密情報を共有してしまう可能性があるからです。リスクがほとんど、あるいはまったくないように感じられるため、個人的な情報や機密情報を安易に送信してしまいがちです。

可視性が重要な理由

過度に緩い、または厳しすぎるアプローチを取るのではなく、AIの利用状況を可視化することで、企業は十分な情報に基づき、実行可能な意思決定を行えるようになります。可視性が重要なのは、次のことが可能になるためです。

  • 社内の個々の従業員や各部門が利用しているAIサービスを把握し、リスクを評価する
  • 従業員とグループの定義、およびタスクの内容、アクション、意図を組み合わせたリスクプロファイルを生成
  • 機密データや知的財産が漏えいする可能性を特定し、その発生源を突き止める
  • 有益なユースケースと、より広範な導入機会を把握し、生産性に関するインサイトを獲得
  • 実際の利用パターンに基づいてポリシーを改善

旧称SurepathAIのF5 Workforce AI Securityでは、次の方法でこれを実現します。

  • エンタープライズネットワークとのシームレスな統合
  • 組織全体のAI利用状況に関する詳細なインサイトを提供
  • AIを利用している具体的なサービス、ユーザー、部門の特定
  • 個々のタスクの意図、内容、リスクを分析
  • 実際の利用状況と、一般公開されている数百のLLMおよびAIサービスのカタログに基づき、十分な根拠のあるリスクプロファイルを生成

その先へ――可視化を超えて

F5の公開サービスカタログを簡単に確認すると、ChatGPTやGeminiを含む10サービス中6サービスがユーザーデータを学習に使用し、10サービス中4サービスではモデレーションなしで利用できることがわかります。つまり、危険または悪意があると見なされるプロンプトを受け取った際に、モデルが応答するのを防ぐガードレールが組み込まれていません。

AIの利用規定を策定することは、優れた第一歩です。投資を進めて可視性を高めることで、以下の項目について十分な情報に基づいて判断し、セキュリティ態勢をさらに強化できます。

  • 従業員や部門ごとに、許可またはブロックするAIサービス
  • どの種類の機密データ、タスク、意図にリスクレベルを付与するか
  • 潜在的にリスクのあるやり取りを検出した場合の対応方法

そこで役立つのが、旧称SurepathAIのF5 Workforce AI Securityです。わずか約20分で企業ネットワークをF5のプラットフォームに接続し、社内におけるAIの利用状況をすぐに把握できます。利用されているサービスや利用者に加え、やり取りの内容まで確認できます。従業員のワークフローやアクセスを妨げることなく、価値ある情報を収集できます。現在のAI利用環境と潜在的なリスクを、業務に影響を与えずに把握する方法です。

全体的な機会とリスクの比較

「測定できないものは管理できない」という議論に対する立場にかかわらず、AIへのアクセスを遮断すれば大きな機会損失が生じ、従業員にAIとのやり取りを自己管理させる方法は効果が低く、時間もかかることは明らかです。

まず可視性を確保すれば、適切なポリシーを策定できます。

共有

著者について

Oliver Gould
Oliver Gouldシニアソフトウェア開発エンジニア | F5

Oliver Gouldのその他のブログ記事

関連するブログ記事

経営幹部が抱くAIに関する4つの誤解
業界動向 | 2026/09/09

経営幹部が抱くAIに関する4つの誤解

AIに関する誤解は数多くあります。ここでは、組織が自社環境にAIを導入する際に見直す必要があるかもしれない4つの誤解を紹介します。

IT/OTコンバージェンスの現状と、セキュリティを最優先すべき理由
業界動向 | 2026/04/29

IT/OTコンバージェンスの現状と、セキュリティを最優先すべき理由

ITシステムとOTシステムの融合が進むにつれ、攻撃対象領域は拡大します。組織が安全に統合する方法と、F5 ADSPが大規模な運用の保護にどのように役立つかをご紹介します。

AIのレイテンシ:セキュリティを犠牲にできない理由
業界動向 | 2026/04/17

AIのレイテンシ:セキュリティを犠牲にできない理由

AIのレイテンシは、単なる速度の問題ではありません。パフォーマンス、セキュリティ、信頼性のバランスを考慮したシステム設計が重要です。

AIアプリケーションを大規模に提供する:ADCの役割
業界動向 | 2026/02/03

AIアプリケーションを大規模に提供する:ADCの役割

AIアプリケーションを確実に提供するには、高速なモデルや柔軟に拡張できるインフラストラクチャだけでは不十分です。AIアプリケーションの利用方法を管理するための制御レイヤーが必要です。

MCP:AI対応のアプリケーションデリバリを実現する鍵
業界動向 | 2026/01/26

MCP:AI対応のアプリケーションデリバリを実現する鍵

Model Context Protocol(MCP)は、最新のアプリケーションにおける安全で低遅延なAI統合を可能にします。将来を見据えたアプリケーションデリバリ戦略にMCPが不可欠な理由をご覧ください。

AIガードレールとは?基盤モデルプロバイダーの枠を超えて進化する安全対策
業界動向 | 2026/01/06

AIガードレールとは?基盤モデルプロバイダーの枠を超えて進化する安全対策

急速に変化する組織の脅威領域におけるリスクをより包括的に捉えるために、AIガードレールの進化が必要な理由をご覧ください。