誰もが、金鉱ともいえる生成AIに殺到しています。少なくとも、表面的にはそう見えます。最近では、生成AIに何らかの形で触れていないプレスリリースが受信トレイに届くことは、ほとんどありません。
しかし、掘り下げてみると、現時点で生成AIが最も大きな影響を及ぼしているのはマーケティングだとすぐに気づきます。
今、目につくのは、手っ取り早く成果を得ようとする動きです。大がかりな開発や調査をせずに簡単に「後付け」できる機能は、強力接着剤で貼り付けるかのように組み込まれ、そのまま市場に投入されています。
テクノロジー、製造、医療のいずれの業界でも、ほとんどの企業はより慎重に取り組んでいます。あえて言うなら、より戦略的なアプローチです。これは私のブログなので、そう言ってもよいでしょう。
生成AIの利用方法をより慎重に検討すべき理由は、ExtraHopが最近実施した調査から認知度を判断する限り、広く知られています。最大の懸念は、信頼性とセキュリティの2つに大別されます。
生成AIの分野では、信頼性とは精度と信頼にほかなりません。コード、設定、コンテンツのいずれであっても、受け取る回答が正確かつ適切で、偏りに満ちたものではないと信頼できる必要があります。
セキュリティの領域では、従来からの懸念に加え、新たな懸念も生じています。今や、顧客や従業員のPIIが漏えいするだけでなく、企業秘密や知的財産が広く外部に流出することも懸念されています。
生成AIのリスクへの対処
信頼性に関する課題の解決には多大な労力がかかります。そのためには、（a）大規模なトレーニングとファインチューニング、または（b）生成AIをソリューションの一部としてのみ使用し、高度なプロンプトエンジニアリング手法を活用して生成AI自身の応答を検証するアーキテクチャアプローチが必要だからです。いずれにも時間と費用がかかるため、現時点では、生成AIソリューションが市場を形成するまでには至っていません。いずれそうなるでしょうが、時間がかかります。
セキュリティ上の課題への対処は、容易な面もあれば難しい面もあります。企業秘密や知的財産が漏えいするという課題を解決するには、（a）LLMの独自インスタンスを、それに伴うあらゆる作業も含めて導入・運用するか、（b）問題を回避できるようにアーキテクチャを設計する必要があります。つまり、LLMの生成機能を主要な情報源ではなくツールとして使用するGPTエージェントを開発するということです。
たとえば、収集したデータが戦略的に重要である可能性は、つい見落としがちです。私が市場動向の追跡に使用しているモデルは、一見すると無害に思えるかもしれません。しかし、F5が市場をどのように捉え、その市場でどのように競争しようとしているかが、かなり明らかになります。つまり、戦略的に重要な情報です。そのため、分析をパブリックLLMに任せるべきではありません。さらに、生成AIは表形式データの分析が非常に不得手です。本当に不得手なのです。こうした点を踏まえると、これは適切なユースケースとは言えません。
しかし、Pythonのデータ分析機能を活用するためにOpenAI functionsを利用すれば、決して悪い考えではありません。データをOpenAIに渡して分析させるだけでなく、GPTエージェントを構築する必要があるため、時間と開発工数はかかりますが、信頼性とセキュリティの両方の課題を解決できます。
顧客や従業員のPIIが誤って露出するケースについては、より容易な解決策であるデータマスキングがすでに登場しています。
生成AI向けデータマスキング
さて、データマスキングは、機密データを漏えいさせるリスクを伴わずに実データでテストできるため、開発での利用がすでに増えていました。しかし、データの漏えいを防ぐ手段として、生成AIにも同様に適用できます。統合を容易にするオープンソースのライブラリやツールも、すでに数多く提供されています。というのも、生成AIの多くはAPIを介して利用されており、APIへのリクエストは容易にインターセプトして機密データが含まれていないか検査できるためです。
データマスキングを使用して、生成AIのセキュリティに関する懸念に対処する方法は、開発環境と本番環境の両方で有効であり、アプリケーションのライフサイクル全体を通じて機密データが露出しないようにします。
生成AIが登場し、ほかのあらゆるテクノロジーから注目を奪う以前から、データマスキングの導入は確実に拡大していました。しかし、生成AIは、アプリケーション開発だけでなく、アプリケーションデリバリとセキュリティの領域においても、データマスキング機能の進化を促す可能性があります。
F5ソリューションがAIベースのアプリを支え、保護する仕組みを見る ›
著者について
Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。
Lori Mac Vittieのその他のブログ記事関連するブログ記事
SOAS 2025：足並みの乱れが凡庸さを招く
AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。
WebAssemblyが重要な理由
WebAssembly（Wasm）は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。
インフラストラクチャは依然として格好の攻撃経路
クラウドコンピューティングでは、APIやドラッグ＆ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。
堅牢なデータアーキテクチャがもたらす戦略的メリット
適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。
デジタルワークフローにおける不正検知には、データだけでは不十分
2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。