精度向上への道：AIの過剰なフィルタリングが高くつく過ちである理由

F5 Newsroom Staff

組織が生成AI（GenAI）をワークフローに統合し始めると、AIモデルが生成するコンテンツに加え、この新しいテクノロジーの利用に伴う現実のリスクや潜在的なリスクに懸念を抱くのは当然です。一部のベンダーは、モデルへのプロンプトやモデルからの応答に少しでも問題がありそうな内容が含まれていれば、何でも徹底的にブロックするセキュリティツールを推奨することで、こうした懸念に対処しようとしています。しかし、実際のところ、これは非常に不適切なアプローチです。 

画一的で厳格な基準を満たさないコンテンツをすべてブロックするという考え方は、理論上は妥当に思えるかもしれません。しかし、実際には極めて非現実的であり、多くの場合、かえって悪影響を及ぼします。なぜなら、組織ごとに事情が異なるからです。ある企業が「リスクがある」または「容認できない」と判断するものでも、別の企業にとっては通常の業務で扱うコンテンツや価値あるデータ、重要な情報である可能性があります。従業員が何にアクセスし、何を利用できるかの判断をベンダーに委ねると、不必要な障壁や不満が生じます。

過剰なフィルタリングの問題点

たとえば、コンテンツフィルターの中には、アルゴリズムで文脈や正規表現（RegEx）を考慮せず、キーワードだけに着目するため、「奇妙」または「不適切」と判断したトピックをブロックするものがあります。その結果、有益な情報でも表現が不適切な場合や、まったく安全な内容でもサードパーティベンダーが設定した狭い基準に当てはまらない場合、AIプロンプトが不必要にブロックされます。これは、子どもが寝た後にPG-13指定の映画を見ようとしても、パスワードがわからずペアレンタルコントロールを解除できないようなものです。

困りますよね？ そのため、従業員のプロンプトがブロックされると、ITチームはベンダーに頭を下げ、フィルターの改修や制限緩和を依頼しなければなりません。しかし、こうしたツールの多くは調整を前提に設計されていないため、その場しのぎの回避策が必要になります。これが1日に何度も、あるいは週に何度も起きれば、場当たり的な対処でよくあるように、個々の修正が積み重なり、顧客企業にとってはるかに大きな問題になりかねません。たとえば、医療関連組織の従業員は、身体の部位に関するプロンプトを日常的に作成する可能性が高く、それは許容されるだけでなく、業務上必要です。そうした用語がブロックされれば、大きな問題になります。（一方、会計事務所の従業員が同じ用語をプロンプトに含めてブロックされた場合、フィルターは意図どおりに機能しています。）

ここで、プロンプトがブロックされるたびにベンダーへ連絡しなければならない状況が、ビジネスにどのような影響を及ぼすか考えてみましょう。ITリソースが予定していた業務から割かれ、担当者やプロジェクトに不要な遅延が生じます。重要な局面でプロジェクトが停滞し、生産性が低下する可能性もあります。さらに、当初の範囲に含まれていない変更をベンダーが行うのを待つ間に、その遅延が収益の損失につながることもあります。では、ベンダーは通常どのような対応を提案するのでしょうか。多くの場合、応急処置を検討する間、フィルターを完全に無効にしようとします。しかし、これはリスクを伴います。フィルターを解除すると、本来システムがブロックすべき不要なコンテンツがすべて通過してしまうためです。原因は、誤検知が多すぎることにあります。これはまさに、進歩を犠牲にして完璧を追い求める典型的な例です。

柔軟性と精度が重要な理由

企業ごとに、リスク許容度や文化、必要とする情報は異なります。それにもかかわらず、なぜサードパーティベンダーが一律のルールを課し、重要なデータへのアクセスを制限するのでしょうか。ましてや、事業の複雑な事情も、特定の情報を必要とする理由も把握していないベンダーが、チームに何を開示し、何を開示しないかを決める門番となるべきではありません。率直に言えば、それは単なる越権行為ではなく、業務上の自律性を侵害するものです。 

F5は、他社とは異なる、議論を呼ぶことさえある戦略を採用しています。 お客さまが精度を高められるよう支援します。過剰なフィルタリングで完璧を目指すのではなく、よりバランスの取れたアプローチを採用しています。F5のソリューションは、ほとんどの企業がシステムへの出入りを許可すべきでないと考えるコンテンツの80%を捕捉するよう設計されています。これが基本です。強力な保護を、最小限の負担で実現します。しかし、重要なのはここからです。残りの20%をどう扱うかは、お客さまが決定します。つまり、お客さま自身が固有のニーズ、ユースケース、リスク許容度に基づいて、何をブロックし、何をブロックしないかを定義できます。第三者による画一的なフィルターに縛られることも、個別の調整をベンダーに頼み込むこともありません。主導権はお客さまにあります。

お客さまのビジネスに合わせて最適化

組織ごとに状況は異なります。合併、買収、事業売却、あるいはプロジェクトの自然な進展に伴ってビジネスが変化すれば、コンテンツフィルターも変更する必要があります。F5 AI Guardrailsは、こうした柔軟性を提供します。カスタムスキャナーはいつでも作成、変更できます。新しい製品ラインに対応するためのフィルター更新、顧客基盤の拡大に応じた許可対象コンテンツの拡張、企業文化の変化に基づく制限の調整など、ビジネスの変化に合わせてプラットフォームも適応します。現在の実情を反映しない、固定された変更不能なフィルターに縛られる必要はありません。組織にとって何が最適かをベンダーに決めてもらう必要もありません。必要なのは、チームをリスクにさらしたり、価値あるデータを検閲したりすることなく、必要な情報を入手できるよう支援するソリューションです。

課題

そこで、皆さまに問いかけます。 一部のベンダーが「機能」として売り込む誇大な宣伝や制約に惑わされず、その実態を見極めてください。 柔軟性に欠ける過敏なフィルターが、取り組みの妨げになっています。代わりに、F5をお試しください。ニーズに合わせて独自のカスタムスキャナーを作成できます。F5のAIランタイムセキュリティソリューションは、検閲や過剰なブロックを行わず、ベンダーの承認を待つ必要もありません。必要なものを過不足なく得られるよう、お客さま自身で制御できます。これにより、直面する脅威に対応できる高度なセキュリティを実現できます。GenAIソリューションを自ら管理する準備が整ったら、F5が支援します。

著者について

F5 Newsroom Staff

F5 Newsroom Staffのその他のブログ記事