F5 AI GuardrailsとF5 Red Teamで責任あるAIを大規模に展開

Tom Johnsonグローバル製品・プライバシー担当法務顧問 | F5

F5は先ごろ、2つの新しいAIセキュリティ製品、F5 AI GuardrailsとF5 AI Red Teamを発表しました。消費者向けサービスへのAI活用に対する業界規制当局の監視が強まる中、今回の発表は極めて重要なタイミングで行われました。

広く知られているEU AI Actなど、AIに特化した規制も一部存在しますが、多くの法域では、企業によるAIの責任ある利用を確保するため、規制当局が既存の規制枠組みを適用しています。そのため、AIに特化した規制がない法域であっても、企業が自社のテクノロジースタックでAIイノベーションを実用化する際には、多くの場合、厳しいコンプライアンス要件への対応が求められます。さらに、大規模言語モデル（LLM）を含む多くのモデルはブラックボックスとして動作するため、公平性、透明性、説明可能性に関する企業のコンプライアンス義務を踏まえると、こうしたモデルの利用は一層困難になります。

F5 AI Guardrails and AI Red Team, the newest additions to the F5 Application Delivery and Security Platform (ADSP)に新たに加わったF5 AI GuardrailsとAI Red Teamは、堅牢なコンプライアンス制御を追加し、企業によるAIモデルの入力と出力の把握と関連付け、バイアスの排除、人による監督の強化を支援します。

これらはすべて数回のクリックで実行でき、得られたインサイトを実効性のある防御策へと変換します。これにより、モデルを組織のコンプライアンス義務や、責任ある倫理的なAI利用に関する社内基準に適合させ続けることができます。法的または規制上のリスク要因からAIの導入を見送っている企業にとって、これは画期的な前進です。

あらゆるユースケースでAIモデルのリスク要因を簡素に管理し、軽減

F5 AI Guardrailsの機能は、組織のAIガバナンス戦略の強化に大きく貢献します。AIが人々の生活に直接影響を及ぼす場合、この戦略は極めて重要です。たとえば、AIを活用して融資申請を処理したい金融機関を考えてみましょう。人間の審査担当者なら承認していた融資をAIが却下すると、金融機関はリスクにさらされる可能性があります。しかし、そもそもモデルが融資を却下する理由を把握するための有効なツールはほとんどありません。使用前にモデルを徹底的にテストしても、説明可能性が欠如していれば、規制上の審査を通過できず、透明性に関する組織独自の要件も満たせません。

AIモデルの導入当初、組織はモデルを徹底的にテストして検証し、機密情報の漏えい、バイアスの再現、企業が法的責任を問われかねない不公正な判断など、モデルが制御不能な動作をしないことを確認する必要があります。

F5 AI Red Teamは、AIシステムを広範かつ戦略的にテストします。大規模な自動敵対的テストによって、明白なものから見つけにくいものまで、システムの挙動や脆弱性を特定し、チームがあらゆるリスクを包括的に把握できるようにします。こうしたレッドチーミング機能は、毎月10,000件を超える新たな攻撃プロンプトが追加される業界有数のデータベースを基盤としています。企業は独自のテストを作成し、モデルの更新後も一貫した挙動を維持できるようにすることも可能です。これにより、チームはモデルが想定どおりに動作することを確認できるほか、新たなリスクに先手を打てるよう、データセキュリティ、脅威管理、ガバナンスの各戦略に必要な情報を反映し、適応させることができます。

F5 AI Guardrailsを使用すると、プロンプトとレスポンスを関連付け、主題に応じて一定数のプロンプトが発生した場合のアラートを設定し、重大なプロンプトを評価および修正の対象として提示できます。このソリューションは、AIガバナンスチームに必要な人による監督と記録管理のためのツールを提供します。

F5 AI Red Teamは、モデルが特定の挙動を示す理由を俯瞰的に把握できるだけでなく、特定の推論を導くうえで、プロンプト内のどの特徴量やトークンが最も大きな影響を与えたかを説明するのに役立つ詳細な分析も提供します。金融サービスの例に戻ると、企業はAI Red Teamの機能を使用して、ローン申請内のどのデータがモデルの推論や結果に最も大きな影響を与えたか、また意思決定においてどのデータソースに最も大きく依存したかを特定できます。その結果、組織はモデルの仕組みを把握するためのデータポイントを増やし、重み付けが過剰または不十分な特徴量を特定して、追加の再トレーニングやファインチューニングに向けたフィードバックを提供できます。また、監査やコンプライアンスへの取り組みを支援する文書も迅速に作成できます。

AI導入の障壁を取り除き、コンプライアンス対応を加速

シンプルさが大きな差別化要因です。このポイント＆クリック型ソリューションにより、独自の社内ツールを作成する必要がなくなります。また、F5 ADSPの他の機能を補完し、単なる標準への準拠にとどまらない、俊敏なテスト、監視、微調整を実現します。規制上の逆風に直面する中でも、複数の複雑なAIモデルの導入とAI施策を加速し、消費者のプライバシーと公平性を自社サービスの基盤として確立できます。

重要なのは、AIの利用に関する明確な規制がまだ整備されていない環境でも、規制当局が既存の法的枠組みを新たな文脈で捉え直し、AIプロセスに適用している点です。金融サービスを再び例に挙げると、規制当局は現在、1970年に制定された公正信用報告法（FCRA）に照らして、企業によるAIの利用を評価しています。AI Guardrailsは、組織が現時点の要件を満たすのを支援するとともに、将来導入される可能性のある新たな規制に、より適切に対応できる体制づくりを支援します。

コンプライアンス、透明性、リスク回避を重視したAIを迅速に実現

今回の買収とF5 ADSPの機能拡張により、組織はAIのブラックボックス問題を克服するために必要な手段を得るとともに、リスク管理体制とデータガバナンスを規制当局に示せるようになります。これまで高リスクと見なされていた、特に価値の高いAIユースケースの一部も、適切なガードレール、人による監視、説明可能性を確保するツールを活用することで実装できるようになります。F5は、あらゆる環境向けに設計された包括的なプラットフォームとシンプルなツールにより、組織がこうした体制をより迅速に整えられるよう支援します。

詳細については、以前の「ブログ記事」をご覧ください。

著者について

Tom Johnsonグローバル製品・プライバシー担当法務顧問 | F5

Tom Johnsonのその他のブログ記事