F5は先日、AIセキュリティの新製品として、F5 AI GuardrailsとF5 AI Red Teamを発表しました。今回の発表は、消費者向けサービスの提供におけるAIの利用に対し、業界の規制当局が監視を強める重要な時期に行われました。
広く知られるEU AI ActのようにAIに特化した規制もありますが、多くの法域では、規制当局が既存の規制の枠組みを活用し、企業による責任あるAIの利用を確保しようとしています。そのため、AIに特化した規制がない法域でも、企業が自社のテクノロジースタックにAIのイノベーションを組み込んで運用するには、多くの場合、依然として大きなコンプライアンス上の負担が伴います。さらに、大規模言語モデル(LLM)を含む多くのモデルはブラックボックスとして動作するため、公平性、透明性、説明可能性に関するコンプライアンス義務を負う企業にとって、こうしたモデルの利用は一層困難になります。
F5 AI GuardrailsとAI Red Teamは、F5 Application Delivery and Security Platform (ADSP)に新たに加わった製品であり、堅牢なコンプライアンス制御を提供します。企業がAIモデルの入力と出力への理解を深め、その相関関係を把握し、バイアスを排除して、人間による監督を強化できるよう支援します。
これらはすべて数回のクリックで実行でき、得られたインサイトを能動的な防御策へと変えることで、モデルを組織のコンプライアンス上の義務と、責任ある倫理的なAI利用に関する社内基準に適合させ続けることができます。法的リスクや規制上のリスク要因によってAIの導入を控えている企業にとって、これは画期的な前進です。
あらゆるユースケースでAIモデルのリスク要因への対処を簡素化し、リスクを軽減
F5 AI Guardrailsの機能は、組織のAIガバナンス戦略の強化を支援するうえで重要な役割を果たします。AIが人々の生活に直接影響を与える場合、こうした戦略が不可欠です。例えば、融資申請の審査にAIを活用したい金融機関を考えてみましょう。人間の審査担当者なら承認したはずの融資をAIが却下した場合、金融機関はリスクにさらされる可能性があります。しかし、難しいのは、そもそもモデルがなぜ融資を却下するのかを理解するための優れたツールがほとんどないことです。利用前にモデルを十分にテストしていても、説明可能性が欠けていれば、規制当局の審査にも、組織独自の透明性要件にも対応できません。
“法的リスクや規制上のリスクを理由にAIの導入を見合わせている企業にとって、これは画期的な前進です。”
AIモデルの導入にあたり、組織はまず、モデルを徹底的にテストし、検証したいと考えます。機密情報の漏えい、バイアスの再現、企業が法的責任を問われかねない不公平な判断など、モデルが不適切な動作をしないことを確認するためです。
F5 AI Red Teamは、AIシステムの広範かつ戦略的なテストを提供します。システムに対する敵対的テストを大規模に自動実行し、明らかなものから見つけにくいものまで、挙動や脆弱性を特定することで、チームがあらゆるリスクを包括的に把握できるようにします。こうしたレッドチーミング機能を支えるのは、毎月10,000件を超える新たな攻撃プロンプトが追加される、業界をリードするデータベースです。企業は独自のテストを作成し、モデルの更新に伴って挙動の一貫性が維持されることを確認することもできます。こうした取り組みは、チームがモデルの期待どおりの動作を確認するとともに、データセキュリティ、脅威管理、ガバナンスの戦略に知見を反映して調整し、新たなリスクに先手を打つうえで役立ちます。
F5 AI Guardrailsを使用すると、プロンプトと応答の関連付け、主題に応じたプロンプト数に基づくアラートの設定、評価と修正に向けた重要なプロンプトの提起が可能になります。このソリューションは、AIガバナンスチームが必要とする、人による監督と記録管理のためのツールを提供します。
F5 AI Red Teamは、モデルが特定の挙動を示す理由を俯瞰的に把握できるとともに、ある推論を導くうえでプロンプト内のどの特徴量やトークンが最も大きく影響したかを説明するための詳細な情報も提供します。金融サービスの例に戻ると、企業はAI Red Teamの機能を使用して、融資申請に含まれるどのデータがモデルの推論や結果に最も大きな影響を与えたか、また、判断において具体的にどのデータソースに最も強く依存したかを特定できます。その結果、モデルの動作の仕組みを可視化し、重み付けが過大または過小な特徴量を特定し、追加の再学習やファインチューニングに向けたフィードバックを提供するためのデータが、より多く得られます。また、監査やコンプライアンスの取り組みを支援する文書も迅速に作成できます。
AI導入の障壁を取り除き、コンプライアンス対応を加速
シンプルさが、重要な差別化要因です。ポイント&クリックで操作できるこのソリューションは、独自の社内ツールを開発する必要をなくし、F5 ADSPの他の機能を補完することで、単なる基準への適合にとどまらない、迅速かつ柔軟なテスト、監視、微調整を実現します。組織は、規制による逆風に直面していても、消費者のプライバシーと公平性を自社サービスの基盤に据えながら、AIへの取り組みと複数の複雑なAIモデルの導入を加速できます。
AIの利用に関する明確な規制がまだ整備されていない環境でも、規制当局は既存の法的枠組みをAIのプロセスに適用するため、その解釈を見直している点に注意が必要です。再び金融サービスを例に挙げると、規制当局は現在、1970年に成立した公正信用報告法(FCRA)に照らして、企業によるAIの利用を評価しています。AI Guardrailsは、組織が現在の要件を満たすとともに、将来導入される可能性のある新たな規制に、より適切に備えられるよう支援します。
コンプライアンスと透明性を確保し、リスクを回避するAIの導入を加速
今回の買収とF5 ADSPの機能拡張により、組織はAIのブラックボックス問題を克服するために必要なものを手にし、規制当局にリスク管理態勢とデータガバナンスを示せるようになります。これまで高リスクと見なされていた、特に価値の高いAIユースケースの一部も、適切なガードレール、人による監視、説明可能性ツールを活用することで実現可能になります。F5は、包括的なプラットフォームと、あらゆる環境向けに設計されたシンプルなツールにより、こうした取り組みの実現を加速できるよう支援します。
詳しくは、以前のブログ記事をご覧ください。
著者について

関連するブログ記事

F5 Distributed Cloud CDN:アプリを高速化、ワンクリックで有効化、コストを削減
F5 Distributed Cloud CDNなら、既存のセキュリティポリシーを変更することなく、ワンクリックでアプリを高速化し、オリジンの負荷とエグレスコストを削減して、コンバージョンを向上できます。

F5 BIG-IP v21.1を先行紹介:AIセキュリティ、PQC、ソフトウェアの機能強化
F5のBIG-IP v21.1がAIセキュリティとPQC対応への準備をどのように実現するかをご紹介します。
新しいAI AssistantでGuardrailsを高度化し、セキュリティを強化
F5の新しいAI Assistantは、AI Guardrailのカスタムスキャナー機能に直接組み込まれています。この機能により、企業はGenAIを活用して、自社固有のユースケースや独自のリスクプロファイルに沿ったポリシーを作成し、標準搭載の保護機能を超える対策を実現できます。
EU AI Actへの準拠がより容易に
AIシステム全体でEU AI Act、特に最も重大な禁止事項を運用に落とし込むには、どうすればよいのでしょうか。GenAIを導入するチームにとって、Article 5の「禁止されるリスク」に関する規定への対応には特有の課題があります。操作的な行為、生体認証による監視、ソーシャルスコアリングなど、最も重大な違反の多くは、従来のセキュリティツールでは容易に検出できないためです。F5のAI […]
AIレッドチームに欠けているものと、その改善方法
レッドチーミングは長年にわたり、企業セキュリティの要となってきました。しかし生成AIに関しては、多くの組織が新たな脅威環境に旧来の手法を適用しています。静的なプロンプトテスト、単発の監査、CLIベースのツールでは明らかな不具合を発見できる場合もありますが、導入後の生成AIシステムの挙動が持つ現実世界の複雑さを捉えられることはほとんどありません。 […]
欧州連合の人工知能法
AIが国際ビジネスのあり方を変える中、欧州連合の人工知能法(EU AI Act)は、AI技術の進化における重要な節目となっています。27か国で法制化されたこの重要な規制枠組みは、AIの利用を予定するあらゆる企業や組織に影響を及ぼし、AIシステムのあり方を形作ることになります。[…]