エビデンスに基づくAIセキュリティ：Gartner SRMでご紹介する内容

Nirav Shah製品・ソリューションマーケティング担当シニアバイスプレジデント | F5

今年のGartner Security & Risk Management Summit（SRM）で皆さまにご紹介する内容を、心から楽しみにしています。

AIの進化は非常に速く、追随するのは容易ではありません。しかし、セキュリティにおいて後れを取ることは許されません。攻撃者はAIを活用して攻撃を加速させ、より巧妙に探索し、かつてないスピードと規模で脆弱性を悪用しています。最新のバズワードや、裏付けのないベンダーの約束だけでは、このギャップを埋めることはできません。

F5は、まさにこの課題の解決に向けて取り組んできました。

今、この瞬間がこれまでと異なる理由

CISOがもはや問うているのは、AIのセキュリティを確保する必要があるかどうかではありません。自社のセキュリティ対策が実際に機能していることを、どう確認できるかです。これはより難しい問いであり、AIセキュリティ業界には、顧客に対してこの問いへの答えを示し始めることが求められます。

AIセキュリティは、プロンプトインジェクションのような新たな脅威をどの程度効果的に防止できていますか？

独立した第三者テスト機関であるSecureIQLabと協力し、F5 AI Guardrailsが実際の攻撃にどの程度対応できるかをテストしました。OpenAIモデルに20,000件の攻撃を仕掛け、どの程度保護できたかを検証しました。

結果：F5 AI Guardrailsは、直接プロンプトインジェクションに対して99.3%、過剰なエージェンシーに対して98.7%、機密データの漏えいに対して99.0%の有効性を示しました。

その有効性を示す一例として、モデルが単独で敵対的攻撃と特定できたのは、攻撃全体のわずか13%でした。この結果は、企業のユースケースを保護するうえで、追加のガードレールがいかに重要であるかを示しています。

このような独立した第三者機関による検証結果を公開したAIセキュリティベンダーは、当社が初めてです。他社もこれに続くことを期待しています。

Gartnerでご紹介する内容

Gartner Security & Risk Management Summitでは、F5が組織のAIセキュリティ確保を支援する3つの実践的なステップをご紹介します。理論や机上の演習ではなく、本番環境で機能する実践的な保護策について解説します。

1. イノベーションを妨げることなくリスクを軽減する、基盤となるガードレールを導入
2. 特定のユースケースとリスク定義に合わせて、カスタム保護を調整する
3. 継続的にテストし、脅威の進化に合わせて防御も進化させる

規制遵守やデータプライバシーに対する統制を維持しながら、エンタープライズAIを導入する必要があったグローバル金融機関の事例をご紹介します。このお客さまがどのように実現したのかをご説明します。

今後の展開

現在提供している機能に加え、F5のAIセキュリティが目指す方向性をいち早くご紹介します。それは、組織が把握していないAIを検出し、ガバナンスを適用することです。企業環境全体でAIエージェントが急増する中、先行できるのは、自社環境で稼働するすべてのモデルとエージェントを検出し、その動作を把握したうえで、自社のリスク基準に照らして管理できる組織です。この機能は今後提供予定であり、6月1日のGartner SRMでご紹介します。

ぜひお立ち寄りください

Gartner SRMにご参加の方は、6月1日米国東部時間12:00から開催されるセッション「F5：3つのステップでAIを保護」でお会いできれば幸いです。こちらからご登録ください。

AIシステムの本番環境への移行に伴うセキュリティ確保にお悩みで、F5との対面でのご相談をご希望の場合は、こちらからご予約ください。

また、ぜひブース729にお立ち寄りいただき、その効果を直接お確かめください。

著者について

Nirav Shah製品・ソリューションマーケティング担当シニアバイスプレジデント | F5

Nirav Shahは、F5のシニアバイスプレジデント兼製品・ソリューションマーケティング責任者として、Application SecurityとAI Securityの戦略的方向性を統括しています。F5入社前はFortinetに11年間在籍し、複数のリーダー職を歴任しました。なかでも、AI-Powered SASE、SOC、Secure Networkingソリューションの責任者を務めました。また、Cisco Systemsでも要職を担い、SD-WANに関する主要な取り組みを主導しました。サイバーセキュリティ分野で20年以上の経験を持ち、市場を定義する製品の立ち上げや、製品開発と営業・マーケティングを連携させて最大限の成果を生み出す高パフォーマンスチームの構築において、確かな実績を築いています。ソートリーダーでありUSCの卒業生でもあるShahは、業界カンファレンスに頻繁に登壇し、AIとサイバーセキュリティの交差領域について主要な出版物に定期的に寄稿する一方、次世代のサイバーセキュリティ専門家の育成にも尽力しています。

Nirav Shahのその他のブログ記事