このトピックに関する以前の記事では、セキュリティと規制遵守は二次的な問題ではないという明確な点を示しています。これらは、アプリケーションのパフォーマンス、可用性、スケーラビリティ、運用効率に直接影響します。規制要件を満たさない場合、法的リスクが生じ、運用負荷が増大するほか、場合によってはサービス提供が完全に中断する可能性があります。以前のガイダンスでは、暗号化、FIPS準拠デバイス、自動コンプライアンスチェックといった一般的な緩和策についても重点的に説明しています。
その基本的な考え方は今も変わりません。
AIによって変わるのは、コンプライアンスを確保すべき場所と、その適用頻度です。
従来のアプリケーションは、ほとんどの場合、事前に定義された経路に従います。リクエストを処理し、既知のシステムにアクセスして、想定された出力を返します。一方、AIアプリケーションには、確率的な意思決定レイヤーが加わります。プロンプトを解釈し、回答を生成し、外部コンテキストを取得するほか、ツールを呼び出したり、アクションを実行したりするケースも増えています。そのため、コンプライアンスは、データストアや転送経路を保護するだけでは不十分です。実行時の動作、モデルへのアクセス、生成された出力、システム内のコンテキストの流れも管理する必要があります。
つまり、従来の問題は依然として残っています。問題の範囲はさらに広がり、制御を推論が行われるポイントにより近づける必要があります。
セキュリティと規制遵守の欠如がもたらす影響
パフォーマンスへの影響
従来のアプリケーションデリバリでは、既知のオーバーヘッドによってコンプライアンスがパフォーマンスに影響する傾向があります。暗号化は処理コストを増加させ、検査はレイテンシーを増大させます。データ主権に関する規則により、トラフィックを特定の法域内にとどめることが求められる場合があり、ルーティングが複雑化して効率が低下する可能性があります。AIでもこうした負荷は変わりませんが、新たな負荷が加わります。リクエストの処理中にコンプライアンスに関する判断を下す必要があることです。
AIシステムでは、特定のモデルによる特定のプロンプトの処理が許可されているか、検索に使用するデータが法的に地域の境界を越えられるか、推論前に機密性の高いコンテキストを編集して除去する必要があるか、生成された出力を返す前にフィルタリングする必要があるかを判断しなければならない場合があります。こうした処理には、いずれもコストが伴います。各チェックによって、処理時間や複雑さ、またはその両方が増加します。
その違いはわずかですが、重要です。従来、コンプライアンスはアーキテクチャを左右することが一般的でした。AIシステムでは、コンプライアンスが実行時の処理を左右する傾向が強まっています。保護すべき対象は、アプリケーションへの経路だけではありません。アプリケーションが推論中に何を行っているかを評価する必要があります。
可用性への影響
可用性は、常にアプリケーションデリバリに欠かせない要素です。堅牢なセキュリティ対策とFIPS準拠のインフラストラクチャは、可用性を向上させ、コンプライアンス上の問題に起因するシステム停止やサービス中断のリスクを軽減します。同じ原則はAIにも当てはまりますが、障害モードはさらに多様化します。
従来型のアプリでは、コンプライアンス違反により、トランザクションがブロックされたり、特定のリージョンが強制的に分離されたり、統制上の不備が是正されるまでサービスが一時停止されたりする可能性があります。AIシステムでは、プラットフォーム自体が稼働していても、可用性が損なわれることがあります。モデルにアクセスでき、APIが正常で、インフラストラクチャが順調に稼働していても、ポリシーによってリクエストを処理できない場合、サービスは実質的に利用できなくなる可能性があります。
これにはいくつかの理由が考えられます。必要なリージョンで、コンプライアンス要件を満たすモデルを利用できない場合があります。取得したドキュメント群に、特定のユーザーまたは法域には開示できない規制対象データが含まれている可能性もあります。出力がポリシーチェックに合格せず、提供を差し控える必要が生じることもあります。また、実行しようとするアクションの1つがガバナンスルールに違反するため、エージェントがワークフローを完了できない場合もあります。
したがって、AIにおける可用性は、もはや単なる稼働時間の問題ではありません。ポリシー上、実行が許可されているかどうかも問われます。システムは技術的にはオンラインでも、運用上は応答やアクション、タスクの完了ができない場合があります。これは従来とは大きく異なる種類の停止であり、従来の可用性の考え方では十分に捉えきれません。
運用効率への影響
コンプライアンス対応を自動化することで、手作業を減らし、ITチームは絶え間ない規制対応ではなく、より価値の高い業務に注力しやすくなります。この考え方は今も変わりません。問題は、AIシステムによってガバナンスが必要な状況が大幅に増えることです。
従来のコンプライアンスプログラムは、比較的安定した環境を前提としています。データ処理ルール、アクセス制御、検査ポイント、監査手順を定義し、システムがそれらに準拠していることを検証します。容易な作業ではありませんが、対象範囲は限定されています。
AIによって、こうした境界は曖昧になります。出力は動的であり、実行ごとにアクションの経路が変わる可能性があります。エージェントは複数のリクエストを連鎖させ、ツールを呼び出し、時間の経過とともにコンテキストを蓄積できます。そのため、チームは静的な検証だけに頼ることはできません。実行時の監視、継続的なポリシー評価、動作に対する可視性の向上が必要です。
デリバリー層とセキュリティ層がこの負荷を吸収できるように設計されていなければ、運用負荷は増大します。そうでなければ、組織はポリシーの調整、異常な出力の調査、指示に従ったシステムがなぜビジネス上または規制上の意図に反する結果を生み出したのかの説明を延々と繰り返すことになります。これは監査の問題ではなく、コントロールプレーンの問題です。
セキュリティとコンプライアンスのリスクを軽減するためのベストプラクティス
暗号化とFIPS準拠デバイス
この点に変更はありません。転送中および保存中の機密データを保護するうえで、暗号化は引き続き不可欠です。また、当初のADC08では、規制対象データのセキュリティを確保し、レジリエントな配信を支えるための基本的な対策として、暗号化とFIPS準拠デバイスを明確に挙げています。
変わるのは、AIによって入力と出力の間のレイヤーにリスクが生じるという認識です。
言い換えると、通信が暗号化され、ストレージがコンプライアンス要件に準拠していても、モデルが受け取るコンテキストを適切に扱うことを信頼でき、生成する内容がガバナンスの対象となっている必要があります。基盤となる暗号技術にまったく問題がなくても、プロンプトインジェクション、機密性の高いコンテキストの漏えい、不適切な出力処理といった問題は発生する可能性があります。強固な基盤は今も重要です。それがなければ、ほかのすべてが成り立たないためです。ただし、それだけでは攻撃対象領域やコンプライアンス対象領域の全体をカバーできなくなっています。
したがって、従来の制御は引き続き必要です。ただし、それだけではもはや十分ではありません。
コンプライアンスチェックの自動化
従来のガイダンスでは、手作業による監査を減らし、ポリシーを一貫して適用し、違反の可能性を迅速に特定するために、コンプライアンスチェックの自動化とリアルタイム監視を推奨しています。AIの活用に伴い、このガイダンスの重要性はさらに高まりますが、同時に進化させる必要もあります。
従来型のアプリケーションでは、自動化されたコンプライアンス対応とは、多くの場合、構成の確認、データ所在地の検証、アクセスパターンの監視、構成の逸脱に関するアラートの発行を意味します。AIシステムでは、これに加えて、プロンプトの検査、モデル選択の検証、検索ソースの監視、出力の確認、さらに場合によっては一定期間にわたる一連のアクションの評価も必要です。
これこそが真の転換点です。コンプライアンスの自動化は、静的な検証から実行時の適用へと移行します。
目標はもはや、環境が正しく構成されていることを確認するだけではありません。システムの稼働中も、その動作が許容範囲内に収まり続けるようにすることです。そのためには、より多くのコンテキストと可視性に加え、デリバリーパスに組み込まれた、より高度なポリシーロジックが必要です。また、従来「コンプライアンス」とされていたものが、今ではリクエスト処理自体の一部となることが多いため、アプリケーションデリバリとセキュリティの機能も融合し始めています。
まとめ
セキュリティや規制へのコンプライアンスが不十分であることは、引き続きパフォーマンス、可用性、拡張性、運用効率を脅かしています。従来からの制御、暗号化、FIPS準拠のインフラストラクチャ、自動化されたコンプライアンスツールは、今なおそのリスクを軽減するための基盤です。AIによって変わるのは、問題が生じる場所です。
従来のシステムでは、コンプライアンスは主にアプリケーションを取り巻く領域が対象でした。AIシステムでは、意思決定プロセスそのものにまでコンプライアンスを適用する必要があります。モデルが参照するデータ、生成する出力、実行しようとするアクションに加え、それらの動作が規制および組織の定める範囲内に収まっているかどうかも考慮しなければなりません。
変わらないのは、規律あるセキュリティと堅牢なデリバリーアーキテクチャが必要であるという点です。
変化したのは、稼働時間の確保だけでも、暗号化だけでも、静的なポリシーチェックだけでも、もはや十分ではないという点です。
AIによって重要性が増すのは、システムが単にリクエストを処理するだけでなく、意思決定にも関与するためです。そうなると、コンプライアンスは実行時に対処すべき課題となります。
世界中の組織が直面しているアプリケーションデリバリーに関する課題トップ10について、詳しくご覧ください。
著者について
Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。
Lori Mac Vittieのその他のブログ記事関連するブログ記事
Application Delivery Top 10とは？
F5は、Application Delivery Top 10リストを通じて、アプリケーション、API、生成AIの配信とセキュリティ確保に伴う課題への組織の対応を支援することを目指しています。
AIアプリケーションデリバリのトップ10：互換性のないデリバリポリシー
ポリシーの不整合がAI障害を引き起こします。フェイルオーバー、タイムアウト、制限、セキュリティ制御に一貫性がないと、ソフト障害や不完全な結果が発生し、エンドポイントごとに異なる結果が生じます。
AIアプリケーションデリバリーの課題トップ10：レイテンシーに対応できない
AIにより、レイテンシは単なるパフォーマンス上の問題ではなく、信頼に関わる問題になります。「アシスタント」の応答が遅いと、ためらいや障害のように感じられます。また、トークン数の多いプロンプトや出力は、システムが正常でも処理負荷を増大させます。
AIアプリケーションデリバリーの課題トップ10：最適化されていないトラフィックステアリング
AIは従来のトラフィックステアリングの前提を覆します。バックエンドには互換性がなく、コストも異なり、エージェントは予測不能に処理を分散させるため、ルーティングではモデル、GPUの稼働状態、データの局所性を考慮する必要があります。
AIアプリケーションデリバリーのトップ10：不十分なトラフィック制御
従来のレート制限やスロットリングでは、実際の影響範囲を捉えきれません。AIワークロードはモデル、ベクトルストア、サービスへと処理を分散させるため、レイテンシの急増、連鎖的な障害、再試行を引き起こします。
AIアプリケーションデリバリの課題トップ10：不完全なオブザーバビリティ
AIは、それ自体ではスケールしません。ツールと管理責任の境界を統合する一元的なコントロールプレーンがなければ、推論は最も脆弱で、調整負荷の高い階層になります。