AIに関する業界の懸念を把握しようとする調査のほぼすべてが、あらゆる問題を「セキュリティ」という見出しの下にひとまとめにしています。機密データの漏えいに関する懸念から、ハルシネーションとバイアス、プロンプトインジェクションによる悪用、透明性や説明可能性に至るまで、AIに関しては、あらゆる問題がセキュリティの責任と見なされているようです。
これらの懸念はいずれも妥当かつ重要ですが、それぞれ大きく異なり、そのほとんどはセキュリティ部門が担うべきものではありません。
今回は、透明性と説明可能性について詳しく解説します。どちらも、ビジネスでAIを活用するうえで、理解し実践することが極めて重要な概念です。システムとその結果への信頼を確立するためだけでなく、特に開発中のシステムのトラブルシューティングやデバッグにも役立ちます。
透明性と説明可能性
透明性と説明可能性は一般に重要な概念ですが、IT分野の実務担当者でさえ、その多くがAIシステムの仕組みに精通していないことから、AIにおいては特に重要です。どちらの概念も、倫理的AI、責任あるAI、AIガバナンスの文脈でよく議論されます。両者は密接に関連していますが、それぞれ異なる意味を持ち、AIシステムを理解し、統制するうえで異なる役割を果たします。
透明性は、ステークホルダーや一般の人々を含む幅広い対象者に、AIシステムに関する一般的な情報を提供することに重点を置いています。説明可能性はより具体的な概念であり、AIシステムの挙動を理解する必要があるユーザー、開発者、ステークホルダーに対して、個々の判断や結果を明確にすることを目的としています。
透明性はシステムへの信頼を促進することに重点を置く一方、説明可能性は特定の出力に対する信頼の確立を目的とします。そのため、透明性と説明可能性では、それぞれ異なる要素に焦点を当てます。
透明性：情報源を明示する
AIにおける透明性とは、AIシステムの設計、運用、意思決定プロセスに関する情報が、ステークホルダーに対してどの程度開示され、アクセス可能で、理解しやすいかを指します。AIシステムの仕組みを明確に伝え、可視化することを重視し、ステークホルダーがシステムのさまざまな側面を理解できるようにします。
AIの透明性を構成する主な要素は次のとおりです。
- 設計と開発：透明性を確保するには、AIシステムの設計、アーキテクチャ、トレーニングプロセスに関する情報を共有する必要があります。これには、使用するデータの種類、アルゴリズム、実装するモデルが含まれます。これは、金融サービス事業者が、住宅ローンの利用資格や信用調査機関のFICOスコアを判定する際に使用するデータと重み付けを説明する情報開示に似ています。
- データと入力：透明性を確保するには、AIシステムのトレーニングと運用に使用するデータの出所と種類を明確にする必要があります。また、入力データに適用した前処理、変換、拡張についても開示する必要があります。このような情報は、企業が収集・保存するデータの内容や、そのデータを共有する可能性のある相手を示すデータ収集に関する声明に似ています。
- ガバナンスと説明責任： AIシステムの開発、導入、ガバナンスの責任者に関する情報を提供します。これにより、ステークホルダーは説明責任の体制を把握しやすくなります。
説明可能性：判断の根拠を示す
AIにおける説明可能性とは、システムの意思決定、出力、動作について、理解しやすい理由や根拠を示す能力を指します。特定の意思決定に至った理由を説明し、AIがもたらす結果をユーザーやステークホルダーが理解できるようにすることを重視します。
AIの説明可能性を構成する主な要素は次のとおりです。
- 判断の根拠：説明可能性とは、特定の判断や出力に至った要因と論理を詳しく示すことです。「AIはなぜこの判断を下したのか」「この結果に何が影響したのか」という問いに答えます。これは幾何学の証明に似ています。出力を説明するには、点の間の関係、合同、平行線などの公理に基づく必要があります。つまり、AIが2+2=5と判断した場合、必ず別の数学体系に基づいている、あるいはその式を文学的表現として用いているなど、その判断に妥当な理由があることを示さなければなりません。
- モデルの解釈可能性：説明可能性を確保するには、ステークホルダーが意思決定の仕組みを理解できるよう、AIモデルを解釈可能にする必要があります。たとえば、誰もが微積分を理解しているわけではないため、複雑な方程式を示すだけでは十分な説明になりません。敵対的生成ネットワーク（GAN）と畳み込みニューラルネットワーク（CNN）では動作の仕組みが大きく異なるため、どのアーキテクチャアプローチを採用しているかを開示することは、解釈可能性を確保するうえで重要です。
- 人間による理解のしやすさ：説明は、専門家以外の人も含め、誰もが容易に理解できる形式でなければなりません。そのためには、複雑なAIの処理を簡潔かつ明確に示す必要があります。16進数形式やコードで説明するのではなく、法務、コンプライアンス、エンジニアリングなど、すべての関係者が理解できる形式を使用する必要があります。
AIへの信頼の構築
新しいテクノロジーが信頼を確立するには、どれも時間がかかります。15年前には、重要なアプリケーションの自動スケーリングは誰からも信頼されていませんでしたが、今では基盤となる機能として期待されています。複雑な数学的問題の解決、自動車の運転、請求書の支払いなど、どのような自動化もユーザーの信頼を得るには時間が必要です。プロセスの透明性を確保し、システムの仕組みを説明することで、導入から普及までの期間を大幅に短縮できます。
透明性はAIシステムの仕組みを広く把握できるようにする一方、説明可能性は特定の判断や結果に至った理由を掘り下げます。AIを成功に導き、企業がカスタマーサービスの向上、生産性の改善、意思決定の迅速化といったメリットを得るには、どちらも不可欠です。
そして、どちらもセキュリティの管轄ではありません。
著者について
Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。
Lori Mac Vittieのその他のブログ記事関連するブログ記事
SOAS 2025：足並みの乱れが凡庸さを招く
AI導入における方針の不一致は、非効率を招きます。セキュリティ、自動化、導入の各戦略を整合させ、AIの可能性を最大限に引き出す方法をご紹介します。
WebAssemblyが重要な理由
WebAssembly（Wasm）は、あらゆるプラットフォームで高性能なアプリケーションを実現する、ポータブルで高速かつセキュアなバイナリ命令セットです。
インフラストラクチャは依然として格好の攻撃経路
クラウドコンピューティングでは、APIやドラッグ＆ドロップ式の設定ツールを活用し、ネットワークやインフラストラクチャを敬遠する人がそれらを直接扱わずに済むようにすることで、インフラストラクチャへの対応を不要にすることが長年追求されてきました。しかし、インフラストラクチャを無視することも、攻撃の主要な標的であるという事実を見過ごすこともできません。
堅牢なデータアーキテクチャがもたらす戦略的メリット
適切に構築されたデータアーキテクチャがもたらす効果は、業務プロセスの改善にとどまりません。戦略的な業務効率の向上、より深いビジネスインサイトの獲得、隣接するビジネス機会への展開にもつながり、これらすべてをより俊敏に実行できるようになります。
デジタルワークフローにおける不正検知には、データだけでは不十分
2019年には、業界全体でクレジットカード詐欺の試みが約25万件確認されました。これは約2分に1件の割合です。今日、不正を検知するには、デジタルワークフロー上のできるだけ多くのポイントから収集したデータを相互に関連付け、手作業によるデータ処理をはるかに上回る速度で分析する能力が求められます。