AIバイアスとは何か、ITにとってなぜ重要なのか

Lori Mac Vittie特別技術者兼チーフエバンジェリスト | F5

バイアスが存在するかどうかは、もはや問題ではありません。実際に存在します。問うべきは、バイアスがどのように持ち込まれるのか、そしてIT部門がなぜそれを重視すべきなのかです。

今、AIへの期待はかつてないほど高まっています。関心が急速に高まり、需要が殺到する中、誰もが自社市場における「キラーアプリ」を見つけようと奔走しています。

しかし、こうした盛り上がりの陰では、もっともな懸念の声も上がっています。AIには比較的容易にバイアスが入り込む可能性があり、一部ではそのバイアスを警戒する声が高まっています。

AI学習モデルの概要

AIにバイアスがどのように入り込むのかを理解するには、AIモデルのトレーニング方法について基本的な知識が必要です。

学習方法が何種類あるかについては、誰に尋ねるか、またどこまで厳密に分類するかによって答えが異なります。実際、現在使用されている手法、アルゴリズム、モデルは多岐にわたり、この分野に精通していなければ理解が難しいものも少なくありません。しかし、最終的にバイアスはモデルのトレーニング過程で生じるため、その仕組みを大まかに理解することが重要です。これを踏まえると、AIモデルの基本的なトレーニング方法は3つあります。

1. 教師あり学習。入力データにはラベルが付けられます。システムは、学習に使用したデータセットとラベルに基づいて、どのような出力が得られるべきかを把握し、その知識を用いて別の値を予測できます。このカテゴリーでは、主に2種類のアルゴリズムが使用されます。1つは分類に基づくもので、色、サイズ、形状などの属性に応じてデータをカテゴリーに分けます。通常、画像認識はこのカテゴリーに該当しますが、スパム検出やメールフィルタリングも一般的な用途です。もう1つは、数学的な回帰を用いて、入力と出力の線形関係に基づくパターンを見つけるものです。この手法では、実際の気象の測定値など、出力はモデルの外部で分類されます。市場や気象のトレンド分析では、この手法がよく使用されます。
   
2. 教師なし学習。「教師なし」という言葉が示すとおり、データの性質に関する情報はシステムに与えられません。データにはラベルが付いていません。システムは自らパターンや関係性を見つけ出し、結果を予測することが求められます。教師なし学習のアルゴリズムでは、クラスタリングとアソシエーションという2つの異なる手法を使用します。クラスタリングでは、類似性に基づいてデータをグループ化し、あるグループのデータが他のグループとはほとんど、またはまったく類似しないようにします。クラスタリングの一般的な用途として、顧客の購買行動の分析が挙げられます。アソシエーションでは、データ間の依存関係など、データ同士の関係性を見つけ出します。このアプローチで扱うのは相関関係のみであり、因果関係ではありません。教師なし学習システムが見つけ出すのは、単に「ほかの事象と同時に生じる事象」であり、「ほかの事象を引き起こす事象」ではありません。アソシエーションは、Web利用状況のマイニングによく使用されます。
   
3. 強化学習 強化学習は、教師あり学習と教師なし学習のそれぞれの欠点を最小限に抑えるため、両者を折衷した学習手法です。強化学習では、システムにラベルなしデータを与え、それを探索させます。その後、出力に対して正または負の報酬を与えると、システムはそこから「学習」し、意思決定を改善します。これは、教育で小テストや試験が用いられることからも分かるように、人間の学習方法に最も近いモデルです。強化学習は、ビデオゲーム、ロボティクス、テキストマイニングなどで広く利用されています。

AIにバイアスが入り込む仕組み

では本題に入りましょう。こうしたシステムにバイアスが入り込む仕組みについて説明します。

その答えは、すでにお気づきかと思いますが、トレーニングプロセスに人間が関与することが多いという事実にあります。

最も簡単に教師あり学習にバイアスを生じさせる方法は、データに誤ったラベルを付け、いわばデータを汚染することです。たとえば、動物を分類する際に「犬」を「猫」と誤ってラベル付けすると、それが大規模に行われた場合、誤認識につながる可能性があります。ラベル付けには、出力を不正にする目的で意図的に誤ったラベルを付けるリスクがあります。一方、誤ったラベル付けの中には、ヒョウを猫に分類するか、猫の像を猫として扱うかといった、人間の判断に起因するものもあります。強化学習では、ゲームで「誤った」回答や手に正の報酬を与えると、意図的に誤答したり、常に負けたりするシステムになる可能性があります。

それを魅力的な選択肢だと感じる人もいるかもしれません。

当然ながら、これはChatGPTのような対話型AI（生成AI）にも影響します。ChatGPTは、同社のサイトによると、「人間のトレーナーを活用してモデルの性能を向上させる」「教師あり学習と強化学習」によってファインチューニングされています。回答を評価する際に「高評価」または「低評価」を選択すると、そのデータがモデルのさらなるファインチューニングに使用される可能性があります。読者の皆さまは人間でしょう。したがって、システムにさらなるバイアスが生じる可能性があります。実際、ChatGPTの回答はまったくの誤りであることも少なくありません。正しい回答を生成できる確率を高めるには、フィードバックを通じてシステムをさらにトレーニングする必要があります。

これは興味深い話です。こうしたシステムを操作する方法とその影響について掘り下げることもできます。しかし、このトピックを取り上げた本当の理由は、バイアスの問題がテレメトリにも及ぶためです。テレメトリとは、デジタルサービスを提供し、保護するシステムやサービスの自動化に活用したいと誰もが考える運用データです。

AI、バイアス、テレメトリ

以前、データバイアスというテーマについて、テレメトリとの関連性や、組織の98%が見落としているインサイトを取り上げたことを覚えている方もいらっしゃるかもしれません。

テレメトリ分析では、多くの場合、ラベル付けされたデータを使用してモデルをトレーニングします。このシステムには、（a）データの誤ったラベル付け、（b）特定のカテゴリーにおけるデータの多様性不足、（c）新しいデータの導入方法によって、バイアスが入り込む可能性があります。データの誤ったラベル付けが問題となる理由は明らかです。誤ったラベル付けが大量にあると、誤認識につながる可能性があるためです。データの多様性が不足している場合、このような限定的なトレーニングデータセットの範囲外にあるデータは、必然的に誤分類されます。

その典型例が、戦車とその他の輸送手段を識別するようトレーニングされたAIモデルです。実は、戦車の写真はすべて日中に撮影されていた一方、その他の車両の写真はそうではありませんでした。その結果、AIは戦車か否かを高い精度で識別しましたが、実際には昼と夜を関連付けていたのです。入力データセットの多様性が不足していたため、偏った相関が生じました。

運用中のAIが強化学習を利用している場合でも、データの多様性が欠けていると、いわば「次の一手」を決定するために必要な「変数」がシステムにすべて揃わないため、問題となります。

AIが多様なデータセットや必要な変数をすべて備えていない可能性がある理由は、ご想像のとおり、データバイアスです。具体的には、分析のために取り込むテレメトリを一部に限定する選択的モニタリングによって生じるデータバイアスです。たとえば、DNSのパフォーマンスがユーザーエクスペリエンスに与える影響は広く知られています。しかし、DNSのテレメトリを使用せずにアプリケーションパフォーマンスを分析するようモデルをトレーニングした場合、DNSに問題があっても、パフォーマンスに問題はないと判断する可能性があります。これは、DNSがアプリケーションのエンドツーエンドのパフォーマンスに関係していることをモデルがまったく認識していないためです。「次の一手」がパフォーマンス低下を担当者に通知することであれば、データ選択のバイアスによってシステムはその役割を果たせません。

ご想像のとおり、F5の年次調査では、全組織の半数以上が、必要なインサイトを得るうえで「データの欠落」が最大の課題の1つであると回答しています。

したがって、組織が業務上の意思決定にAIを全面的に活用しようとしても、課題が生じます。このようなシステムのトレーニングに使用する多様なデータセットがなければ、バイアスが入り込む可能性があります。

バイアスが生じる3つ目の要因は、モデルにデータを入力する方法です。運用上よく見られる例として、合成テストの結果からアプリケーションの平均パフォーマンスを算出し、その結果得られたモデルを使用して実際のトラフィックを分析するケースがあります。合成テストのデータセットを構成する場所、デバイス、ネットワーク輻輳などの網羅性によっては、実際のユーザーにとってまったく問題のないパフォーマンスが障害と判定されたり、逆に障害が問題なしと判定されたりする可能性があります。

デジタルトランスフォーメーションに伴うリスク

リスクとなるのは、組織がデジタルビジネスを展開するうえで必要な規模と効率性を実現し、力を増幅する役割を果たすテクノロジーへの信頼が損なわれることです。AIが「誤った」回答や解決策を提示し続ければ、誰からも信頼されなくなるからです。

だからこそ、フルスタックのオブザーバビリティは単に重要なだけでなく、組織がデジタルトランスフォーメーションの6つの主要な技術的能力を備え、第3段階であるAI支援型ビジネスへと進むために必要な要素の1つなのです。

選択的な監視や、特定の考え方に基づくメトリクスの選別によってデータが欠落すると、運用上の意思決定に使用されるAIモデルに偏りが生じる可能性があります。

データのソースと種類を慎重に見極め、包括的なデータ戦略とオブザーバビリティ戦略を組み合わせることで、バイアスの排除が進み、より正確で信頼できる結果を得やすくなります。

著者について

Lori Mac Vittie特別技術者兼チーフエバンジェリスト | F5

Lori MacVittieは、F5のOffice of the CTOに所属するDistinguished Engineer兼Chief Evangelistであり、アプリケーションデリバリ、自動化戦略、インフラストラクチャに関する深い専門知識を有しています。AIエージェントのガードレール策定、脆弱なマルチクラウドアーキテクチャの分析、スケーラブルなシステムの限界の検証など、複雑な事柄を明快にすることで知られています。アプリケーション開発、ITアーキテクチャ、ネットワークおよびシステム運用の分野で、30年以上にわたる業界経験を有しています。F5入社前は、受賞歴のあるテクノロジー編集者として活躍していました。 MacVittieはコンピューターサイエンスの修士号を取得しており、セキュリティ、クラウド、エンタープライズアーキテクチャにわたる分野で多数の著作を発表しています。また、テーブルトークゲームとビデオゲームをこよなく愛し、チーズについては遠慮なく強いこだわりを語ります。

Lori Mac Vittieのその他のブログ記事