← たのしく学びなおし 一覧 / たのしいAIの数学 / 用語集
柱G 限界と付き合うAI照合済み

偏ったデータからは、偏った答えが出る

学習データの中身が偏っていると、AIの答えはどう変わるのでしょうか。
イメージ図(AI生成)
この章の答え全体の正解率だけでは、数の少ないグループの失敗が見えません。
必要な数学割合・グラフの読み方
目安読むのに約4分、そのあと図をさわります
読みもの

データの偏りは、答えの偏りになる

AIは、与えられたデータから学びます。では、そのデータが偏っていたら、どうなるでしょうか。数値1つで、2つのグループを分ける、ごく単純な問題で、その仕組みを確かめてみます。

しきい値は、データが決める

A群の数値は0のあたり、B群は2のあたりにばらつきます(自作の例)。分けるための境目(しきい値)は、学習データでの間違いが最小になる点に決めます。A群もB群も50点ずつあれば、この100点では、しきい値は 0.62 でした。2つのグループは左右対称の設定なので、本来の境目はもう少し真ん中寄りのはずですが、100点という少ないデータのばらつきで、少しずれました。

片方が増えると、境目が寄る

学習データのA群を70%、90%と増やすと、しきい値は 1.60、1.72 へと、B群のほうへ動きます。数の多いA群を間違えないほうが、全体の間違いが減るからです。AとBが同数の別のデータで測ると、Aを正しく答える割合は 74.3% → 94.1% → 96.1% と上がり、Bを正しく答える割合は 91.9% → 65.8% → 60.4% と下がりました。

全体の正解率だけを見ていると、少数のグループでの失敗が、見えなくなる。

見落とさないために

学習データと同じ割合のデータで測れば、全体の正解率は高く見えます。しかし、数の少ないB群での成績は悪くなっています。偏りに気づくには、グループごとに成績を分けて見る必要があります。

偏りは、集め方から入る

偏りは、誰に聞いたか、どこで集めたか、いつ集めたかといった、データ集めの段階から入ってきます。直す方法には、データを足す、割合を調整する、グループごとに評価する、などがありますが、偏りが完全になくなるとは限りません。実際のAIでも、特定のグループでの成績の差として現れることが知られています。

偏りに気づくための問い

データの偏りに、気づくには、いくつかの問いが役立ちます。このデータは、誰から、どこで、いつ集めたものか。集められなかった人や場面はないか。グループごとに、成績は、そろっているか。これらは、AIに限らず、データを使うすべての場面で、有効な問いです。

悪意がなくても起きる

偏りは、誰かが意図的に作るものとは限りません。集めやすいデータを集めた結果、自然に偏ることが、よくあります。だからこそ、「悪意がないから大丈夫」とは言えず、意識的な点検が必要になります。この章の例のように、数値1つの単純な設定でも、偏りが、境目を動かす様子を、数で確かめられます。

手を動かして確かめる

数値1つで、A群とB群を分ける問題を考えます。A群の数値は0のあたり、B群は2のあたりにばらつきます(自作の例)。学習に使うデータのうち、A群の割合を増やしていきます。評価は、AとBが同数の、別の2000点で行います。

A群の割合のスライダーを動かして、しきい値と、AとBそれぞれを正しく答える割合を見てください。

計算を順に追う

1. しきい値は、学習データから決まる

ここでは、学習データでの間違いが最小になる点を、しきい値にします。A群もB群も十分あれば、2つの山の間あたりに決まります。A群50点・B群50点のときは、しきい値は 0.62 でした。

2. A群が増えると、しきい値がB群に寄る

学習データのA群を70%、90%と増やすと、しきい値は 1.60、1.72 へと動きます。数が多いA群を間違えないほうが、全体の間違いが減るからです。その結果、別のデータで、Aを正しく答える割合は 74.3% → 94.1% → 96.1% と上がる一方、Bを正しく答える割合は 91.9% → 65.8% → 60.4% と下がります。

A群50%:しきい値0.62 A 74.3% B 91.9% A群70%:しきい値1.60 A 94.1% B 65.8% A群90%:しきい値1.72 A 96.1% B 60.4%

3. 全体の正解率だけを見ると、見落とす

学習データと同じ割合のデータで測れば、全体の正解率は高く見えます。しかし、数の少ないB群での成績は悪くなっています。偏りに気づくには、グループごとに成績を分けて見る必要があります。

4. 偏りは、データ集めの段階から入る

データの偏りは、集め方(誰に聞いたか、どこで集めたか)や、集めた時期と使う時期のずれからも入ります。直すには、データを足す、割合を調整する、グループごとに評価する、といった方法があります。ただし、偏りが完全になくなるとは限りません。

思い出しメモ グループごとの成績を分けて見る考え方は、統計の「層別」と同じです。全体の平均だけを見ると、一部の成績の悪さが隠れます。
ひとことで言うと全体の正解率だけでは、数の少ないグループの失敗が見えません。

今につながる話

実際のAIでも、学習データの偏りが、特定のグループや状況での成績の差として現れることが知られています。評価をグループごとに行うことは、広く行われる点検の一つです。この章は、その仕組みを、数値1つの例で見せた模型です。

前に読むと楽な章

なるほど2問

出典と確認状態

ほんとうは…(偏りの種類)

偏りには、入力の分布が変わる「共変量シフト」や、ラベルの割合が変わる「ラベルシフト」など、いくつかの型があると整理されています。この章の例は、そのうち学習データのグループの割合が偏る場合を、1次元で見せたものです。

出典(AI照合済み)

この章の計算はすべてあなたのブラウザの中で行われ、入力や結果はどこにも送信されません。例題と数値はこのサイトのオリジナルで、実在の製品・サービスとは関係ありません。

この章で、まちがいや古くなった情報に気づいたら、報告フォームから教えてください