≪ 🧠 AIの中を のぞいてみようまんがで学ぶNo.383
まんが No.383

学んだものが かたよると、答えも かたよる

AIは見せられた例から学ぶので、例がかたよると、答えもかたよる。

1リビングで、ハルが家の茶色いしましまのねこの写真をたくさんAIロボットに見せている。
うちの ねこの 写真しゃしんを いっぱい 見せみせたよ
2公園のベンチの黒いねこを見て、AIロボットが首をかしげ、ハルとミオがおどろいている。
黒いくろい ねこは ねこだって 分かわからないの？
3ミオとハルが、白・黒・三毛・長い毛など、いろいろなねこの写真をAIロボットに見せている。
いろんな ねこを 見せみせて みよう
4公園で、AIロボットが黒いねこに手をふり、ハルとミオが笑顔で見守っている。
見せみせる ほうも 気をきをつけないと いけないね

▶ 動画で見る（音声つき）

どうして 分からなかったの？

茶色のしましまのねこばかりを見て学んだAIは、黒いねこを見ても、ねこだと分からないことがあります。AIは、学んだ例の中にあるものしか手がかりにできないからです。人の写真や言葉でも同じことが起きます。ある人たちの例ばかりで学ぶと、ほかの人たちに対して答えがかたよったり、不公平になったりすることがあります。どんな例を見せるかを決めているのは、AIを作る人です。

🛡 ポイント
AIの答えがかたよっていると感じたら、そのまま信じず、ほかの見方も探そう。

おぼえておこう

おうちの方へ

AIの「かたより」は、作る人が意図しなくても起こります。ニュースなどで話題になったときに、「どんな例で学んだのかな」と一緒に考えてみてください。

▶ つぎに やってみよう：AI倫理クイズ道場（AIネット研究所）

← まえつぎ →
≪ AIの中を のぞいてみよう の一覧へ