← たのしく学びなおし 一覧 / たのしいAIの数学 / 用語集
柱D 正解に近づくAI照合済み

層をさかのぼって、傾きを求める:誤差逆伝播

重みが何層にも重なっているとき、どの重みを、どれだけ動かせばよいのかは、どうやって分かるのでしょうか。
イメージ図(AI生成)
この章の答え誤差逆伝播は、各段の傾きを、後ろから順に掛けていく計算です。
必要な数学合成関数の微分(連鎖律)の入口
目安読むのに約5分、そのあと図をさわります
読みもの

玉突きの傾きを、後ろから順にたどる

重みが1つだけなら、損失の傾きは、1つの式で求まりました。ところが、ニューラルネットには重みが無数にあり、しかも、層を何段も通ります。1段目の重みを少し動かすと、2段目の入力が変わり、出力が変わり、損失が変わる。この「玉突き」の影響を、どう測ればよいのでしょうか。

前向きに計算して、答えを出す

この章では、重みが2つで、間にシグモイド関数を挟んだ、最小の2層を使います。入力 x=1.5 から、z=w1·x、h=σ(z)、y=w2·h と計算し、損失 L=(y−t)² を求めます。w1=0.5、w2=0.8、目標 t=1 のとき、y=0.5433、L=0.2085 です。

後ろ向きに、傾きを掛けていく

L を w1 で直接微分するのは大変です。けれど、一段ずつの傾きは簡単です。L は y で、y は h で、h は z で、z は w1 で決まります。連鎖律は、「全体の傾きは、各段の傾きの掛け算」という規則です。後ろから順に傾きを掛けていくので、「誤差逆伝播」と呼ばれます。

全体の傾きは、一段ごとの傾きの積になる。

数値で確かめる

連鎖律の結果が正しいかは、重みをごく少し動かして、損失の変化を直接測ると、確かめられます。この図では、両者は小数点以下9けたほど一致します。プログラムで誤差逆伝播を作るときの、基本的な確かめ方(勾配チェック)です。

重みを動かす

得られた傾きに、学習率(ここでは0.5)をかけて、重みから引きます。1歩で、w1=0.619、w2=1.110、損失=0.0417 になり、50歩ではほぼ0になります。データが1個だけの例なので、ぴったり合わせられます。層が深くなり、枝分かれが出てくると、複数の経路から届く傾きを足し合わせる必要がありますが、後ろから順に伝える、という骨格は変わりません。

なぜ、後ろから計算するのか

傾きを求めるだけなら、重みを一つずつ少し動かして、損失の変化を測る、という素朴な方法もあります。けれど、重みが何十億とあれば、その回数だけ、全体を計算し直すことになり、現実的ではありません。誤差逆伝播は、後ろから傾きを一度伝えるだけで、すべての重みの傾きを、まとめて求められます。この効率の良さが、大きなネットワークの学習を、可能にしています。

確かめる習慣

もう一つ、この章で見た「勾配チェック」は、実務でも役立つ習慣です。複雑な計算を、自分で組んだとき、結果が正しいかを、別の素朴な方法で確かめる。この「別の道で確かめる」姿勢は、この教材が、検算スクリプトで数字を確かめていることとも、通じています。

手を動かして確かめる

「坂を下る」では、重みが1つで、傾きは1回の式で求まりました。ここでは重みが2つ、間にシグモイド関数をはさんだ、最小の2層です。w1 を動かすと、h が変わり、y が変わり、損失が変わります。この「玉突き」の傾きを、後ろから順に掛けて求める方法が、誤差逆伝播(バックプロパゲーション)です。

w1、w2 を動かすと、前向きの値と、後ろ向きに掛けていく傾きが変わります。下の「数値で確かめた傾き」は、重みを微小に動かして測り直したもので、連鎖律の結果と一致します。「1歩」「50歩」で学習も進められます。

計算を順に追う

1. 前向き:答えを出す

入力 x=1.5 から、z=w1·x、h=σ(z)、y=w2·h と計算し(σ はシグモイド関数で、σ(z)=1/(1+e^(−z)) です。傾きは σ′(z)=h(1−h) と書けます)、損失 L=(y−t)² を求めます。w1=0.5、w2=0.8、t=1 のとき、z=0.75、h=0.6792、y=0.5433、L=0.2085 です。

z = 0.5×1.5 = 0.75 h = σ(0.75) = 0.6792 y = 0.8×0.6792 = 0.5433 L = (0.5433−1)² = 0.2085

2. 後ろ向き:傾きを掛けていく

L を w1 で直接微分するのは大変ですが、1つずつの段の傾きは簡単です。L は y で、y は h で、h は z で、z は w1 で、それぞれ決まります。連鎖律は、「全体の傾きは、各段の傾きの積」というものです。

∂L/∂y = 2(y−t) = −0.9133 ∂L/∂w2 = ∂L/∂y × h = −0.6203 ∂L/∂h = ∂L/∂y × w2 = −0.7307 ∂L/∂z = ∂L/∂h × h(1−h) = −0.1592 ∂L/∂w1 = ∂L/∂z × x = −0.2388

3. 数値で確かめる

連鎖律の結果が正しいかは、重みを微小に動かして、損失の変化を直接測ると確かめられます。この図では、両者は小数点以下9けたほど一致します。誤差逆伝播のプログラムを作るとき、この確かめ(勾配チェック)は、広く使われます。

4. 傾きと逆向きに、少しずつ動かす

得られた傾きに、学習率(ここでは0.5)を掛けて、重みから引きます。1歩で、w1=0.619、w2=1.110、損失=0.0417 になり、50歩では損失がほぼ0になります。この例はデータが1個だけなので、ぴったり合わせられます。層が深くなっても、後ろから順に傾きを掛ける手順が基本です。ただし、枝分かれのある網では、複数の経路から届いた傾きを、足し合わせる必要があります(この例は一本道なので、掛けるだけです)。

思い出しメモ 合成関数の微分(連鎖律)は、高校の数学Ⅲで学びます。y=f(g(x)) の傾きは、f の傾きと g の傾きの積、というものです。ここでは、その積を何段も重ねます。
ひとことで言うと誤差逆伝播は、各段の傾きを、後ろから順に掛けていく計算です。

今につながる話

今のニューラルネットの学習の多くは、誤差逆伝播で傾きを求め、その傾きに沿って重みを動かす方法を使います。重みの数は桁違いに多くなり、枝分かれ(傾きの足し合わせ)も出てきますが、各段の傾きを後ろから伝えていく、という仕組みは、この章と同じです。

前に読むと楽な章

つながり(ほかのシリーズ)

なるほど2問

出典と確認状態

ほんとうは…(この例の限界)

この例は、重みが2つ、データが1個です。実際の学習では、重みが膨大で、データも多く、傾きはバッチ(データの一部)ごとに求めます。また、計算は、行列やテンソルのまとまりで行われます。

出典(AI照合済み)

この章の計算はすべてあなたのブラウザの中で行われ、入力や結果はどこにも送信されません。例題と数値はこのサイトのオリジナルで、実在の製品・サービスとは関係ありません。

この章で、まちがいや古くなった情報に気づいたら、報告フォームから教えてください