← たのしく学びなおし 一覧 / たのしいAIの数学 / 用語集
柱D 正解に近づくAI照合済み

坂の下り方の改良:モメンタムと Adam

細長い谷では、単純に傾きをたどるだけだと、なぜ遅いのでしょうか。
イメージ図(AI生成)
この章の答えこの章の細長い谷では、勢いや、方向ごとの調整を足すと、速く進めました。
必要な数学前の章(傾き・誤差逆伝播)
目安読むのに約4分、そのあと図をさわります
読みもの

細長い谷を、どう下るか

前の章までの「坂を下る」は、傾きだけを頼りに、一歩ずつ進む方法でした。ところが、谷の形が、片方向には急で、もう片方向にはゆるやかな、細長い形をしていると、この方法は、とたんに不器用になります。

急な向きに合わせると、遅くなる

この章の谷は、縦(y)にとても急で、横(x)にはゆるやかです。学習率を大きくすると、急な縦方向で行き過ぎて、発散してしまいます。この谷では、学習率が 0.02 を超えると不安定になり、0.021 では損失が 4.6×10⁶ にまで増えました。だから、0.019 のような小さな値にせざるをえず、ゆるやかな横方向には、なかなか進めません。60歩たっても、損失は 0.801 です。

急な向きに歩幅を合わせるせいで、ゆるやかな向きが進まない。

勢いをつける:モメンタム

改良の一つは、前の進みの勢いの一部を引き継ぐことです。ゆるやかな横方向では、同じ向きの進みが積み重なって加速し、縦方向では、向きが交互に変わって、打ち消し合います。この谷では、60歩で損失が 0.128 まで下がりました。

方向ごとに、歩幅を調整する:Adam

もう一つは、方向ごとに、傾きの大きさの目安を記録して、それで割ってから進む方法です。傾きが −4 の方向でも 100 の方向でも、最初の1歩の幅は、約 0.3 にそろいます。この谷では、60歩で損失が 0.00925 まで下がりました。

順位は、問題で変わる

ただし、この比較は、1つの谷の形と、人が選んだ学習率での結果です。学習率を変えれば、順位は変わります。実際のAIの学習では、Adam 系の方法が広く使われますが、問題によっては、別の方法が選ばれます。「万能の下り方」はなく、地形に合わせた歩き方を選ぶ、ということです。

谷の形が、歩き方を決める

この章の谷は、縦に急で、横にゆるやか、という、極端な形でした。けれど、現実の損失の地形にも、方向によって、傾きの度合いが大きく違う場面は、よくあります。そんな地形で、単純な方法は、急な方向に歩幅を合わせるため、ゆるやかな方向が進みません。改良版の方法は、この「方向による差」を、うまく扱うための工夫なのです。

設定は、人が選ぶ

もう一つ、忘れてはならないのは、学習率などの設定は、人が選んでいる、ということです。この章でも、各方法に、人が決めた学習率を使っています。設定を変えれば、順位も変わりえます。「改良版だから、必ず速い」とは限らず、設定の選び方が、結果を大きく左右します。AIの学習が「調整の技術」と言われるのは、このためです。

手を動かして確かめる

谷の形が、縦(y)にはとても急で、横(x)にはゆるやかな、細長い形だとします(損失 f=0.5·(x²+100·y²)、自作の例)。単純な勾配降下では、急な縦方向が不安定にならないよう、学習率を小さく抑えるため、ゆるやかな横方向にはなかなか進めません。

歩数のスライダーを動かすか、「再生」を押して、3つの方法の軌跡と損失を比べてください。

計算を順に追う

1. 勾配降下:急な方向に合わせて、小さく進む

学習率が大きすぎると、急な縦方向で行き過ぎて発散します。この谷では、学習率が 0.02 を超えると不安定になり、0.021 では損失が 4.6×10⁶ まで増えました。そのため、0.019 のような小さな値にせざるをえず、横方向は、60歩で損失が 0.801 までしか下がりません。

2. モメンタム:前の進みを、少し引き継ぐ

今の傾きだけでなく、前の進みの勢いの一部(ここでは0.9)を足して進みます。ゆるやかな横方向では、同じ向きの進みが積み重なって加速します。縦方向では、向きが交互に変わるので、打ち消し合います。この谷では、60歩で損失が 0.128 まで下がりました(途中は、行き過ぎて、増減を繰り返します)。

v ← 0.9·v + 傾き 重み ← 重み − 学習率 × v

3. Adam:方向ごとに、進み幅を調整する

Adam は、傾きの大きさの目安(傾きの二乗の移動平均)を方向ごとに記録し、傾きを、その目安の平方根で割って進みます。そのため、傾きが −4 の方向でも 100 の方向でも、最初の1歩の幅は、どちらも約 0.3(学習率)にそろいます。この谷では、学習率 0.3 で、60歩で損失が 0.00925 まで下がりました。傾きの大きさの違いが、進み幅に直接は響かないため、谷の形の影響を受けにくくなります。

4. どれが良いかは、問題による

この比較は、1つの谷の形と、人が選んだ学習率での結果です。学習率の選び方で、順位は変わります。実際のAIの学習では、Adam 系の方法がよく使われますが、問題によって、ほかの方法が選ばれることもあります。

思い出しメモ 「勢い(モメンタム)」は、坂を転がる玉が、前の速さを保とうとする性質のたとえです。
ひとことで言うとこの章の細長い谷では、勢いや、方向ごとの調整を足すと、速く進めました。

今につながる話

今の大きなAIの学習では、単純な勾配降下より、Adam などの改良版が広く使われています。学習率の設定や、途中で下げる工夫も、学習の成否を左右する大事な調整です。

なるほど2問

出典と確認状態

ほんとうは…(この比較の限界)

この章は、2つの変数だけの、きれいな谷での比較です。実際の損失の形は、はるかに複雑で、方法の優劣は、問題・学習率・バッチの大きさによって変わります。

出典(AI照合済み)

この章の計算はすべてあなたのブラウザの中で行われ、入力や結果はどこにも送信されません。例題と数値はこのサイトのオリジナルで、実在の製品・サービスとは関係ありません。

この章で、まちがいや古くなった情報に気づいたら、報告フォームから教えてください