← たのしく学びなおし 一覧 / たのしいAIの数学 / 用語集
柱E 確率で選ぶAI照合済み

点数を確率に変える:softmax

AIの内部で出る「点数」は、どうやって、足して100%になる確率になるのでしょうか。
イメージ図(AI生成)
この章の答え点数の差を指数で増幅して、足して1の確率にします。
必要な数学指数(累乗)・割合
目安読むのに約5分、そのあと図をさわります
読みもの

得点を「確率」に直す、ひとつの関数

文章を作るAIは、次の言葉を選ぶとき、内部では候補ごとの「得点」を持っています。得点は、プラスにもマイナスにもなる、ただの実数です。「雨 2.0、晴れ 1.0、曇り 0.5」のように。この得点を、「雨が 62.9%、晴れが 23.1%、曇りが 14.0%」という確率にどう直すかが、この章の話題です。

直す条件は二つだけ

確率には、守るべき約束が二つあります。どれも 0 以上であること、そして全部足すと 1 になること。得点にマイナスがあるのが、まず問題です。そこで、得点を指数にして e の累乗にします。指数関数は、どんな実数からも正の数を作るので、一つ目の約束が満たされます。次に、全部の合計で割れば、二つ目の約束も満たされます。これだけの手順が、ソフトマックス関数です。

指数にして、合計で割る。それだけで、得点は確率になる。

「差」だけが効く

ソフトマックスには、見落としやすい性質があります。全部の得点に同じ数を足しても、確率が変わらないことです。効いているのは得点の差だけで、水準ではありません。「雨 2.0・晴れ 1.0」と「雨 102.0・晴れ 101.0」は、同じ確率になります。計算機の中では、この性質を使って、いちばん大きい得点を引いてから計算し、数が大きくなりすぎるのを避けています。

温度というつまみ

得点を、ある数 T で割ってからソフトマックスにかけると、確率の偏り方が変わります。T を小さくすれば、一位がほぼ確実に選ばれ、大きくすれば、どの候補もほぼ同じ確率に近づきます。生成するAIの「創造性」のつまみとして紹介される温度は、この T のことです。T を動かして確率がなだらかに変わる様子は、下の図で確かめられます。

一位だけを選ばない理由

最も確率の高い候補を毎回選べば、答えはいつも同じになり、文章は単調になりがちです。確率に従って選べば、同じ入力から、毎回少しずつ違う文が出ます。ソフトマックスは、「得点」を「選び方の確率」に直すことで、この揺らぎの余地を作っています。次の章では、確率の予測がどれだけ外れているかを測る、交差エントロピーを見ます。

指数関数が選ばれる理由

得点を確率に直すだけなら、他にも方法がありそうです。たとえば、得点を、そのまま合計で割る方法は、得点が負だと、うまくいきません。指数関数を使うと、得点が1違うごとに、確率の比が、一定の倍率で変わる、という扱いやすい性質が得られます。この性質は、微分もしやすく、学習との相性が良いことが、広く使われている理由の一つです。

「確率」の読み方

ソフトマックスの出力は、「合計が1で、0以上」という、確率の約束を満たしています。ただし、それが「本当にそうなる確率」である保証は、ありません。モデルが「90%」と出しても、実際に90%の割合で当たるとは限らないのです。出力が確率の形をしていることと、それが信頼できる確率であることは、別に確かめるべきことです。

手を動かして確かめる

次の語の候補(雨・晴れ・曇り)に、モデルが点数をつけたとします。点数は正負どちらにもなれ、そのままでは確率になりません。点数 (2, 1, 0.5) を、確率に直す方法を見ます。点数は自作の例です。

点数と温度を動かして、確率の山の形がどう変わるかを見てください。確率の合計は、いつも1です。

計算を順に追う

1. 指数で、必ずプラスにする

点数 z を e の z 乗にすると、負の点数でも必ず正の数になります(e は約2.718 の定数です)。点数が1上がると、約2.718倍になる、という増え方です。これでマイナスの確率は出ません。

2. 合計で割って、足して1にする

正の数にした値を、全部の合計で割ります。すると各値は0から1の間になり、合計はちょうど1です。これを softmax と呼びます。点数 (2, 1, 0.5) からは、雨 62.9%、晴れ 23.1%、曇り 14.0% が出ます。

p_i = e^(z_i) / (e^(z₁) + e^(z₂) + e^(z₃)) e² = 7.389、e¹ = 2.718、e⁰·⁵ = 1.649(合計 11.756) 7.389/11.756 = 0.629、2.718/11.756 = 0.231、1.649/11.756 = 0.140

3. 温度で、山の尖り方が変わる

点数を温度 T で割ってから softmax にします。T が小さいと、最大の点数の語に確率が集まります(T=0.5 で、雨 84.4%)。T が大きいと、確率が均されます(T=2 で、雨 48.1%)。前の章の「温度つきの確率」は、同じ仕組みを、数え上げた確率に対して行ったものです。

p_i = e^(z_i/T) / Σ e^(z_j/T)

4. 点数の差だけが効く

すべての点数に同じ数を足しても、分子と分母に同じ倍率がかかるので、確率は変わりません。確率に効くのは、点数の差だけです。計算機では、最大の点数を引いてから指数にして、数があふれるのを防ぐのが普通です。

思い出しメモ e の累乗は、前に出てきた「2倍を何回も(累乗)」と同じ種類の計算で、底が約2.718 になったものです。
ひとことで言うと点数の差を指数で増幅して、足して1の確率にします。

今につながる話

分類や、次の言葉の選択など、複数の候補から1つを確率的に選ぶ場面で、softmax は広く使われています。ただし、出てきた確率が現実の頻度と合っているとは限りません。確率として使うには、別途、確かめる必要があります。

前に読むと楽な章

なるほど2問

出典と確認状態

ほんとうは…(温度とのつながり)

前の章の「数え上げた確率 p を 1/T 乗して正規化する」方法は、点数を log p とした softmax と一致します。ここでは、2つを同じ仕組みの別の見え方として扱っています。

出典(AI照合済み)

この章の計算はすべてあなたのブラウザの中で行われ、入力や結果はどこにも送信されません。例題と数値はこのサイトのオリジナルで、実在の製品・サービスとは関係ありません。

この章で、まちがいや古くなった情報に気づいたら、報告フォームから教えてください