「似ている」を、角度で測る
検索で、言葉は違うのに、意図が近い文章がちゃんと見つかることがあります。あるいは、おすすめ機能が、好みの近いものを並べてくれることもあります。その裏では、「似ている」を数で測る計算が行われています。代表的な道具が、矢印の向きの近さを測る、コサイン類似度です。
言葉を、矢印にする
言葉が数の並びで表せるなら、それを、原点から伸びる矢印だと考えられます。この章では、仕組みを見るために、各言葉を2つの数(食べ物らしさ・乗り物らしさ)で表した、手作りの例を使います。パンは (4, 0.5)、ごはんは (3.5, 0.8)、電車は (0.6, 4)。これらは私たちが説明のために決めた数で、実際のAIが計算した値ではありません。
内積で、向きの近さをはかる
2本の矢印の内積は、対応する成分をかけて足したものです。パンとごはんは 14.4、パンと電車は 4.4 になります。矢印の長さを同じにしておけば、向きが近いほど、内積は大きくなります。ただし、矢印が長いと、向きに関係なく大きくなってしまう弱点があります。
長さで割って、向きだけを残す。これがコサイン類似度。
長さで割る
そこで、2本の矢印の長さで割ります。すると、2本のなす角のコサインが得られます。同じ向きなら1、直角なら0、反対向きなら−1です。パンとごはんは 0.995(約5.7°)、パンと電車は 0.270(約74.3°)でした。(2, 1) と (4, 2) のように、長さが2倍違っても、向きが同じなら、類似度は1です。
実際のAIでは
実際の言葉の数の並びは、数百から数千個の数からなります。矢印は、そのぶん高い次元の空間を向きますが、角度で近さを測る考え方は、変わりません。ただし、「数が近い」ことと「意味が同じ」ことは別です。何が近くなるかは、その数をどんなデータで、どう作ったかで決まります。
角度で測ることの、使いやすさ
向きの近さを、角度ではなく、コサインで測るのには、計算上の理由があります。コサインは、−1から1に収まるので、「どれくらい似ているか」を、揃った尺度で比べられます。しかも、矢印が何次元でも、同じ式で計算できます。2次元で図に描いた感覚が、数百次元でも、そのまま使えるのです。
使うときの注意
ただし、コサイン類似度が高いことは、「意味が同じ」ことを保証しません。たとえば、「良い」と「悪い」のように、反対の意味の言葉が、同じような文脈で使われ、近い向きになることもあります。数が近いのは、「同じような使われ方をする」からで、「同じ意味だ」からではありません。この違いを意識しておくと、類似度の結果を、過信せずに読めます。
