情報の勉強高校 情報Ⅰ

第4章 情報通信ネットワークとデータの活用

回帰直線と予測(傾き・切片せっぺん・残差・外挿)

散布図さんぷずの点の間に「一番合う直線」を1本引くと、まだ起きていないことを数で予測できます。この直線が回帰直線です。傾きと切片の読み方、残差と最小二乗法の考え方、予測してよい範囲、表計算ソフトウェアでの求め方まで、図と動く散布図で確かめます。

説明

1. 散布図に「一番合う直線」を引く

「散布図と相関」の単元で使った、売店の最高気温とアイスの数のデータです。強い正の相関(r = 0.93)がありました。明日の予想最高気温が 33℃ なら、アイスを何個用意すればよいでしょう。

点の並びに一番合う直線を1本引くと、気温から売上を予測できます。この直線を回帰直線(かいきちょくせん)といいます。このデータの回帰直線は y = 4x − 60(x は気温、y はアイスの数)で、x に 33 を入れると 4 × 33 − 60 = 72 個と予測できます。

このように、ある量(x)で別の量(y)を説明する式を求め、予測などに使う分析を回帰分析といいます。x が1つだけのものを単回帰分析ともいいます。

03060902024283236最高気温(℃)アイスの売上(個)y = 4x − 6033℃ なら 4×33−60 = 72 個
x に気温を入れると、直線の上の y が予測の値になる。
夏の暑い日の高校の売店で、生徒たちが冷凍ケースのアイスを選び、係の人がノートを見ながら考えている
明日は何個用意すればいい? 気温から売上を予測できると、売り切れや売れ残りを減らせる。

2. 傾きと切片を読む

回帰直線は、数学の一次関数と同じ y = ax + b の形です。

  • 傾き a:x が 1 増えると、y がいくつ増えるか(の見込み)。ここでは 4 なので、「気温が 1℃ 上がるごとに、アイスが約 4 個多く売れる」と読みます。傾きがマイナスなら、x が増えると y は減ります。
  • 切片 b:x が 0 のときの y の値。ここでは −60 です。

ただし、気温 0℃ で −60 個売れる、ということはありません。データがあるのは 23〜34℃ だけなので、切片はグラフの位置を決めるための数で、そのままの意味をもたないことがよくあります。傾きは「x が 1 増えたときの変化」として読むのが基本です。

2040608022263034最高気温(℃)アイス(個)5℃ 上がると20個 増える傾き:1℃で 4個(20÷5)−80−40040800102030気温(℃)切片 −60切片:0℃のとき?0℃で −60個?
傾きは「1 当たりの増え方」。切片は x = 0 のときの値。

3. 残差と最小二乗法:「一番合う」の決め方

「一番合う」をどう決めるのでしょう。勉強時間と小テストの5人のデータで考えます。各点の実際の y と、直線から求めた y(予測値)との差を残差(ざんさ)といいます。

残差 = 実際の値 − 直線から求めた値

点が直線より上なら残差はプラス、下ならマイナスです。プラスとマイナスが打ち消し合わないように、残差を2乗して合計し、その合計が一番小さくなる直線を選びます。この決め方を最小二乗法(さいしょうにじょうほう)といいます。図の正方形の面積が残差の2乗で、その合計が最小になるように直線の位置と傾きが決まっています。

直線5人の残差残差の2乗の合計
y = 0.9x + 3.3(回帰直線)−0.2, −0.1, 1.0, −0.9, 0.21.90
y = x + 30, 0, 1, −1, 02.00
y = 1.2x + 2.40.4, 0.2, 1.0, −1.2, −0.42.80

ほかの直線では、残差の2乗の合計が回帰直線の 1.90 より大きくなります。なお、予測に使う量 x を説明変数、予測したい量 y を目的変数といいます(独立変数・従属変数と呼ぶ本もあります)。

2468100123456勉強時間(時間)小テスト(点)残差 +1.0残差 −0.9y = 0.9x + 3.3
縦の線が残差。正方形(残差の2乗)の合計が最小になる直線が回帰直線。

4. 回帰直線の式を求める

最小二乗法で決まる直線の傾きと切片は、次の式で求められます(式が出てくる理由は数学の内容なので、ここでは使い方を覚えます)。

傾き a = 共分散きょうぶんさん ÷ x の分散ぶんさん
切片 b = y の平均 − a × x の平均

5人のデータでは、共分散 1.8、x の分散 2 なので a = 1.8 ÷ 2 = 0.9。b = 6 − 0.9 × 3 = 3.3。回帰直線は y = 0.9x + 3.3 です(共分散の求め方は「散布図と相関」の単元)。

切片の式から分かるように、回帰直線は必ず平均の点(x の平均, y の平均)を通ります。また、傾きは「相関係数 × y の標準偏差ひょうじゅんへんさ ÷ x の標準偏差」とも書けるので、傾きの符号(+・−)は相関係数の符号と同じになります。

2468100123456勉強時間(時間)小テスト(点)平均の点(3, 6)傾き a = 1.8 ÷ 2 = 0.9切片 b = 6 − 0.9×3 = 3.3
回帰直線は、x の平均と y の平均の点を通る。

5. 予測してよい範囲:外挿に注意

勉強時間 2.5 時間の人の点数を予測すると、0.9 × 2.5 + 3.3 = 5.55 点。データのある 1〜5 時間の範囲の中なので、外挿にはなりません(予測にどこまで使えるかは、点が直線にどれだけ当てはまっているかや、残差の大きさも見て判断します)。

では 10 時間なら? 0.9 × 10 + 3.3 = 12.3 点。10 点満点のテストなのに、満点を超えてしまいました。データの範囲の外に直線を伸ばして予測することを外挿(がいそう)といいます。範囲の外でも同じ直線の関係が続くとは限らないので、外挿は大きく外れることがあります。

予測に使うときは、①データの範囲の中か、②予測した値が現実にあり得るか(マイナスの個数、満点超え など)を必ず確かめましょう。

0481216024681012勉強時間(時間)小テスト(点)データのない範囲満点 10点2.5時間→5.55点10時間→12.3点?
データのない範囲(灰色。1時間より左と5時間より右)に伸ばした直線(点線)は、あり得ない値を出すことがある。

回帰直線は「データのある範囲で、おおよそこうなる」という見込み。どこまでも正しい公式ではありません。

6. 残差を読む・当てはまりのよさ

残差を見ると、普段の傾向からのずれが分かります。売店のデータでは、28℃ の日は予測 52 個に対して 60 個売れ、残差は +8(予測より多い)。25℃ の日は予測 40 個に対して 32 個で、残差は −8(予測より少ない)。残差の大きい日を調べると、「部活の大会があった」「雨が降った」など、気温以外の理由が見つかることがあります。

点が直線の近くに集まっている(相関が強い)ほど、y の散らばりに比べて残差は小さくなり、予測は当たりやすくなります。この当てはまりのよさを表す数を決定係数けっていけいすう(R²、0〜1)といい、x が1つの回帰直線では相関係数の2乗と同じ値です。このデータでは 0.93² ≒ 0.86 です。相関が弱いデータ(r = 0.3 など)では、y の散らばりに比べて残差の割合が大きくなり、x から y を予測する力は弱くなります。どこまでの外れなら使えるかは、残差の大きさと、目的に必要な正確さで判断します。

2040608022242628303234最高気温(℃)アイス(個)+8(予測より多い)−8(予測より少ない)
直線より上の点は残差がプラス、下の点はマイナス。

7. 表計算ソフトウェアで求める

実際の分析では、回帰直線は表計算ソフトウェアで求めます。B列に気温(x)、C列にアイスの数(y)を入れたとき、次の関数が使えます。

  • 傾き:=SLOPE(C2:C11, B2:B11) 切片:=INTERCEPT(C2:C11, B2:B11)
  • 予測:=FORECAST.LINEAR(33, C2:C11, B2:B11)(ソフトによっては FORECAST)
  • 相関係数:=CORREL(B2:B11, C2:C11) 決定係数:=RSQ(C2:C11, B2:B11)

SLOPE・INTERCEPT・FORECAST はy の範囲が先、x の範囲が後です。逆にすると別の値になるので注意しましょう。また、散布図を作って「近似曲線(線形近似)」を追加し、「数式を表示する」「R-2 乗値を表示する」を選ぶと、グラフに回帰直線と式、決定係数が出ます。

ABCEF1日気温アイス212332傾き4322532切片−60432644相関係数0.9354274833℃の予測72652860762956873067983160109327211103469F列に入れた式F2:=SLOPE(C2:C11,B2:B11)F3:=INTERCEPT(C2:C11,B2:B11)F4:=CORREL(B2:B11,C2:C11)F5:=FORECAST.LINEAR(33,C2:C11,B2:B11)(y の範囲 C を先に、x の範囲 B を後に)
関数で、傾き・切片・予測値を求める。

ひとことで言うと回帰直線 y=ax+b で予測する。傾きは1当たりの増え方。範囲外の予測は危うい。

例題

例題1 回帰直線の式から予測する

ある学校の売店で、最高気温 x(℃)とスポーツドリンクの売上 y(本)のデータから、回帰直線 y = 3.2x − 40 が得られました(データの気温は 22〜33℃)。①傾き 3.2 はどんな意味ですか。②最高気温 30℃ の日の売上は何本と予測できますか。

例題2 データから回帰直線を求める

5日間の最高気温 x(℃)と、部活の後に売れた麦茶の数 y(杯)です(「散布図と相関」の例題2と同じデータ)。回帰直線を求め、27℃ の日の数を予測しましょう。

日12345
気温 x2224262830
麦茶 y3229383541

練習

1
勉強時間 x(時間)とテストの点 y の回帰直線が y = 2.5x + 50 でした。傾き 2.5 の意味として最も適当なものはどれですか。
2
回帰直線 y = 0.8x + 12 で、x = 40 のときの予測値はいくつですか。
3
売店のデータの回帰直線は y = 4x − 60 でした。30℃ の日は実際に 67 個売れました。この日の残差(実際の値 − 直線から求めた値)はいくつですか。
4
身長 150〜180 cm の高校生のデータから、身長 x と体重 y の回帰直線を求めました。この直線を使って身長 50 cm の赤ちゃんの体重を予測することについて、最も適当なものはどれですか。
5
x と y の共分散が 12、x の分散が 8 でした。回帰直線の傾きはいくつですか。

さわってみよう

点を動かして、回帰直線を見る

点を指(マウス)で動かすと、回帰直線と式がその場で変わります(スクロールはグラフの外で)。まず「残差」を押して、縦の線(残差)を出しましょう。1つの点を大きく上に動かすと、直線はどう動くでしょうか。「外れ値はずれちを1つ足す」も試してみましょう。

外れ値1つで、直線の傾きも大きく変わりました。最小二乗法は残差を2乗するので、大きく離れた点に強く引っぱられます。相関が弱いデータでは、y の散らばりに比べて残差(縦の線)が長く、x から予測する力が弱いことも分かります。

やってみよう(共通テスト形式)

このサイトで作った問題です(過去の試験問題ではありません)。

高校の学食では、暑い日に冷たいうどんの注文が増え、売り切れたり余ったりして困っていた。生徒会の K さんは、天気予報の最高気温から注文数を予測しようと考え、6月から7月の12日分のデータを集めた。

日最高気温(℃)注文(杯)
A2630
B3263
C2422
D3055
E2849
F2520
G3155
H2740
I3364
J2628
K3043
L2936

K さんは表計算ソフトウェアで散布図を作り、回帰直線を求めた。回帰直線の式は y = 5x − 100(x は最高気温、y は注文数)だった。

問1
回帰直線の傾き 5 の意味として最も適当なものを選べ。
1030507022242628303234最高気温(℃)冷たいうどん(杯)y = 5x − 100
問2
明日の予想最高気温は 31℃ である。回帰直線から予測される注文数は何杯か。
問3
K さんは、回帰直線から求めた値より実際の注文がいちばん多かった日(残差がいちばん大きい日)を調べ、理由を考えることにした。それはどの日か。
問4
K さんは、この回帰直線を秋から冬にも使おうと考えた。予想最高気温 15℃ の日について、最も適当な考え方を選べ。

この単元が出た過去問の解説

ちょっと寄り道:豆知識・こぼれ話

試験に出るとはかぎりませんが、知っていると情報がもっと面白くなる話です。

「回帰」は、背の高さの研究から生まれた言葉

回帰(regression)という言葉を使い始めたのは、イギリスのフランシス・ゴルトンです。彼は親と子の身長を調べ、背がとても高い親の子は、平均すると親ほどは高くなく、全体の平均のほうに近づくことに気づきました。とても低い親の子も、同じように平均に近づきます。1886年の論文で、彼はこれを「平凡(普通)への回帰」と呼びました。今は「平均への回帰」といいます。この研究で使われた、散布図に直線を当てはめる方法が、のちに「回帰直線」と呼ばれるようになりました。

参考:F. Galton, “Regression Towards Mediocrity in Hereditary Stature”, Journal of the Anthropological Institute, 15 (1886)

最小二乗法は、見失った星を見つけ出した

1801年1月1日、イタリアの天文学者ピアッツィが新しい天体(今の準惑星じゅんわくせいケレス)を見つけましたが、数週間で太陽の方向に近づいて見えなくなりました。わずかな観測データから、どこにまた現れるかを計算したのが、24歳のドイツの数学者ガウスです。その予測した位置の近くで、同じ年の12月の終わりにケレスが再び見つかりました。ガウスは1809年の本で、観測のずれの2乗の合計を最小にする方法(最小二乗法)を説明し、1795年ごろから使っていたと書いています。ただ、この方法を先に本で発表したのはフランスのルジャンドル(1805年)で、どちらが先かで争いになりました。

参考:Encyclopaedia Britannica「Carl Friedrich Gauss」「Ceres」「least squares method」、A.-M. Legendre『Nouvelles méthodes pour la détermination des orbites des comètes』(1805)、C. F. Gauss『Theoria motus』(1809)

わからなかったら、ここへもどる

あわせて読む

次はこれ

先生・おうちの方へ

つまずきやすい所:①傾きと切片の意味の取り違え(切片を「x が 1 のとき」と読む など)。②残差の符号(実際 − 予測)を逆にする。③データの範囲の外まで回帰直線で予測してしまう(外挿)。④表計算の SLOPE・INTERCEPT 関数の引数ひきすうの順番(y の範囲が先)。

共通テストとのつながり:第4問では、回帰直線の式に値を入れて予測する、回帰直線より上(下)にある点を選ぶ、残差に注目して特徴のあるデータを探す、といった観点が出ています。このページの問題・場面・数値はすべてこのサイトで作ったものです。

計算について:傾き=共分散÷xの分散(n で割る分散・共分散。n−1 で割っても比なので同じ値)。図・問題のデータは、回帰直線の傾き・切片が小数第1位までのきりのよい数になるように作った架空かくうのものです。すべて Python の fractions で確かめています(verify/c4-kaiki.py)。決定係数は単回帰では相関係数の2乗に等しくなります。

授業で使うとき:「さわってみよう」で「残差」を表示し、1点を大きく動かすと、最小二乗法が外れ値に引っぱられやすいことが見られます。「相関が弱いデータ」で、回帰直線を引いても予測に向かないことを話題にできます。

学習指導要領:情報Ⅰ (4)ア(ウ)・イ(ウ) / 参考:高等学校学習指導要領(平成30年告示)解説 情報編 情報Ⅰ (4)ア(ウ)・イ(ウ)(データの関係性を数式の形で表す単回帰分析、回帰直線を考えデータの変化を予測する)、文部科学省「高等学校情報科『情報Ⅰ』教員研修用教材」第4章 学習22(単回帰分析を用いた値の推測すいそく、残差、最小二乗法、決定係数)