【DS検定対策】過学習の正体を見破る！「バリアンス（分散）」の仕組み
機械学習モデルの予測誤差は、大きく「バイアス（偏り）」と「バリアンス（分散）」の2つに分解できます。そのうち、「訓練データの選び方によって予測結果がどのくらいブレるか」を表す指標が「バリアンス（Variance）」です！
1. 【 問題 】
機械学習における予測誤差の構成要素において、異なる訓練データセットを用いてモデルを学習させた際に、モデルの予測値がどれだけ変動（ブレ）するかを表す概念を何と呼ぶでしょうか？
① バリアンス（分散：Variance）
② バイアス（偏り：Bias）
③ 不可避誤差（Irreducible Error）
④ 正則化項（Regularization Term）
2. 【 解答 】
3. 整理：「バイアス」と「バリアンス」の違い（的当ての例え）
機械学習の誤差はよく「ダーツの的当て」に例えられます。この2つの違いを完璧に整理しましょう！
| 用語 | 意味・状態 | モデルの状態 |
|---|---|---|
| バイアス （Bias） |
予測値の平均が「真の値（中心）」からどれだけ離れているか（根本的なずれ・表現力不足）。 | 高バイアス ＝ 未学習 （Underfitting） モデルが単純すぎる。 |
| バリアンス （Variance） |
訓練データが変わったときに、予測値がどれだけばらつくか（データへの過敏さ・ブレ）。 | 高バリアンス ＝ 過学習 （Overfitting） モデルが複雑すぎる。 |
4. 超重要：バイアス・バリアンスのトレードオフ
モデルの複雑さ（表現力）を変えたとき、バイアスとバリアンスは相反する動きを見せます。
→ データが変わっても予測結果があまりブレない（低バリアンス）
→ ただし、真の複雑なパターンを捉えきれない（高バイアス ＝ 未学習）
・モデルを複雑にする（例：高次多項式や深い決定木）：
→ 訓練データの細かいノイズまで完璧に丸暗記できる（低バイアス）
→ ただし、別の訓練データを使うと予測結果がガラリと変わってしまう（高バリアンス ＝ 過学習）
★ 目標：
「バイアス」と「バリアンス」の合計である全体誤差（トータルリスク）が最小になるちょうどいい複雑さのモデルを目指すのが機械学習のゴールです。
5. DS検定形式：実戦4択クイズ
問：機械学習における「バリアンス（分散）」に関する記述として、最も適切なものはどれか。
① バリアンスが高いモデルは、訓練データに含まれるノイズや偶発的な特徴まで過剰に学習してしまっている（過学習状態である）可能性が高い。
② バリアンスとは、モデルの予測値の平均と真の値との間の根本的なズレを表すものであり、モデルの表現力が不足している場合に高くなる。
③ モデルの複雑さを上げれば上げるほど、バイアスとバリアンスの双方を同時にゼロへ近づけることができる。
④ バリアンスを抑えるための手法として、モデルのパラメータ数や決定木の深さを極限まで大きくすることが推奨される。
【 正解： ① 】
解説： バリアンスの性質と過学習との関係を問う問題です。
①が正解です。高バリアンスは訓練データ（のノイズ）に過剰にフィットしている過学習状態を意味します。
②は「バイアス（未学習）」の説明です。
③バイアスとバリアンスはトレードオフの関係にあり、同時にゼロにすることはできません。
④モデルを複雑にするとバリアンスは高くなります。バリアンス（過学習）を抑えるには正則化の導入やモデルの単純化が有効です。
6. まとめ
DS検定や資格試験で「訓練データの違いによる予測のブレ」「過学習状態」「モデルが複雑すぎる」といったキーワードが出たら、正解は「バリアンス」です！ 「バイアス＝未学習（単純すぎる）」「バリアンス＝過学習（複雑すぎる）」という対比構造を頭に叩き込んでおきましょう！
