【DS検定対策】ハイパーパラメータ自動調整の基本！「グリッドサーチ」の仕組み
機械学習モデルの精度を最大限に引き出すには、人間があらかじめ設定する設定値（ハイパーパラメータ）の最適な組み合わせを見つける必要があります。その最もシンプルで直感的な探索手法が「グリッドサーチ（Grid Search）」です！
1. 【 問題 】
機械学習において、調整したいハイパーパラメータの候補値をあらかじめ複数指定し、それらすべての組み合わせ（格子状の点）についてモデルを学習・評価して最も制度が高かった組み合わせを選択する探索手法を何と呼ぶでしょうか？
① グリッドサーチ（Grid Search）
② ランダムサーチ（Random Search）
③ ベイズ最適化（Bayesian Optimization）
④ 勾配降下法（Gradient Descent）
2. 【 解答 】
3. 整理：グリッドサーチのイメージとメリット・デメリット
例えば、調整したいパラメータが2つ（パラメータA：3候補、パラメータB：4候補）ある場合、3 × 4 ＝ 合計12通りの全組み合わせを1つずつ順番に試します。
【 ハイパーパラメータ探索手法の比較 】
| 手法名 | 仕組み | メリット・デメリット |
|---|---|---|
| グリッドサーチ （Grid Search） |
指定した候補値の「すべての組み合わせ」をしらみつぶしに試す。 | 【長所】 候補の中に必ず最良の組み合わせがあれば確実に見つけられる。 【短所】 パラメータ数や候補が増えると計算量が爆発する（組合せ爆発）。 |
| ランダムサーチ （Random Search） |
パラメータの探索範囲から「ランダムに値を抽出」して試す。 | 【長所】 試行回数を指定できるため計算量を制御しやすい。広範囲を浅く探すのに向く。 【短所】 運要素があり、最良の組み合わせを絶対見つけられるとは限らない。 |
| ベイズ最適化 （Optuna等） |
過去の試行結果から「次はどの値が良さそうか」を確率的に予測しながら探索する。 | 【長所】 少ない試行回数で効率的に良いパラメータにたどり着ける。 【短所】 アルゴリズム自体の理解や設定がやや複雑。 |
4. 実務の鉄則：交差検証（Cross Validation）とのセット運用
グリッドサーチを行う際、単に1回評価するだけだと「その分割データにたまたま適したパラメータ（過学習）」を選んでしまうリスクがあります。
そのため実務やScikit-learn等のライブラリでは、「グリッドサーチ ＋ 交差検証（GridSearchCV）」を組み合わせて、各パラメータ組み合わせごとに交差検証の平均精度を算出し、最も汎化性能が高い組み合わせを選ぶのが標準手順となっています。
5. DS検定形式：実戦4択クイズ
問：機械学習のハイパーパラメータ探索手法に関する記述として、最も適切なものはどれか。
① グリッドサーチはパラメータの最適な連続値を微分計算によって代数的に求める手法であるため、試行回数は常に1回で済む。
② パラメータの数や各パラメータの指定候補数が多くなると、グリッドサーチで試すべき組み合わせの数が指数関数的に増加し、計算時間が非常に長くなる。
③ グリッドサーチを行う際は、検証用データ（テストデータ）の精度が最も高くなるパラメータが得られるまで、テストデータを何度も使って検索を繰り返すべきである。
④ ランダムサーチは常にグリッドサーチよりも精度が低くなるため、実務で使われることは一切ない。
【 正解： ② 】
解説： ハイパーパラメータ探索の性質を問う王道問題です。
②が正解です。候補値が増えると全組み合わせの数が爆発的に増えるのがグリッドサーチ最大の弱点です。
①微分で自動更新するのはモデルの重みパラメータ（勾配降下法など）であり、ハイパーパラメータではありません。
③テストデータをパラメータ選定に何度も使うと「テストデータへの過学習（データリーク）」が起きるため、探索には交差検証用の学習・検証データを用います。
④探索範囲が広い場合や連続値の場合は、ランダムサーチの方がグリッドサーチより効率よく良解を見つけられるケースも多いです。
6. まとめ
DS検定やG検定で「あらかじめ指定した候補のすべての組み合わせを試す」「格子状に探索する」「全探索」といったキーワードが出たら、正解は「グリッドサーチ」です！ ランダムサーチやベイズ最適化（Optunaなど）との違い、そして「交差検証（GridSearchCV）とセットで使う」という実務テクニックまであわせて押さえておきましょう！
