忍者ブログ
統計、機械学習、AIを学んでいきたいと思います。 お役に立てば幸いです。

【DS検定対策】データから母数を逆算する!「尤度(ゆうど)」と「最尤推定」の仕組み

データサイエンスや統計学において、手元にあるデータが「どのような確率の仕組み(パラメータ)から生み出されたものなのか」を逆算するための最も強力なアプローチが「尤度(ゆうど:Likelihood)」と「最尤推定(Maximum Likelihood Estimation)」です!

1. 【 問題 】

統計的モデリングにおいて、実際に観測されたデータが得られる確率をパラメータの関数とみなしたものを何と呼ぶでしょうか?また、その値(尤度)を最大にするパラメータを求めてモデルの係数を決める手法を何と呼ぶでしょうか?

① 尤度(Likelihood) / 最尤推定(Maximum Likelihood Estimation)
② 期待値(Expected Value) / 最小二乗法(Least Squares Method)
③ 分散(Variance) / 主成分分析(Principal Component Analysis)
④ 損失関数(Loss Function) / 勾配降下法(Gradient Descent)


2. 【 解答 】

正解: ① 尤度(Likelihood) / 最尤推定(Maximum Likelihood Estimation)

3. 整理:「確率」と「尤度(もっともらしさ)」の違い

初学者が混乱しやすい「確率」と「尤度」の違いをすっきりと整理しておきましょう。

概念視点(固定するもの)意味・使い方
確率
(Probability)
パラメータ(確率の偏り)を固定し、
どんなデータが出るかを予測する。
例:「コインの表が出る確率が0.5のとき、3回連続で表が出る確率は?」
尤度
(Likelihood)
観測されたデータ(結果)を固定し、
どのパラメータが一番もっともらしいかを評価する。
例:「コインを10回投げたら7回表が出た。このとき、表が出る確率が0.7である『もっともらしさ(尤度)』はどれくらいか?」

4. 最尤推定(MLE)のポイントと「対数尤度」

・最尤推定(Maximum Likelihood Estimation):
「今手元にあるデータが起きる確率(尤度)」が最大になるようなパラメータ(確率の偏りや直線の傾きなど)を逆算して決定する手法。

・対数尤度(Log-Likelihood)の活用:
確率の掛け算(積)が連続すると計算が難しくなるため、実務では対数(log)をとって足し算(和)に変換した「対数尤度」を最大化(またはマイナスをかけて最小化=損失関数化)することが一般的です。

5. DS検定形式:実戦4択クイズ

問:統計的推定における「最尤推定法(Maximum Likelihood Estimation)」に関する記述として、最も適切なものはどれか。

① 観測されたデータが生成される確率(尤度)を最大化するようなパラメータを探索し、モデルの係数を決定する推定手法である。
② 理論的な確率分布を一切仮定せず、手元のデータの順位情報だけを利用して中央値や相関関係をノンパラメトリックに計算する手法である。
③ 実際の観測値とモデルの予測値との間の「残差の二乗和」が最小になるようにパラメータを解析的に決定する機械学習の基礎手法である。
④ 過去の全ての勾配の二乗和を蓄積し、パラメータごとに個別の学習率を自動的に調整しながら最適な重みを探す最適化アルゴリズムである。

【 正解: ① 】

解説: 最尤推定法の目的と定義を正確に理解しているかを問う重要問題です。
①が正解です。尤度が最大になるパラメータを求めます。
③は「最小二乗法(OLS)」の説明です。
④は「AdaGrad」の説明です。


6. まとめ

DS検定や資格試験で「観測データから得られる確率」「尤度を最大にする」「パラメータを推定する」といったキーワードが出たら、正解は「尤度(Likelihood)」および「最尤推定(MLE)」です! 確率との視点の違い(何が固定で何が変数か)を意識してしっかり押さえておきましょう!

PR