勾配降下法
・関数 f(x)の最小値を求めるために、微分 f'(x)を利用する
・f'(x) < 0 の場合 (右下がりのグラフになる)
xを+方向へ移動すれば、最小値に近づく
・f'(x) > 0 の場合 (右上がりのグラフになる)
xを-方向へ移動すれば、最小値に近づく
・f'(x) = 0 の点は、臨界点と言われる
・f'(x) = 0 の xでf(x)がその近傍にあるすべての点より値が小さい場合、
その点は、極小値とよばれる。
大きい場合は、極大値とよばれる。
PR
統計、機械学習、AIを学んでいきたいと思います。 お役に立てば幸いです。