忍者ブログ

いけいけ機械学習

統計、機械学習、AIを学んでいきたいと思います。 お役に立てば幸いです。

[PR]

×

[PR]上記の広告は3ヶ月以上新規記事投稿のないブログに表示されています。新しい記事を書く事で広告が消えます。

勾配降下法


・関数 f(x)の最小値を求めるために、微分 f'(x)を利用する

・f'(x) < 0 の場合 (右下がりのグラフになる)

 xを+方向へ移動すれば、最小値に近づく

・f'(x) > 0 の場合 (右上がりのグラフになる)

 xを-方向へ移動すれば、最小値に近づく

・f'(x) = 0 の点は、臨界点と言われる

・f'(x) = 0 の xでf(x)がその近傍にあるすべての点より値が小さい場合、

その点は、極小値とよばれる。

大きい場合は、極大値とよばれる。



PR