ニューラルネットワーク 活性化関数 490ニューラルネットワーク 2021年05月03日 0 ニューラルネットワークの出力を決める関数が活性化関数。次のようなものがある。1.ステップ関数f(x) = 0 ( x <= 0 ) 1(x>0)2.シグモイド関数f(x) = 1 / 1+ e-x3.ReLU関数f(x) = 0 ( x <= 0 ) x(x>0)4.Leaky ReLU関数f(x) = αx ( x <= 0 ) x(x>0)αは、微小な値とする
バックプロパゲーションの処理 490ニューラルネットワーク 2020年12月27日 0 バックプロパゲーション処理では、各出力ニューロンの誤差を、各結合パラメータで微分し誤差を小さくするように影響を与えるパラメータほど大きく更新する
