隠れ層のニューロンの個数をふやす 500Deep Learning 2024年04月21日 0 ・正解率などが上がるのは、いろいろな特徴に対応できるニューロンが増えるため・ただし、限界があるため、ニューロンを増やすのではなく、層を増やす PR
encoder-decoderモデル 500Deep Learning 2024年02月04日 0 seq2seqやtransformerで使われるモデル。encoderは、入力データをベクトルへ変換し、decoderは、データを復元する。
ソフマックス関数 500Deep Learning 2023年10月08日 0 〇 出力層の活性化関数として用いられる〇 各ノードの出力について・合計すると、1となる・0または、正の値をとる・大小関係が保存されることから、各出力が、そのクラスに属する確率と解釈される。
勾配降下法 500Deep Learning 2023年04月30日 0 ・関数 f(x)の最小値を求めるために、微分 f'(x)を利用する・f'(x) < 0 の場合 （右下がりのグラフになる） xを+方向へ移動すれば、最小値に近づく・f'(x) > 0 の場合 (右上がりのグラフになる） xを-方向へ移動すれば、最小値に近づく・f'(x) = 0 の点は、臨界点と言われる・f'(x) = 0 の xでf(x)がその近傍にあるすべての点より値が小さい場合、その点は、極小値とよばれる。大きい場合は、極大値とよばれる。
