残差ネットワーク

・Residual Neural Network

・CNNに変更を加えたもの

畳み込み層とプーリング層で抽出された特徴と

元の情報を比較し、精度を上げる

パーセプトロンの学習アルゴリズム

パーセプトロンの学習アルゴリズム

1.初期処理

1-1. 重みづけやバイアス等のパラメータを初期化する


2.パラメータの更新処理

誤差が、指定された値より小さくなるまで、以下を繰り返す

2-1.学習用データから出力値を得る

2-2.出力値と教師信号を比較する

・出力値と、教師信号が等しい場合は、そのまま

・出力値と、教師信号が異なる場合は、学習によりパラメータを更新する

損失関数

教師あり学習で、正誤の誤差を評価する関数

・二乗和誤差

・交差エントロピー誤差

などがある。

パーセプトロンいろいろ

・パーセプトロンで正しく分離できる問題は

　線形分離可能な問題のみ

・多層なパーセプトロンを、ニューラルネットワーク

　という

勾配法

勾配法

・誤差にもとづいて、パラメータを調整する方法

・ニューラルネットワークでは、パラメータの数は膨大であり

誤差を最小にする値を求めることは、時間的に難しい

・誤差が最小になるパラメータを見つける勾配法を

勾配降下法、最急降下法という