k分割交差検証 012学習 2021年05月16日 0 k分割交差検証データを、k個の同程度の大きさの無作為な部分集合(分割データ、foldと呼ぶ)に分割する。k=1 ~ kについて、以下を行う。(1) k番目以外のすべての分割データを使用してモデルの学習を行う(2)学習したモデルで、残りのk番目の分割データを予測した場合の誤差をみるこの標本外の誤差を用いて、モデルを評価する。 PR
モデル推定 012学習 2021年04月29日 0 モデル推定入力データから、共通点を見つける。1.クラスタリング 入力データを、適切な、まとまりに分ける。2.密度推定 データを記述できる関数があるとして、関数のパラメータをもとめる。
最適化アルゴリズム 012学習 2021年02月28日 0 最適化アルゴリズム1.SGD(確率的勾配加工法)データの順番を変えながら、ランダムに勾配下降法を適用し、収束の確率を高める2.Momentum SGDSGDに、Momentumの概念を加える3.Adagardこれまで計算した勾配で、学習率を変化させる4.RMS pop勾配の合計を指数移動平均で計算する5.AdamRMS pop とMomentum SGDを組み合わせ、収束を早くする
過学習 012学習 2021年02月09日 0 ニューラルネットワークの中間層の数など、パラメータの数が多すぎると訓練データに対しては、精度が上がっても未知のデータに対しては、精度が上がらなくなってしまう状態