TPU

TPU

テンソル・プロセッシング・ユニット

Google が機械学習用に開発した専用プロセッサー

モデルとパラメータ

モデルとパラメータ

・モデルは、分析対象に対して、データの構造を表す数学的な式など

・パラメータは、数学モデルを決めるもの

偏差平方和

偏差平方和

(各データ -  平均)²の和

代表的な前処理・モデルの改善方法

1.二値化

数値を、0と1へ変換する

2.平均値を引く

3.スケーリング

たとえば、最小値が、0、最大値が、1になるように変換する

4.正規化

L1正規化

ベクトルの要素の絶対値の和が1になるようにする

L2正規化

格業の要素の二乗和が、１になるようにする

オンライン学習

・一つずつ、または、ミニバッチという小さな単位で

データが与えられ、学習していく

・毎回、与えられたデータから差分を学習する