忍者ブログ

いけいけ機械学習

統計、機械学習、AIを学んでいきたいと思います。 お役に立てば幸いです。

サポートベクターマシン(SVM)とカーネル法

カーネル法


非線形のデータに対して、カーネルと呼ばれる写像関数を用いて、

より高次元空間へ写像し、分類を可能にする。

カーネル関数の種類


カーネルには、次のようなものがある

・線形カーネル

・多項式カーネル

・RBFカーネル

・シグモイドカーネル



PR

サポートベクターマシン概要

サポートベクターマシン概要

・教師あり学習

・データを2つに分ける線を計算で求める

・2つの分かれたデータと境界との距離を、マージンとよぶ

・このマージンを最大にする境界を計算で求める

・データによっては、境界が局面になるような場合がある。

これには、カーネルトリックと呼ばれるテクニックが用いられる

・カーネルトリックは、各データの次元を大きくして、高い次元で境界を形成するもの

・次元を上げるには、カーネル関数と呼ばれるものを使う

・カーネル関数は、次元を上げたのと同じ状態を作り出すもの

・カーネル関数には、

「多項式型」「ガウス型」

などがある