【DS検定対策】不完全な記憶を補完する!「ホップフィールドネットワーク」
人間の脳が、一部のヒントから昔の記憶を思い出すように、不完全な入力から正しいパターンを復元できるモデル。それが「ホップフィールドネットワーク」です。
1. 【 問題 】
すべてのユニットが互いに結合している「相互結合型」のネットワークで、エネルギー関数が最小となる状態へ向かう性質を利用して、記憶したパターンを復元(連想)できるモデルを何と呼ぶでしょうか?
① 畳み込みニューラルネットワーク(CNN)
② ホップフィールドネットワーク
③ 回帰型ニューラルネットワーク(RNN)
④ パーセプトロン
2. 【 解答 】
正解: ② ホップフィールドネットワーク
3. 整理:エネルギーの谷を下る「連想メモリ」
このモデルの最大の特徴は、あらかじめいくつかのパターンを「エネルギーの谷(安定した状態)」として覚え込ませておく点にあります。
【 ホップフィールドネットワークの仕組み 】
[ 1. 記憶(学習) ]
ヘップの学習則などを用い、覚えたいパターンをネットワークの「重み」として固定する。
[ 2. 入力 ]
ノイズが混じったり、一部が欠けたりした不完全なデータを入力する。
[ 3. 想起(エネルギー最小化) ]
★ ここがポイント!
各ユニットが状態を更新し続け、ネットワーク全体の「エネルギー」が最も低い場所へ向かって転がり落ちる。最終的に、最も近い「記憶していたパターン」で静止する。
--------------------------
◎ 特徴: 「相互結合型」であり、情報の流れが一方向(階層型)ではないのが特徴です。
ヘップの学習則などを用い、覚えたいパターンをネットワークの「重み」として固定する。
[ 2. 入力 ]
ノイズが混じったり、一部が欠けたりした不完全なデータを入力する。
[ 3. 想起(エネルギー最小化) ]
★ ここがポイント!
各ユニットが状態を更新し続け、ネットワーク全体の「エネルギー」が最も低い場所へ向かって転がり落ちる。最終的に、最も近い「記憶していたパターン」で静止する。
--------------------------
◎ 特徴: 「相互結合型」であり、情報の流れが一方向(階層型)ではないのが特徴です。
4. 覚えておくべき3つのキーワード
1. 連想メモリ: 一部の情報から全体を思い出す機能のこと。
2. エネルギー関数: ネットワークの状態の「安定度」を示す指標。学習はこの関数を最小化するように進みます。
3. 相互結合: 全てのニューロンが自分以外の全員と繋がっている構造のこと。
5. DS検定形式:実戦4択クイズ
問:ホップフィールドネットワークにおいて、ネットワークが安定した状態(エネルギーが極小の状態)に達したときの値を何と呼ぶか。
① 勾配 ② アトラクタ(吸引子) ③ バイアス ④ 活性化関数
【 正解: ② 】
解説: 記憶された正しいパターンは「アトラクタ」と呼ばれ、不完全な入力も磁石のようにここに引き寄せられます。
6. まとめ
DS検定において「相互結合」「連想メモリ」「エネルギー最小化」という言葉が出たら「ホップフィールドネットワーク」です。現代の生成AIの遠い先祖の一つとして、そのユニークな構造を理解しておきましょう!
PR