忍者ブログ
統計、機械学習、AIを学んでいきたいと思います。 お役に立てば幸いです。

【DS検定対策】不完全な記憶を補完する!「ホップフィールドネットワーク」

人間の脳が、一部のヒントから昔の記憶を思い出すように、不完全な入力から正しいパターンを復元できるモデル。それが「ホップフィールドネットワーク」です。

1. 【 問題 】

すべてのユニットが互いに結合している「相互結合型」のネットワークで、エネルギー関数が最小となる状態へ向かう性質を利用して、記憶したパターンを復元(連想)できるモデルを何と呼ぶでしょうか?

① 畳み込みニューラルネットワーク(CNN)
② ホップフィールドネットワーク
③ 回帰型ニューラルネットワーク(RNN)
④ パーセプトロン


2. 【 解答 】

正解: ② ホップフィールドネットワーク

3. 整理:エネルギーの谷を下る「連想メモリ」

このモデルの最大の特徴は、あらかじめいくつかのパターンを「エネルギーの谷(安定した状態)」として覚え込ませておく点にあります。

【 ホップフィールドネットワークの仕組み 】

[ 1. 記憶(学習) ]
ヘップの学習則などを用い、覚えたいパターンをネットワークの「重み」として固定する。

[ 2. 入力 ]
ノイズが混じったり、一部が欠けたりした不完全なデータを入力する。

[ 3. 想起(エネルギー最小化) ]
★ ここがポイント!
各ユニットが状態を更新し続け、ネットワーク全体の「エネルギー」が最も低い場所へ向かって転がり落ちる。最終的に、最も近い「記憶していたパターン」で静止する。

--------------------------

特徴: 「相互結合型」であり、情報の流れが一方向(階層型)ではないのが特徴です。

4. 覚えておくべき3つのキーワード

1. 連想メモリ: 一部の情報から全体を思い出す機能のこと。
2. エネルギー関数: ネットワークの状態の「安定度」を示す指標。学習はこの関数を最小化するように進みます。
3. 相互結合: 全てのニューロンが自分以外の全員と繋がっている構造のこと。


5. DS検定形式:実戦4択クイズ

問:ホップフィールドネットワークにおいて、ネットワークが安定した状態(エネルギーが極小の状態)に達したときの値を何と呼ぶか。

① 勾配   ② アトラクタ(吸引子)   ③ バイアス   ④ 活性化関数

【 正解: ② 】

解説: 記憶された正しいパターンは「アトラクタ」と呼ばれ、不完全な入力も磁石のようにここに引き寄せられます。


6. まとめ

DS検定において「相互結合」「連想メモリ」「エネルギー最小化」という言葉が出たら「ホップフィールドネットワーク」です。現代の生成AIの遠い先祖の一つとして、そのユニークな構造を理解しておきましょう!

PR