| 講演名 | 2011-07-25 スパースコーディングを用いた指数忘却を持つ連想記憶モデルの相互情報量による最適化(知的システム,一般) 綴木 馴, 宮田 龍太, 倉田 耕治, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本研究では,近年,脳の機能に実在する可能性が高いとされる指数忘却を取り入れた連想記憶モデルについて研究する.この連想記憶モデルにはスパースコーディーングを適用し,指数忘却係数の最適化などを相互情報量を用いた数値計算により行う.そして,従来の方法である,方向余弦を用いた最適化と相互情報量を用いた最適化の比較を行う. |
| 抄録(英) | According to the previous researches, the associative memory model with forgetting process could avoid overloading due to exponential decay of its connection weights at each learning step for embedding a new pattern. However, the previous researches decided whether the network could retrieve the stored pattern correctly in an arbitrary manner, in other words, the dirrection cosine between the memory pattern and the stationary state of the network. Recently, it has been shown that the mutual information should be the most appropriate concept to measure the retrieval quality, especially for sparsely encoded networks but also in general. In this paper, from the view of information theory, we analyze the sparsely encoded associative memory model with forgetting process. We searched the optimal decay rate to maximize the mutual information at each ring rate by the numerical simulations. Moreover, we compare optimization of the decay rate utilizing mutual information with the ordinary one utilizing the direction cosine. |
| キーワード(和) | 連想記憶モデル / スパースコーディング / 相互情報量 / 指数忘却 / 最適化 |
| キーワード(英) | Associative Memory Mode / Sparsely Encoded / Mutual Information / Forgetting Process / Optimization |
| 資料番号 | NC2011-21 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2011/7/18(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | スパースコーディングを用いた指数忘却を持つ連想記憶モデルの相互情報量による最適化(知的システム,一般) |
| サブタイトル（和） | |
| タイトル（英） | Optimization of the Sparsely Encoded Associative Memory Model with Forgetting Process by the Mutual Information. |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 連想記憶モデル / Associative Memory Mode |
| キーワード(2)（和/英） | スパースコーディング / Sparsely Encoded |
| キーワード(3)（和/英） | 相互情報量 / Mutual Information |
| キーワード(4)（和/英） | 指数忘却 / Forgetting Process |
| キーワード(5)（和/英） | 最適化 / Optimization |
| 第 1 著者 氏名（和/英） | 綴木 馴 / Jun TSUZURUGI |
| 第 1 著者 所属（和/英） | 岡山理科大学工学部知能機械工学科 Okayama University of Science Faculty of Engineering Department of Intelligent Mechanical Engineering |
| 第 2 著者 氏名（和/英） | 宮田 龍太 / Ryouta MIYATA |
| 第 2 著者 所属（和/英） | 東京工業大学大学院 Interdisciplinary Graduate School of Science and Engineering, Tokyo Institute of Technology |
| 第 3 著者 氏名（和/英） | 倉田 耕治 / Kouji KURATA |
| 第 3 著者 所属（和/英） | 琉球大学工学部 Faculty of Engineering University of the Ryukyus |
| 発表年月日 | 2011-07-25 |
| 資料番号 | NC2011-21 |
| 巻番号（vol） | vol.111 |
| 号番号（no） | 157 |
| ページ範囲 | pp.- |
| ページ数 | 4 |
| 発行日 | |