| 講演名 | 1998/3/19 フィッシャー情報行列を用いたボルツマンマシンの学習について 小嶋 徹也, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | ボルツマンマシンの学習アルゴリズムは, 外界から与えられた確率分布を自らの平衡確率分布で近似するものであり, 統計学的には最尤推定量を勾配法により求めるプロセスと解釈できる.しかしその一方で, 莫大な計算時間を要するという問題点も抱えている.一方, フィッシャー情報行列をこの学習アルゴリズムに導入すると, 学習の収束が直線的になることが情報幾何学的考察などにより保証されている.本研究では, フィッシャー情報行列, およびその対角成分のみを用いた行列をボルツマンマシンの学習に導入し, 数値実験により, 計算時間や学習性能などの特性を分析した.また, これらのアルゴリズムを連想記憶モデルの学習過程に導入し, その効果を調べた. |
| 抄録(英) | Boltzmann machine learning is an algorithm which approximates the given probability distribution with its stochastically equilibrium distribution, but it requires much computational time in computer simulations. From the information-theoretical point of view, it has been known that Fisher information matrices make natural parameters of the Boltzmann distribution converge straight the most likelihood estimator of the given probability distribution. In this paper, numerical studies show some properties of the Boltzmann machine learning using Fisher information matrices in both cases where they have all of the elements and where only the diagonal elements are contained in them. Introduction to associative memory model is also presented. |
| キーワード(和) | ボルツマンマシン / 学習アルゴリズム / フィッシャー情報行列 / 指数型分布族 / 連想記憶モデル |
| キーワード(英) | Boltzmann machines / learning algorithms / Fisher information matrix / exponential family / associative memory model |
| 資料番号 | |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1998/3/19(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | フィッシャー情報行列を用いたボルツマンマシンの学習について |
| サブタイトル（和） | |
| タイトル（英） | On Boltzmann Machine Learning Algorithms Using Fisher Information Matrices |
| サブタイトル（和） | |
| キーワード(1)（和/英） | ボルツマンマシン / Boltzmann machines |
| キーワード(2)（和/英） | 学習アルゴリズム / learning algorithms |
| キーワード(3)（和/英） | フィッシャー情報行列 / Fisher information matrix |
| キーワード(4)（和/英） | 指数型分布族 / exponential family |
| キーワード(5)（和/英） | 連想記憶モデル / associative memory model |
| 第 1 著者 氏名（和/英） | 小嶋 徹也 / Tetsuya Kojima |
| 第 1 著者 所属（和/英） | 電気通信大学大学院情報システム学研究科 Graduate School of Information Systems, University of Electro-Communications |
| 発表年月日 | 1998/3/19 |
| 資料番号 | |
| 巻番号（vol） | vol.97 |
| 号番号（no） | 623 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |