講演名 1996/2/2
学習経路と情報量の位相的性質との関係について
塩谷 浩之, 近藤 隆憲, 小嶋 徹也, 伊達 惇,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) ボルツマンマシンの学習とは、情報量の観点から見ると確率分布の空間を真の分布に向かってカルバック情報量の意味で分布を真の分布に近付けるということである。2素子のボルツマシマシンでは、種々のダイバージェンスのどれを用いても、学習の結果はいつも真の分布に一致する。α-ダイバージェンスは、二つの分布の離れ具合を測る規準で、αの値の極限においてカルバック情報量に一致するが、確率分布の全体の空間での位相的性質においては、大きく異なる。本研究では、情報量の位相的性質からの視点で、学習アルゴリズムにおける情報量選択と学習を繰り返していく過程で探索空間の辿る経路についての関連性について得られた結果を報告する。
抄録(英) From the view of information measures,the Boltzman machine learning makes the distribution close to the target distribution in the sense of kullback divergence. Hypothesises from the Boltzman machine learning with two units using the several divergences are always same as the target distribution. α-divergence is one of distance-like criteria between two probability distributions and equal to kullback divergence in the limited behavior. But both divergences have the different characteristics on toplogical properties in a space of all probability ditributions. In this study, we show the relation between information measures used in the Boltzman machine learning and learning paths in the parameter space.
キーワード(和) ボルツマンマシン / 学習経路 / 情報量
キーワード(英) Boltzman machine / learning path / information Measure
資料番号 NC95-93
発行日

研究会情報
研究会 NC
開催期間 1996/2/2(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 学習経路と情報量の位相的性質との関係について
サブタイトル(和)
タイトル(英) A Study of Learning Paths and Topological properties of Information Measures
サブタイトル(和)
キーワード(1)(和/英) ボルツマンマシン / Boltzman machine
キーワード(2)(和/英) 学習経路 / learning path
キーワード(3)(和/英) 情報量 / information Measure
第 1 著者 氏名(和/英) 塩谷 浩之 / Hiroyuki SHIOYA
第 1 著者 所属(和/英) 北海道大学工学部情報工学科
Faculity of Engineering, Hokkaidou University
第 2 著者 氏名(和/英) 近藤 隆憲 / Takanori KONDO
第 2 著者 所属(和/英) 北海道大学工学部情報工学科
Faculity of Engineering, Hokkaidou University
第 3 著者 氏名(和/英) 小嶋 徹也 / Tetsuya KOJIMA
第 3 著者 所属(和/英) 北海道大学工学部情報工学科
Faculity of Engineering, Hokkaidou University
第 4 著者 氏名(和/英) 伊達 惇 / Tsutomu DA-TE
第 4 著者 所属(和/英) 北海道大学工学部情報工学科
Faculity of Engineering, Hokkaidou University
発表年月日 1996/2/2
資料番号 NC95-93
巻番号(vol) vol.95
号番号(no) 505
ページ範囲 pp.-
ページ数 5
発行日