講演名 2005/3/23
ベイズ事後分布の最適近似法の提案と有効性について
永田 賢二, 渡辺 澄夫,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 神経回路網、混合正規分布、ベイズネットワーク、隠れマルコフモデル、ボルツマンマシンなど、近年情報科学において広く用いられるようになった学習モデルの多くは特異モデルであることが知られている。これらのモデルを用いてベイズ学習を行う際にMCMC法により事後分布を近似すると、統計的正則モデルに比べ収束するための時間が非常に大きいという問題を有している。本論では事後分布を比較的実装しやすい単純な分布で近似する方法を提案し、その有効性を実験的に明らかにする。
抄録(英) A lot of learning machines such as neural networks, normal mixtures, Bayesian networks, and hidden Markov models are singular statistical models. When the Bayesian posterior distribution is approximated by Markov Chain Monte Carlo method, it requires huge costs. In this paper, we propose a new method to approximate the Bayesian posterior distribution of the singular statistical models by a comparatively simple distribution. And the properties of the proposed method are shown by experimetal results.
キーワード(和) 特異モデル / ベイズ事後分布 / MCMC法 / 確率的複雑さ
キーワード(英) Singular Learning Machines / Bayesian Posterior distribution / Markov Chain Monte Carlo (MCMC) Method / Stochastic Complexity
資料番号 NC2004-226
発行日

研究会情報
研究会 NC
開催期間 2005/3/23(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) ベイズ事後分布の最適近似法の提案と有効性について
サブタイトル(和)
タイトル(英) A Proposal and Effectiveness of the Optimal Approximation for Bayesian Posterior Distribution
サブタイトル(和)
キーワード(1)(和/英) 特異モデル / Singular Learning Machines
キーワード(2)(和/英) ベイズ事後分布 / Bayesian Posterior distribution
キーワード(3)(和/英) MCMC法 / Markov Chain Monte Carlo (MCMC) Method
キーワード(4)(和/英) 確率的複雑さ / Stochastic Complexity
第 1 著者 氏名(和/英) 永田 賢二 / Kenji NAGATA
第 1 著者 所属(和/英) 東京工業大学総合理工学研究科
Department of Computational Intelligence & Systems Science Tokyo Institute of Technology
第 2 著者 氏名(和/英) 渡辺 澄夫 / Sumio WATANABE
第 2 著者 所属(和/英) 東京工業大学精密工学研究所
P&I Lab., Tokyo Institute of Technology
発表年月日 2005/3/23
資料番号 NC2004-226
巻番号(vol) vol.104
号番号(no) 760
ページ範囲 pp.-
ページ数 6
発行日