講演名 2005/1/18
ギブスサンプラーにおける部分木の同時更新
高畠 一哉,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) マルコフチェーンモンテカルロ(MCMC)法の一類として単一変数更新MCMCがありその1つがギブスサンプラーである. ギブスサンプラーは情報幾何的に見ると, ある多様体に沿ってマルコフ連鎖の確率分布を目標分布に最も近い点に移動させることを繰り返す一種の貪欲算法である. さらにギブスサンプラーは単一変数更新MCMCのなかで時間的に連続する変数間の独立性を最大化するものである. ギブスサンプラーで複数のノードを1つのノードとみなし更新を行うと目標分布への収束が速くなり, また連続する変数間の独立性も増すが, 引き換えに計算量的は増大する. 本論分ではループを持たないような複数のノードを同時に更新する手法を提案する. 計算量は通常の単一変数更新ギブスサンプラーと同じである. 数値実験を行い通常のギブスサンプラーと本手法を比較した.
抄録(英) Single-component-update MCMCs are a class of Markov chain Monte Carlo methods and Gibbs samplers are some of single-component-update MCMCs. From the viewpoint of information geometry, the Gibbs sampling is a greedy algorithm which moves its chain's distribution along a manifold to minimize the divergence from the target distribution. The successive samples drawn by Gibbs samplers are more independent than samples drawn by any other single-component-update MCMC. If plural nodes are concatenated and simultaneously updated as one node, the convergence speed to the target distribution and the independency among successive samples are improved meanwhile the computation cost grows. In this paper, we propose a methods to simultaneously update plural nodes which are chosen so that they have no loops. The computation cost is same as it of Gibbs samplers. A numerical experiment shows the comparison between the Gibbs sampler and the proposed methods.
キーワード(和) ギブスサンプラー / マルコフチェーンモンテカルロ / グラフィカルモデル / 情報幾何 / 相互情報量
キーワード(英) Gibbs sampler / Markov chain Monte Carlo / graphical model / information geometry / mutual information
資料番号 NC2004-125
発行日

研究会情報
研究会 NC
開催期間 2005/1/18(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) ギブスサンプラーにおける部分木の同時更新
サブタイトル(和)
タイトル(英) Simultaneous update of sub-tree in Gibbs samplers
サブタイトル(和)
キーワード(1)(和/英) ギブスサンプラー / Gibbs sampler
キーワード(2)(和/英) マルコフチェーンモンテカルロ / Markov chain Monte Carlo
キーワード(3)(和/英) グラフィカルモデル / graphical model
キーワード(4)(和/英) 情報幾何 / information geometry
キーワード(5)(和/英) 相互情報量 / mutual information
第 1 著者 氏名(和/英) 高畠 一哉 / Kazuya TAKABATAKE
第 1 著者 所属(和/英) 産業技術総合研究所 脳神経情報研究部門
Neuroscience Research Institute, AIST
発表年月日 2005/1/18
資料番号 NC2004-125
巻番号(vol) vol.104
号番号(no) 586
ページ範囲 pp.-
ページ数 6
発行日