講演名 2004/10/12
変分ベイズ法による混合正規分布モデルの学習における確率的複雑さについて(一般)
渡辺 一帆, 渡辺 澄夫,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 変分ベイズ法はベイズ学習の一つの近似手法として提案され、少ない計算量とその有効性が多くの実問題を通じて検証されてきた。しかしながら、変分ベイズ法がどの程度精密な近似を与えるかはいまだに解明されてこなかった。本研究では、混合正規分布モデルの変分ベイズ学習について考察し、確率的複雑さの下界を与える。混合正規分布は特異モデルの1つであるが、特異モデルの学習理論の発展により、そのベイズ学習の性質についてもいくつかの結果が得られてきた。本研究で得られた確率的複雑さの値を真のベイズ法の場合と比較することで、変分ベイズ法の近似法としての精度について明らかにする。
抄録(英) The Variational Bayes approach, proposed as an approximation of the Baysian learning, has provided computational tractability and good generalization performance in many applications. In spite of these advantages, the properties and capabilities of the Variational Bayes learning itself have not been clarified yet. It is still unknown how good approximation the Variational Bayes approach can achieve. In this paper, we discuss the Variational Bayes learning of normal mixture models and derive the lower bounds of the stochastic complexities that show us the accuracy of Variational Bayes learning as an approximation.
キーワード(和) 混合正規分布 / 変分ベイズ学習 / 確率的複雑さ / 特異モデル
キーワード(英) Normal Mixture Model / Variational Bayes Learning / Stochastic Complexity / Singular Statistical Model
資料番号 NC2004-78
発行日

研究会情報
研究会 NC
開催期間 2004/10/12(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 ENG
タイトル(和) 変分ベイズ法による混合正規分布モデルの学習における確率的複雑さについて(一般)
サブタイトル(和)
タイトル(英) Stochastic Complexities in Learning of Normal Mixture Models by Variational Bayes Approach
サブタイトル(和)
キーワード(1)(和/英) 混合正規分布 / Normal Mixture Model
キーワード(2)(和/英) 変分ベイズ学習 / Variational Bayes Learning
キーワード(3)(和/英) 確率的複雑さ / Stochastic Complexity
キーワード(4)(和/英) 特異モデル / Singular Statistical Model
第 1 著者 氏名(和/英) 渡辺 一帆 / Kazuho WATANABE
第 1 著者 所属(和/英) 東京工業大学大学院総合理工学研究科知能システム科学専攻
Department of Computational Intelligence and Systems Science, Tokyo Institute of Technology
第 2 著者 氏名(和/英) 渡辺 澄夫 / Sumio WATANABE
第 2 著者 所属(和/英) 東京工業大学精密工学研究所
P&I Lab, Tokyo Institute of Technology
発表年月日 2004/10/12
資料番号 NC2004-78
巻番号(vol) vol.104
号番号(no) 349
ページ範囲 pp.-
ページ数 6
発行日