| 講演抄録／キーワード |
| 講演名 |
2007-03-14 09:30
情報量の測り方による近似事後分布の性質の相違について
○渡辺一帆・渡辺澄夫（東工大） |
| 抄録 |
（和） |
近年、ベイズ推論を近似するための様々な手法が用いられている。近似法の多くは情報工学の諸問題においてその有効性が知られているにも関わらず、その近似精度や汎化性能などの性質はほとんど明らかにされていない。本研究では真の事後分布から近似分布までのカルバック情報量を最小化することによる近似法について考察し、パラメータの特定不能性をもつ学習モデルについて、その近似精度を評価する。近似分布から事後分布までの情報量を最小化する変分ベイズ法の場合と分布の拡がりや近似精度を比較し、２つの近似事後分布の性質の相違を示す。 |
| （英） |
Some methods have been proposed and used for approximating Bayesian learning.Although they have provided efficient learning algorithms in various applications, their properties have little been investigated.
In this paper, we focus on the two approximation schemes where the Kullback and reversed Kullback information between the approximating distribution and the exact Bayesian posterior distribution are minimized respectively over the factorizable distributions. Considering an example of Bayesian learning in the linear neural network, we show the differences between the two approximating distributions. |
| キーワード |
（和） |
近似ベイズ推論 / ベイズ事後分布 / カルバック情報量 / 線形ニューラルネットワーク / / / / |
| （英） |
Approximate Bayesian Inference / Kullback Information / Linear Neural Networks / / / / / |
| 文献情報 |
信学技報, vol. 106, no. 588, NC2006-134, pp. 97-102, 2007年3月. |
| 資料番号 |
NC2006-134 |
| 発行日 |
2007-03-07 (NC) |
| ISSN |
Print edition: ISSN 0913-5685 |
| PDFダウンロード |
|