| 講演名 | 2008-01-15 正規分布におけるベーテ近似の解析解と数値解(機械学習,一般) 西山 悠, 渡辺 澄夫, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 計算量が指数的に増大する周辺分布の計算に確率伝搬法(BP)のアルゴリズムの有効性が知られる.ループ構造を持つ確率分布に適用した確率伝搬法(LBP)は,アルゴリズムの収束が理論的に保証されず,収束した場合には,近似的な周辺分布を計算するという性質を持つ.収束先である確率伝搬法の固定点は,ベーテ自由エネルギーと呼ばれる評価関数を導入すれば,その極値で与えられることが知られる.本稿では,ベーテ自由エネルギーの極値を正規分布の特殊な場合について明らかにし,LBPの収束条件,LBP解の近似精度を解析的に与えた後,LBPの数値実験を行うことで,数値解と解析解を比較する. |
| 抄録(英) | For the calculation of marginal distributions, which require the huge computational cost, the algorithm called belief propagation(BP) has shown the effectiveness. Loopy belief propagation(LBP), which is the BP applied to the distributions that have loops, is not guaranteed to converge in general and, if it converges, it computes approximate marginal probabilities. The LBP fixed-points after the convergence are also given by the extrema of the evaluation function called Bethe free energy. In this paper, we clarify the extrema of Bethe free energy in some particular cases of normal distributions, and after we give the convergence condition of LBP and the accuracy of LBP, we do the numerical experiments and compare the results with analytical solutions. |
| キーワード(和) | ベーテ近似 / ベーテ自由エネルギー / LBP / 1重ループ / 収束性 |
| キーワード(英) | Bethe Approximation / Bethe Free Energy / Loopy Belief Propagation / Single Cycle |
| 資料番号 | NC2007-87 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2008/1/8(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 正規分布におけるベーテ近似の解析解と数値解(機械学習,一般) |
| サブタイトル（和） | |
| タイトル（英） | Analytical and Numerical Solutions of Bethe Approximation in Normal Distributions |
| サブタイトル（和） | |
| キーワード(1)（和/英） | ベーテ近似 / Bethe Approximation |
| キーワード(2)（和/英） | ベーテ自由エネルギー / Bethe Free Energy |
| キーワード(3)（和/英） | LBP / Loopy Belief Propagation |
| キーワード(4)（和/英） | 1重ループ / Single Cycle |
| キーワード(5)（和/英） | 収束性 |
| 第 1 著者 氏名（和/英） | 西山 悠 / Yu NISHIYAMA |
| 第 1 著者 所属（和/英） | 東京工業大学総合理工学研究科知能システム科学専攻 Department of Computational Intelligence and Systems Science, Tokyo Institute of Technology |
| 第 2 著者 氏名（和/英） | 渡辺 澄夫 / Sumio WATANABE |
| 第 2 著者 所属（和/英） | 東京工業大学精密工学研究所 Precision and Intelligence Laboratory, Tokyo Institute of Technology |
| 発表年月日 | 2008-01-15 |
| 資料番号 | NC2007-87 |
| 巻番号（vol） | vol.107 |
| 号番号（no） | 413 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |