| 講演名 | 2011-07-25 ブレグマン情報量を用いたベイズ学習の局所変分近似(知的システム,一般) 渡辺 一帆, 岡田 真人, 池田 和司, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 局所変分法はベイズ学習において事後分布を近似する一つの手法として用いられている.局所変分法では,計算困難な周辺尤度に対する上界及び下界を構成し,それぞれを最小化・最大化することにより近似を最適化するが,その情報論的な意味は明らかてはなかった.本研究では,凸性に基づく局所変分法に対し,ブレグマンダイバージェンスを用いた一般的枠組みを示し,周辺尤度の上界の効率的な計算法を与える.またカーネルロジスティック回帰モデルヘの適用例を示し,数値実験により近似精度を評価した結果を報告する. |
| 抄録(英) | The local variational method is a technique to approximate an intractable posterior distribution in Bayesian learning. This article formulates a general framework for local variational approximation using the Bregman divergence. Based on a geometrical argument in the space of approximating posteriors, we propose an efficient method to evaluate an upper bound of the marginal likelihood. We demonstrate its application to the kernelized logistic regression model and numerically investigate the accuracy of approximation. |
| キーワード(和) | ベイズ学習 / 局所変分近似 / カルバック情報量 / ブレグマン情報量 / カーネルロジスティック回帰 |
| キーワード(英) | Bayesian Learning / Local Variational Approximation / Kullback Information / Bregman Divergence / Kernelized Logistic Regression |
| 資料番号 | NC2011-25 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2011/7/18(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | ブレグマン情報量を用いたベイズ学習の局所変分近似(知的システム,一般) |
| サブタイトル（和） | |
| タイトル（英） | General Framework for Local Variational Approximation of Bayesian Learning Using Bregman Divergence |
| サブタイトル（和） | |
| キーワード(1)（和/英） | ベイズ学習 / Bayesian Learning |
| キーワード(2)（和/英） | 局所変分近似 / Local Variational Approximation |
| キーワード(3)（和/英） | カルバック情報量 / Kullback Information |
| キーワード(4)（和/英） | ブレグマン情報量 / Bregman Divergence |
| キーワード(5)（和/英） | カーネルロジスティック回帰 / Kernelized Logistic Regression |
| 第 1 著者 氏名（和/英） | 渡辺 一帆 / Kazuho WATANABE |
| 第 1 著者 所属（和/英） | 奈良先端科学技術大学院大学情報科学研究科 Graduate School of Information Science, Nara Institute of Science and Technology |
| 第 2 著者 氏名（和/英） | 岡田 真人 / Masato OKADA |
| 第 2 著者 所属（和/英） | 東京大学大学院新領域創成科学研究科複雑理工学専攻 Department of Complexity Science and Engineering, The University of Tokyo |
| 第 3 著者 氏名（和/英） | 池田 和司 / Kazushi IKEDA |
| 第 3 著者 所属（和/英） | 奈良先端科学技術大学院大学情報科学研究科 Graduate School of Information Science, Nara Institute of Science and Technology |
| 発表年月日 | 2011-07-25 |
| 資料番号 | NC2011-25 |
| 巻番号（vol） | vol.111 |
| 号番号（no） | 157 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |