| 講演名 | 2011-09-05 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習) 中島 伸一, 杉山 将, ババカン デリン, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 変分ベイズ行列分解は,分解因子間の独立性(行列因子間独立性)を満たす分布によってベイズ事後分布を近似する手法であり,繰り返しアルゴリズムによって解かれる.我々は近年,観測行列が欠損値を含まない場合において,より強い制約(列間独立性)により簡略化された変分ベイズ法(簡略変分ベイズ法)の解析解を導出した.この結果により,繰り返しアルゴリズムよりも少ない計算量で大域解析解を得ることが可能となったが,列間独立性により近似精度がどの程度劣化するかは明らかにされていなかった.本稿では,行列因子間独立性における変分ベイズ事後分布が,実は列間独立性を満たすことを理論的に示す.すなわち,列間独立性の導入によって近似精度は全く劣化しないのである.これにより,簡略化しないオリジナルの変分ベイズ解が解析的に効率よく計算できることになった.実験では,確率的主成分分析を例にとって我々の手法の有用性を示す. |
| 抄録(英) | Variational Bayesian matrix factorization (VBMF) efficiently approximates the posterior distribution of factorized matrices by assuming matrix-wise independence of the two factors. A recent study on fully-observed VBMF showed that, under a stronger assumption that the two factorized matrices are column-wise independent, the global optimal solution can be analytically computed. However, it was not clear how restrictive the column-wise independence assumption is. In this paper, we prove that the global solution under matrix-wise independence is actually column-wise independent, implying that the column-wise independence assumption is harmless. A practical consequence of our theoretical finding is that the global solution under matrix-wise independence (which is a standard setup) can be obtained analytically in a computationally very efficient way without any iterative algorithms. We experimentally illustrate advantages of using our analytic solution in probabilistic principal component analysis. |
| キーワード(和) | 行列分解 / 変分ベイズ / 行列因子間独立性 / 列間独立性 / 確率的主成分分析 |
| キーワード(英) | matrix factorization / variational Bayes / matrix-wise independence / column-wise independence / probabilistic PCA |
| 資料番号 | PRMU2011-58,IBISML2011-17 |
| 発行日 |
| 研究会情報 | |
| 研究会 | PRMU |
|---|---|
| 開催期間 | 2011/8/29(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Pattern Recognition and Media Understanding (PRMU) |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習) |
| サブタイトル（和） | |
| タイトル（英） | Global Solution of Variational Bayesian Matrix Factorization Under Matrix-wise Independence |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 行列分解 / matrix factorization |
| キーワード(2)（和/英） | 変分ベイズ / variational Bayes |
| キーワード(3)（和/英） | 行列因子間独立性 / matrix-wise independence |
| キーワード(4)（和/英） | 列間独立性 / column-wise independence |
| キーワード(5)（和/英） | 確率的主成分分析 / probabilistic PCA |
| 第 1 著者 氏名（和/英） | 中島 伸一 / Shinichi NAKAJIMA |
| 第 1 著者 所属（和/英） | ニコン光技術研究所 Optical Research Laboratory, Nikon Corporation |
| 第 2 著者 氏名（和/英） | 杉山 将 / Masashi SUGIYAMA |
| 第 2 著者 所属（和/英） | 東京工業大学:JST PRESTO Tokyo Institute of Technology:JST PRESTO |
| 第 3 著者 氏名（和/英） | ババカン デリン / Derin BABACAN |
| 第 3 著者 所属（和/英） | ベックマン高等科学技術研究所イリノイ大学アーバナ・シャンペーン Beckman Institute, University of Illinois at Urbana-Champaign |
| 発表年月日 | 2011-09-05 |
| 資料番号 | PRMU2011-58,IBISML2011-17 |
| 巻番号（vol） | vol.111 |
| 号番号（no） | 193 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |