| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2010-11-05 15:30 ［ポスター講演］変分ベイズ行列分解の大域解析解とモデル起因正則化 ○中島伸一（ニコン）・杉山 将（東工大）・冨岡亮太（東大）  IBISML2010-99 |
|
| 抄録 | （和） | 行列分解にベイズ推定を適用する方法が近年活発に研究されている． 本稿ではまず，変分ベイズ行列分解の大域解が，その非凸性にもかかわらず 4次方程式の解として解析的に得られることを示す． 標準的な繰り返しアルゴリズムと比較して， 解析解の計算は高速かつ確実に実行できるため，実用上有利である． さらに，ハイパーパラメータをデータに基づいて学習する経験変分ベイズ行列分解に対しても その大域解析解を導出し，実用上の利点を実験により示す． 最後に，識別不能モデルにベイズ推定を適用した場合に強く現れる 「意図しない正則化」現象（我々はこれをモデル起因正則化と呼ぶ）について， 縮小推定との関係を明らかにしながら 詳細に議論する． |
| （英） | Bayesian methods of matrix factorization (MF) have been actively explored recently as promising alternatives to classical singular value decomposition. In this paper, we first show that, despite the fact that the optimization problem is non-convex, the global optimal solution of variational Bayesian (VB) MF can be computed analytically by solving a quartic equation. This is highly advantageous over a popular VBMF algorithm based on iterated conditional modes since it can only find a local optimal solution after iterations. We further show that the global optimal solution of empirical VBMF (hyperparameters are also learned from data) can also be analytically computed. We illustrate the usefulness of our results through experiments. Our analysis reveals details of an unintentional regularization effect, which we call model-induced regularization (MIR). Showing its relation to shrinkage estimators, we discuss MIR in detail. |
|
| キーワード | （和） | 変分ベイズ / 行列分解 / 識別不能モデル / モデル起因正則化 / James-Stein縮小推定 / / / |
| （英） | variational Bayes / matrix factorization / non-identifiable models / model-induced regularization / James-Stein shrinkage / / / | |
| 文献情報 | 信学技報, vol. 110, no. 265, IBISML2010-99, pp. 291-302, 2010年11月. | |
| 資料番号 | IBISML2010-99 | |
| 発行日 | 2010-10-28 (IBISML) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2010-99 |
|
| 研究会情報 | |
| 研究会 | IBISML |
| 開催期間 | 2010-11-04 - 2010-11-06 |
| 開催地（和） | 東大生産研 |
| 開催地（英） | IIS, Univ. of Tokyo |
| テーマ（和） | IBIS 2010 (情報論的学習理論ワークショップ) |
| テーマ（英） | IBIS 2010 (Workshop on Information-based Induction Sciences) |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2010-11-IBISML |
| 本文の言語 | 英語（日本語タイトルあり） |
| タイトル（和） | 変分ベイズ行列分解の大域解析解とモデル起因正則化 |
| サブタイトル（和） | |
| タイトル（英） | Global Analytic Solution for Variational Bayesian Matrix Factorization and its Model-induced Regularization |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 変分ベイズ / variational Bayes |
| キーワード(2)（和/英） | 行列分解 / matrix factorization |
| キーワード(3)（和/英） | 識別不能モデル / non-identifiable models |
| キーワード(4)（和/英） | モデル起因正則化 / model-induced regularization |
| キーワード(5)（和/英） | James-Stein縮小推定 / James-Stein shrinkage |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 中島 伸一 / Shinichi Nakajima / ナカジマ シンイチ |
| 第1著者 所属（和/英） | ニコン (略称： ニコン) Nikon Corporation (略称： Nikon) |
| 第2著者 氏名（和/英/ヨミ） | 杉山 将 / Masashi Sugiyama / スギヤマ マサシ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： Tokyo Inst. of Tech.) |
| 第3著者 氏名（和/英/ヨミ） | 冨岡 亮太 / Ryota Tomioka / トミオカ リョウタ |
| 第3著者 所属（和/英） | 東京大学 (略称： 東大) The University of Tokyo (略称： Univ. of Tokyo) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2010-11-05 15:30:00 |
| 発表時間 | 180分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2010-99 |
| 巻番号（vol） | vol.110 |
| 号番号（no） | no.265 |
| ページ範囲 | pp.291-302 |
| ページ数 | 12 |
| 発行日 | 2010-10-28 (IBISML) |
[研究会発表申込システムのトップページに戻る]