電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
技報オンライン
‥‥ (ESS/通ソ/エレソ/ISS)
技報アーカイブ
‥‥ (エレソ/通ソ)
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2010-11-05 15:30
[ポスター講演]変分ベイズ行列分解の大域解析解とモデル起因正則化
中島伸一ニコン)・杉山 将東工大)・冨岡亮太東大
技報オンラインサービス実施中
抄録 (和) 行列分解にベイズ推定を適用する方法が近年活発に研究されている.
本稿ではまず,変分ベイズ行列分解の大域解が,その非凸性にもかかわらず
4次方程式の解として解析的に得られることを示す.
標準的な繰り返しアルゴリズムと比較して,
解析解の計算は高速かつ確実に実行できるため,実用上有利である.
さらに,ハイパーパラメータをデータに基づいて学習する経験変分ベイズ行列分解に対しても
その大域解析解を導出し,実用上の利点を実験により示す.
最後に,識別不能モデルにベイズ推定を適用した場合に強く現れる
「意図しない正則化」現象(我々はこれをモデル起因正則化と呼ぶ)について,
縮小推定との関係を明らかにしながら
詳細に議論する. 
(英) Bayesian methods of matrix factorization (MF) have been actively explored recently
as promising alternatives to classical singular value decomposition.
In this paper, we first show that,
despite the fact that the optimization problem is non-convex,
the global optimal solution of variational Bayesian (VB) MF
can be computed analytically by solving a quartic equation.
This is highly advantageous over a popular VBMF algorithm
based on iterated conditional modes
since it can only find a local optimal solution after iterations.
We further show that the global optimal solution of
empirical VBMF (hyperparameters are also learned from data)
can also be analytically computed.
We illustrate the usefulness of our results through experiments.
Our analysis reveals details of an unintentional regularization effect,
which we call model-induced regularization (MIR).
Showing its relation to shrinkage estimators,
we discuss MIR in detail.
キーワード (和) 変分ベイズ / 行列分解 / 識別不能モデル / モデル起因正則化 / James-Stein縮小推定 / / /  
(英) variational Bayes / matrix factorization / non-identifiable models / model-induced regularization / James-Stein shrinkage / / /  
文献情報 信学技報, vol. 110, no. 265, IBISML2010-99, pp. 291-302, 2010年11月.
資料番号 IBISML2010-99 
発行日 2010-10-28 (IBISML) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380

研究会情報
研究会 IBISML  
開催期間 2010-11-04 - 2010-11-06 
開催地(和) 東大生産研 
開催地(英) IIS, Univ. of Tokyo 
テーマ(和) IBIS 2010 (情報論的学習理論ワークショップ) 
テーマ(英) IBIS 2010 (Workshop on Information-based Induction Sciences) 
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2010-11-IBISML 
本文の言語 英語(日本語タイトルあり) 
タイトル(和) 変分ベイズ行列分解の大域解析解とモデル起因正則化 
サブタイトル(和)  
タイトル(英) Global Analytic Solution for Variational Bayesian Matrix Factorization and its Model-induced Regularization 
サブタイトル(英)  
キーワード(1)(和/英) 変分ベイズ / variational Bayes  
キーワード(2)(和/英) 行列分解 / matrix factorization  
キーワード(3)(和/英) 識別不能モデル / non-identifiable models  
キーワード(4)(和/英) モデル起因正則化 / model-induced regularization  
キーワード(5)(和/英) James-Stein縮小推定 / James-Stein shrinkage  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 中島 伸一 / Shinichi Nakajima / ナカジマ シンイチ
第1著者 所属(和/英) ニコン (略称: ニコン)
Nikon Corporation (略称: Nikon)
第2著者 氏名(和/英/ヨミ) 杉山 将 / Masashi Sugiyama / スギヤマ マサシ
第2著者 所属(和/英) 東京工業大学 (略称: 東工大)
Tokyo Institute of Technology (略称: Tokyo Inst. of Tech.)
第3著者 氏名(和/英/ヨミ) 冨岡 亮太 / Ryota Tomioka / トミオカ リョウタ
第3著者 所属(和/英) 東京大学 (略称: 東大)
The University of Tokyo (略称: Univ. of Tokyo)
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2010-11-05 15:30:00 
発表時間 180 
申込先研究会 IBISML 
資料番号 IEICE-IBISML2010-99 
巻番号(vol) IEICE-110 
号番号(no) no.265 
ページ範囲 pp.291-302 
ページ数 IEICE-12 
発行日 IEICE-IBISML-2010-10-28 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会