講演抄録/キーワード |
講演名 |
2014-11-18 15:00
[ポスター講演]対数線形モデル高速学習のための基底関数 ○高畠一哉・赤穂昭太郎(産総研) IBISML2014-76 |
抄録 |
(和) |
離散変数対数線形モデルに対して以下の優れた特徴を持つ基底関数の組とそれを用いた高速学習アルゴリズムを提案する.
1) 基底数が大きく分布を表す表現力が高い.
基底数を最大限にとれば任意のGibbs分布を表現することも可能.
2) 対数尤度の勾配ベクトルを基底数の対数に比例する計算量で計算できる.
このため基底数が多くとも計算量爆発を起こさない.
3) 学習におけるスコア最小化に特別な反復法を用いる.
この反復法は微分不可能な凸関数にも使え,さらに最小値への収束は簡単な必要十分条件により保証される. |
(英) |
We propose basis functions for log-linear models and a fast learning algorithm that works on these bases.
These bases and the fast learning algorithm have the following preferable properties.
1) The number of bases is large so that the bases can represent distributions flexibly.
If we take the maximum number of bases, they are able to represent any Gibbs distributions.
2) The gradient vector of the log-likelihood is computed by a fast algorithm whose computational costs are proportional to the logarithm of the number of basis.
Therefore, the large number of bases does not invite massive computations.
3) For the learning task, a special iterative method is used for minimizing score.
It even works for non-differentiable convex functions; furthermore, its convergence to the minimum is guaranteed under a simple necessary and sufficient condition. |
キーワード |
(和) |
対数線形モデル / 基底関数 / 高速アルゴリズム / 反復法 / L_1正則化 / / / |
(英) |
log-lenear model / basis function / fast algoritm / iterative method / L_1 regularization / / / |
文献情報 |
信学技報, vol. 114, no. 306, IBISML2014-76, pp. 307-312, 2014年11月. |
資料番号 |
IBISML2014-76 |
発行日 |
2014-11-10 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2014-76 |