講演抄録/キーワード |
講演名 |
2011-11-09 15:45
疎でないマルチプルカーネル学習の速い収束レートおよび最適な正則化に関して ○鈴木大慈(東大) IBISML2011-64 |
抄録 |
(和) |
本報告では,マルチプルカーネル学習(MKL)の新しい汎化誤差評価を一般的な正則化に対して導出する.ここでは基本的に疎でない密な正則化項を扱う.例えばl1-ノルムの代わりにlp-ノルムを正則化項として用いるlp-MKL がその代表的な例である.近年の数値実験によると,MKL においては疎な正則化項は必ずしも良い性能を示すわけではなく,密な正則化項の方がしばし良い汎化誤差を示すことが報告されている.このような事実を動機づけとして,本報告では任意のノルム型正則化項に対して収束レートを導く統一的な枠組みを与え,どのような正則化項が最適かを議論する.そのために,我々は再生核ヒルベルト空間の複雑さが一様な場合と非一様な場合を分けて議論する.一様な場合の議論においては収束レートが簡潔に表せることを示し,それにより既存研究よりタイトなlp-MKL の収束レートが得られることを示す.さらに,ノルムが等方的な場合,得られた収束レートがミニマクスレートを達成することを示す.得られた収束レートから,複雑さが一様な場合は等方的ノルムの中でl1-ノルムが最適であることが示される.次に,複雑さが非一様な場合を考え,その場合にはℓ1 よりも密な正則化項の方が良い性能を示すことを示す. |
(英) |
In this paper, we give a new generalization error bound of Multiple Kernel Learning (MKL) for a general class of regularizations. Our main target in this paper is dense type regularizations including lp-MKL that imposes lp-mixed-norm regularization instead of l1-mixed-norm regularization. According to the recent numerical experiments, the sparse regularization does not necessarily show a good performance compared with dense type
regularizations. Motivated by this fact, this paper gives a general theoretical tool to derive fast learning rates that is applicable to arbitrary norm-type regularizations in unifying manner. As a by-product of our general result, we show a fast learning rate of lp-MKL that is tightest among existing bounds. We also show that our general learning
rate achieves the minimax lower bound. Finally, we show that, when the complexities of candidate reproducing kernel Hilbert spaces are inhomogeneous, dense type regularization shows better learning rate compared with sparse l1 regularization. |
キーワード |
(和) |
マルチプルカーネル学習 / 収束レート / 非スパース学習 / lp-ノルム / エラスティックネット / / / |
(英) |
Multiple Kernel Learning / Fast Convergence Rate / Non-Sparse Learning / lp-norm / Elastic-net / / / |
文献情報 |
信学技報, vol. 111, no. 275, IBISML2011-64, pp. 147-154, 2011年11月. |
資料番号 |
IBISML2011-64 |
発行日 |
2011-11-02 (IBISML) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
IBISML2011-64 |