講演名 | 2009-08-31 スパース正則化およびマルチカーネル学習のための最適化アルゴリズムとCV・PRへの応用(CV・パターン認識のための学習・最適化) 冨岡 亮太, 鈴木 大慈, 杉山 将, |
---|---|
PDFダウンロードページ | PDFダウンロードページへ |
抄録(和) | スパース正則化は凸最適化を通して変数選択や多様な情報源の統合を実現するための系統的な枠組みとして近年注目されている。多くのスパース正則化法は滑らかでない最適化問題として定式化されるため、このような問題を効率的に解く方法が求められている。本論文では、一般の凸な損失関数と広いクラスの正則化関数に対する最適化手法をproximal minimizationの枠組みから導出し、理論的な性質を議論し、既存の手法との関係を解説する。講演では実際のパターン認識やCVの問題を題材として、非常に多くの素性やカーネルが与えられたもとでいかに効率よくこれらを選択し学習することができるかデモンストレーションを行う。 |
抄録(英) | Convex sparse regularization is increasingly becoming recognized as a principled framework for selecting informative features and combining heterogeneous data sources in machine learning. However training these models remains a challenging task due to the non-differentiability of the resulting optimization objective. In this paper, we derive a new algorithmic framework for training various sparse regularized linear models under general convex loss functions from the proximal minimization framework. Connection to existing methods are also discussed. |
キーワード(和) | 正則化 / 凸最適化 / マルチカーネル学習 / 拡張ラグランジュ法 |
キーワード(英) | Regularization / Convex optimization / Multiple kernel learning / Augmented Lagrangian method |
資料番号 | PRMU2009-63 |
発行日 |
研究会情報 | |
研究会 | PRMU |
---|---|
開催期間 | 2009/8/24(から1日開催) |
開催地(和) | |
開催地(英) | |
テーマ(和) | |
テーマ(英) | |
委員長氏名(和) | |
委員長氏名(英) | |
副委員長氏名(和) | |
副委員長氏名(英) | |
幹事氏名(和) | |
幹事氏名(英) | |
幹事補佐氏名(和) | |
幹事補佐氏名(英) |
講演論文情報詳細 | |
申込み研究会 | Pattern Recognition and Media Understanding (PRMU) |
---|---|
本文の言語 | JPN |
タイトル(和) | スパース正則化およびマルチカーネル学習のための最適化アルゴリズムとCV・PRへの応用(CV・パターン認識のための学習・最適化) |
サブタイトル(和) | |
タイトル(英) | Optimization algorithms for sparse regularization and multiple kernel learning and their applications to CV/PR |
サブタイトル(和) | |
キーワード(1)(和/英) | 正則化 / Regularization |
キーワード(2)(和/英) | 凸最適化 / Convex optimization |
キーワード(3)(和/英) | マルチカーネル学習 / Multiple kernel learning |
キーワード(4)(和/英) | 拡張ラグランジュ法 / Augmented Lagrangian method |
第 1 著者 氏名(和/英) | 冨岡 亮太 / Ryota TOMIOKA |
第 1 著者 所属(和/英) | 東京大学数理情報学専攻 Department of Mathematical Informatics, University of Tokyo |
第 2 著者 氏名(和/英) | 鈴木 大慈 / Taiji SUZUKI |
第 2 著者 所属(和/英) | 東京大学数理情報学専攻 Department of Mathematical Informatics, University of Tokyo |
第 3 著者 氏名(和/英) | 杉山 将 / Masashi SUGIYAMA |
第 3 著者 所属(和/英) | 東京工業大学計算工学専攻 Department of Computer Science, Tokyo Institute of Technology |
発表年月日 | 2009-08-31 |
資料番号 | PRMU2009-63 |
巻番号(vol) | vol.109 |
号番号(no) | 182 |
ページ範囲 | pp.- |
ページ数 | 6 |
発行日 |