| 講演名 | 2013-11-13 逐次学習のためのスクリーニングルール(ポスターセッション,第16回情報論的学習理論ワークショップ) 鈴木 良規, 奥村 翔太, 小川 晃平, 竹内 一郎, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | オンライン学習などでは逐次的にデータが得られるたびにモデルの最適化を繰り返す必要があるので効率的なアルゴリズムが必要である.本論文ではサポートベクトルマシン(SVM)を例としてスパースモデルの逐次学習を効率的に行う方法を提案する.逐次学習では,モデルを更新する前後で大きな変化がないと考えられるため,更新前のモデルで非サポートベクトル(SV)であったものは更新後でも非SVとなっている可能性が高い.従来法の多くでは,この考えに基づき,更新前に非SVとなったデータをあらかじめ削除して最適化が行われる.しかしながら,このようなヒューリスティクスは最適性の保証がない.本研究では,最適性を保証しつつ,非SVをスクリーニングする(削除する)方法を提案する.数値実験を通して提案法の有効性を検証する. |
| 抄録(英) | Efficient optimization algorithm is required in online learning or other incremental learning scenario since the model must be repeatedly updated each time new data is available. In this paper, we propose an efficient algorithm for incremental sparse model learning with main focus on support vector machine (SVM). Since the difference between the two models before and after an incremental operation should be reasonably small, non-SVs in the former model tend to be non-SVs also in the latter model. Actually, many existing algorithm exploit this conjecture and use a heuristic for removing a portion of non-SVs in their incremental updating operation. In this paper, we introduce a screening algorithm that can safely remove a subset of non-SVs that are guaranteed to remained to be non-SVs after the incremental updating operation. We illustrate the effectiveness of our approach through numerical experiments. |
| キーワード(和) | サポートベクトルマシン / スクリーニングルール / 逐次学習 |
| キーワード(英) | Support Vector Machine / Screening Rule / Incremental Learning |
| 資料番号 | IBISML2013-64 |
| 発行日 |
| 研究会情報 | |
| 研究会 | IBISML |
|---|---|
| 開催期間 | 2013/11/5(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Information-Based Induction Sciences and Machine Learning (IBISML) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 逐次学習のためのスクリーニングルール(ポスターセッション,第16回情報論的学習理論ワークショップ) |
| サブタイトル（和） | |
| タイトル（英） | Safe Screening Rule for Incremental Learning |
| サブタイトル（和） | |
| キーワード(1)（和/英） | サポートベクトルマシン / Support Vector Machine |
| キーワード(2)（和/英） | スクリーニングルール / Screening Rule |
| キーワード(3)（和/英） | 逐次学習 / Incremental Learning |
| 第 1 著者 氏名（和/英） | 鈴木 良規 / Yoshiki SUZUKI |
| 第 1 著者 所属（和/英） | 名古屋工業大学 Department of Engineering, Nagoya Institute of Technology |
| 第 2 著者 氏名（和/英） | 奥村 翔太 / Shota OKUMURA |
| 第 2 著者 所属（和/英） | 名古屋工業大学 Department of Engineering, Nagoya Institute of Technology |
| 第 3 著者 氏名（和/英） | 小川 晃平 / Kohei OGAWA |
| 第 3 著者 所属（和/英） | 名古屋工業大学 Department of Engineering, Nagoya Institute of Technology |
| 第 4 著者 氏名（和/英） | 竹内 一郎 / Ichiro TAKEUCHI |
| 第 4 著者 所属（和/英） | 名古屋工業大学 Department of Engineering, Nagoya Institute of Technology |
| 発表年月日 | 2013-11-13 |
| 資料番号 | IBISML2013-64 |
| 巻番号（vol） | vol.113 |
| 号番号（no） | 286 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |