講演名 2013-09-02
ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)
鈴村 真矢, 小川 晃平, 竹内 一郎, 杉山 将,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本稿では外れ値に対して頑健性を有するロバストSVMの最適化法を提案する.ロバストSVMを実用化する際には,どのインスタンスが外れ値となるか,外れ値の影響をどの程度軽減させるかを適応的に決める必要がある.本研究では,外れ値の判定規準と影響度を調整するパラメータを導入し,これらのパラメータを変化させたときの解の軌跡を追跡するアルゴリズムを構築する. ロバストSVMの損失関数は非凸であるため,提案アルゴリズムは局所最適解のパスを計算する.局所最適解のパスは,凸問題の最適解パスとは異なり,有限個の点で不連続点を持つことが示される.提案アルゴリズムでは, これらの不連続点を同定し,適切に対処することができる.数値実験により提案アルゴリズムの有効性を検証する.
抄録(英) In this paper, we propose a novel optimization method for robust SVM that has robustness to outliers. In robust SVM, it is important to adaptively determine which instances are considered as outliers, and how much the effect of outliers should be alleviated. We introduce a pair of tuning parameters that adjust the outlier's criterion and effects, and develop an algorithm that computes the path of solutions when those parameters are continuously changed. Since the loss function of robust SVM is non-convex, our proposed algorithm computes a path of local optimal solutions. Unlike solution paths of convex problems, our local optimal solution path are shown to have finite number of discrete points. Our algorithm can identify those discrete points and properly handle those discontinuities in the path computation. We illustrate the effectiveness of our algorithm through numerical experiments.
キーワード(和) ロバストサポートベクターマシン / ホモトピー法 / アニーリング
キーワード(英) Robust Support Vector Machine / Homotopy Approach / Annealing
資料番号 PRMU2013-36,IBISML2013-16
発行日

研究会情報
研究会 IBISML
開催期間 2013/8/26(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Information-Based Induction Sciences and Machine Learning (IBISML)
本文の言語 JPN
タイトル(和) ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)
サブタイトル(和)
タイトル(英) Optimization for Robust Support Vector Machine Utilizing Homotopy Approach
サブタイトル(和)
キーワード(1)(和/英) ロバストサポートベクターマシン / Robust Support Vector Machine
キーワード(2)(和/英) ホモトピー法 / Homotopy Approach
キーワード(3)(和/英) アニーリング / Annealing
第 1 著者 氏名(和/英) 鈴村 真矢 / Shinya SUZUMURA
第 1 著者 所属(和/英) 名古屋工業大学大学院工学研究科
Nagoya Institute of Technology
第 2 著者 氏名(和/英) 小川 晃平 / Kohei OGAWA
第 2 著者 所属(和/英) 名古屋工業大学大学院工学研究科
Nagoya Institute of Technology
第 3 著者 氏名(和/英) 竹内 一郎 / Ichiro TAKEUCHI
第 3 著者 所属(和/英) 名古屋工業大学大学院工学研究科
Nagoya Institute of Technology
第 4 著者 氏名(和/英) 杉山 将 / Masashi SUGIYAMA
第 4 著者 所属(和/英) 東京工業大学大学院情報理工学研究科
Tokyo Institute of Technology
発表年月日 2013-09-02
資料番号 PRMU2013-36,IBISML2013-16
巻番号(vol) vol.113
号番号(no) 197
ページ範囲 pp.-
ページ数 6
発行日