| 講演名 | 2018-06-13 モデル選択のためのサポートベクトル列挙 金森 憲太朗(北大), 原 聡(阪大), 石畠 正和(NTT), 有村 博紀(北大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 多くの機械学習問題では，学習アルゴリズムは目的関数を最適化するモデルを一つ出力し，その他のモデルを考慮しない．これに対して，最近，最適解を含む複数のモデルを列挙する方法が提案されている．例えば，HaraとMaehara（AAAI'17）によるLasso解の列挙と，Ruggieri（ICML'17）による決定木の列挙が挙げられる．本研究では，HaraとMaeharaの方法を拡張し，サポートベクトルマシン（SVM）の学習問題におけるモデルの$K$-best列挙問題を解く効率良いアルゴリズムを与える．このアルゴリズムは，与えられた非負整数$K>0$に対して，異なるサポートベクトルを持ち，SVM学習の双対問題の目的関数の値が上位$K$個であるモデルを値の降順で出力する．さらに，人工データと実データと用いた実験において，提案手法の計算効率と有用性を検証した． |
| 抄録(英) | In ordinary machine learning problems, the learning algorithm outputs a single model that optimizes its learning objective function, and doesn't consider the other models. In contrast, recently, some methods for enumerating multiple models are presented. For example, Hara and Maehara presented an algorithm for Lasso (AAAI'17), while, Ruggieri for decision tree learning (ICML'17). In this paper, we extend the algorithm of Hara and Maehara, we present an efficient algorithm for the $K$-best model enumeration problem in the training of Support Vector Machines (SVM). This algorithm is, given a non-negative number $K>0$, enumerating $K$-best models that have distinct support vectors in the descending order of the values of the objective function of SVM. By experiments on synthetic and real datasets, we evaluate the efficiency and effectiveness of our algorithm. |
| キーワード(和) | サポートベクトルマシン（SVM） / モデル列挙 / モデル選択 / サンプル部分集合選択 |
| キーワード(英) | Support Vector Machine (SVM) / model enumeration / model selection / subsample selection |
| 資料番号 | IBISML2018-12 |
| 発行日 | 2018-06-06 (IBISML) |
| 研究会情報 | |
| 研究会 | NC / IBISML / IPSJ-BIO / IPSJ-MPS |
|---|---|
| 開催期間 | 2018/6/13(から3日開催) |
| 開催地（和） | 沖縄科学技術大学院大学 |
| 開催地（英） | Okinawa Institute of Science and Technology |
| テーマ（和） | 機械学習によるバイオデータマインニング、一般 |
| テーマ（英） | Machine Learning Approach to Biodata Mining, and General |
| 委員長氏名（和） | 平田 豊(中部大) / 鹿島 久嗣(京大) |
| 委員長氏名（英） | Yutaka Hirata(Chubu Univ.) / Hisashi Kashima(Kyoto Univ.) |
| 副委員長氏名（和） | 庄野 逸(電通大) / 杉山 将(東大) / 津田 宏治(東大) |
| 副委員長氏名（英） | Hayaru Shouno(UEC) / Masashi Sugiyama(Univ. of Tokyo) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 吉川 大弘(名大) / 吉本 潤一郎(奈良先端大) / 竹内 一郎(名工大) / 神嶌 敏弘(産総研) |
| 幹事氏名（英） | Tomohiro Yoshikawa(Nagoya Univ.) / Junichiro Yoshimoto(NAIST) / Ichiro Takeuchi(Nagoya Inst. of Tech.) / Toshihiro Kamishima(AIST) |
| 幹事補佐氏名（和） | 稲垣 圭一郎(中部大) / 篠崎 隆志(NICT) / 岩田 具治(NTT) / 大羽 成征(京大) |
| 幹事補佐氏名（英） | Keiichiro Inagaki(Chubu Univ.) / Takashi Shinozaki(NICT) / Tomoharu Iwata(NTT) / Shigeyuki Oba(Kyoto Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | モデル選択のためのサポートベクトル列挙 |
| サブタイトル（和） | |
| タイトル（英） | Enumeration of Distinct Support Vectors for Model Selection |
| サブタイトル（和） | |
| キーワード(1)（和/英） | サポートベクトルマシン（SVM） / Support Vector Machine (SVM) |
| キーワード(2)（和/英） | モデル列挙 / model enumeration |
| キーワード(3)（和/英） | モデル選択 / model selection |
| キーワード(4)（和/英） | サンプル部分集合選択 / subsample selection |
| 第 1 著者 氏名（和/英） | 金森 憲太朗 / Kentaro Kanamori |
| 第 1 著者 所属（和/英） | 北海道大学(略称：北大) Hokkaido University(略称：Hokaido Univ.) |
| 第 2 著者 氏名（和/英） | 原 聡 / Satoshi Hara |
| 第 2 著者 所属（和/英） | 大阪大学(略称：阪大) Osaka University(略称：Osaka Univ.) |
| 第 3 著者 氏名（和/英） | 石畠 正和 / Masakazu Ishihata |
| 第 3 著者 所属（和/英） | NTTコミュニケーション科学基礎研究所(略称：NTT) NTT Communication Science Laboratories(略称：NTT) |
| 第 4 著者 氏名（和/英） | 有村 博紀 / Hiroki Arimura |
| 第 4 著者 所属（和/英） | 北海道大学(略称：北大) Hokkaido University(略称：Hokaido Univ.) |
| 発表年月日 | 2018-06-13 |
| 資料番号 | IBISML2018-12 |
| 巻番号（vol） | vol.118 |
| 号番号（no） | IBISML-81 |
| ページ範囲 | pp.81-88(IBISML), |
| ページ数 | 8 |
| 発行日 | 2018-06-06 (IBISML) |