| 講演名 | 2016-09-06 経験損失最小化問題における高速感度分析に関する一提案 花田 博幸(名工大), 柴垣 篤志(名工大), 佐久間 淳(筑波大), 竹内 一郎(名工大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 各事例が$d$次元ベクトルからなる$n$事例の訓練データを用いて，正則化経験損失最小化により学習を行うことを考える．このとき，訓練データの一部が変更されたときにそれに対応した学習結果を得るには，仮に変更前の学習結果を知っていたとしても，一般に$O(nd)$時間がかかる．これを避ける方法の一つに高速感度分析が挙げられ，これは変更後の学習結果を厳密に求める代わりに上界・下界として得ることで，計算時間を大幅に削減する．これまでにも，事例単位の変更を想定した高速感度分析は考案されており，変更された事例数$|{cal M}_I|$（$leq n$）に対して$O(d|{cal M}_I|)$時間で学習結果の上下界を得る方法は提案されていた．これに対し本研究では，より一般化されたデータの変更に対しても高速な手法として，変更されたデータの値の個数$|{cal M}|$（$leq nd$）に対して$O(|{cal M}|)$時間で学習結果の上下界を得る方法を示す． |
| 抄録(英) | For a training data set consisting of $n$ vectors of $d$ dimensions, we consider obtaining a training result from it by a regularized empirical risk minimization. In such a situation, if we need a new training result when a part of the training data, we need $O(nd)$ time in general even if we know the training result before the change of the data. A solution for the problem is the quick sensitivity analysis, which computes the upper and the lower bounds of the training result rather than the exact one with much smaller computational cost. There has been a quick sensitivity analysis method for instance-wise change, which enables us to compute the upper and the lower bounds of the training result in $O(d|{cal M}_I|)$ time for the number of changed instances $|{cal M}_I|$ ($leq n$). On the other hand, we propose a fast method for more generalized data changes: it enables us to compute the upper and the lower bounds of the training result in $O(d|{cal M}|)$ time for the number of changed values $|{cal M}|$ ($leq nd$). |
| キーワード(和) | 経験損失最小化 / 高速感度分析 / 強凸性 / duality gap |
| キーワード(英) | Empirical risk minimization / Quick sensitivity analysis / Strong convexity / Duality gap |
| 資料番号 | PRMU2016-80,IBISML2016-35 |
| 発行日 | 2016-08-29 (PRMU, IBISML) |
| 研究会情報 | |
| 研究会 | PRMU / IPSJ-CVIM / IBISML |
|---|---|
| 開催期間 | 2016/9/5(から2日開催) |
| 開催地（和） | 富山大学 |
| 開催地（英） | |
| テーマ（和） | パターン認識・機械学習基盤技術及び一人称視点・注視情報と行動理解 |
| テーマ（英） | |
| 委員長氏名（和） | 前田 英作(NTT) / / 福水 健次(統計数理研) |
| 委員長氏名（英） | Eisaku Maeda(NTT) / / Kenji Fukumizu(ISM) |
| 副委員長氏名（和） | 内田 誠一(九大) / 藤吉 弘亘(中部大) / / 杉山 将(東大) / 鹿島 久嗣(京大) |
| 副委員長氏名（英） | Seiichi Uchida(Kyushu Univ.) / Hironobu Fujiyoshi(Chubu Univ.) / / Masashi Sugiyama(Univ. of Tokyo) / Hisashi Kashima(Kyoto Univ.) |
| 幹事氏名（和） | 近藤 一晃(京大) / 木村 昭悟(NTT) / / 津田 宏治(東大) / 竹内 一郎(名工大) |
| 幹事氏名（英） | Kazuaki Kondo(Kyoto Univ.) / Akisato Kimura(NTT) / / Koji Tsuda(Univ. of Tokyo) / Ichiro Takeuchi(Nagoya Inst. of Tech.) |
| 幹事補佐氏名（和） | 大西 正輝(産総研) / 舩冨 卓哉(奈良先端大) / / 神嶌 敏弘(産総研) / 岩田 具治(NTT) |
| 幹事補佐氏名（英） | Masaki Oonishi(AIST) / Takuya Funatomi(NAIST) / / Toshihiro Kamishima(AIST) / Tomoharu Iwata(NTT) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Special Interest Group on Computer Vision and Image Media / Technical Committee on Infomation-Based Induction Sciences and Machine Learning |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 経験損失最小化問題における高速感度分析に関する一提案 |
| サブタイトル（和） | |
| タイトル（英） | A proposal on quick sensitivity analysis of empirical risk minimization problems |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 経験損失最小化 / Empirical risk minimization |
| キーワード(2)（和/英） | 高速感度分析 / Quick sensitivity analysis |
| キーワード(3)（和/英） | 強凸性 / Strong convexity |
| キーワード(4)（和/英） | duality gap / Duality gap |
| 第 1 著者 氏名（和/英） | 花田 博幸 / Hiroyuki Hanada |
| 第 1 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：NITech) |
| 第 2 著者 氏名（和/英） | 柴垣 篤志 / Atsushi Shibagaki |
| 第 2 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：NITech) |
| 第 3 著者 氏名（和/英） | 佐久間 淳 / Jun Sakuma |
| 第 3 著者 所属（和/英） | 筑波大学(略称：筑波大) University of Tsukuba(略称：Univ. of Tsukuba) |
| 第 4 著者 氏名（和/英） | 竹内 一郎 / Ichiro Takeuchi |
| 第 4 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：NITech) |
| 発表年月日 | 2016-09-06 |
| 資料番号 | PRMU2016-80,IBISML2016-35 |
| 巻番号（vol） | vol.116 |
| 号番号（no） | PRMU-208,IBISML-209 |
| ページ範囲 | pp.203-210(PRMU), pp.203-210(IBISML), |
| ページ数 | 8 |
| 発行日 | 2016-08-29 (PRMU, IBISML) |