| 講演名 | 2022-09-15 複数の参照解を利用したSafe Pattern Pruningにおける正則化パス計算の効率化 吉田 拓未(名工大), 花田 博幸(理研), 中川 和也(名工大), 鈴村 真矢(名工大), Onur Boyar(名工大), 岩田 和樹(名工大), 志村 駿(名大), 田中 優次(名大), 烏山 昌幸(名工大), 田地 宏一(名大), 津田 宏治(東大/理研), 竹内 一郎(名大/理研), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 高次元の特徴量を$L_1$正則化学習によって効率的にモデル化するための手法として Safe Screening や Safe Pattern Pruning がある. これらは$L_1$正則化学習において事前にモデルから除外される特徴量を特定することにより学習を効率化する手法である. これらの手法の利用にあたっては参照する実行可能解が必要であり, $L_1$正則化においては1つ前の正則化パラメータでの学習結果が参照解として利用可能であることが知られている. 本研究では, Elastic Netのような複数の参照解が利用可能である状況において, それらの参照解を利用することを提案し, より強力なScreeningが可能であることを実データ実験において確認した. |
| 抄録(英) | Safe Screening and Safe Pattern Pruning are methods for efficiently modeling high-dimensional features by $L_1$-regularized learning. These methods improve the efficiency of it by identifying features to be excluded from the model in advance. These methods require a feasible solution to be used as a reference, and it is known that in $L_1$ regularization, the training result with the previous regularization parameter can be used as a reference solution. In this study, we focus on the situations where multiple reference solutions are available, such as Elastic Net regularization. We propose to use these multiple reference solutions in such cases. Then we demonstrate that stronger screening is possible in real data experiments. |
| キーワード(和) | L1正則化学習 / Safe Screening / Safe Pattern Pruning / Pattern Mining / 構造化データ / 凸最適化 |
| キーワード(英) | L1-Regularized Optimization / Safe Screening / Safe Pattern Pruning / Pattern Mining / Structured Input / Convex Optimization |
| 資料番号 | IBISML2022-38 |
| 発行日 | 2022-09-08 (IBISML) |
| 研究会情報 | |
| 研究会 | IBISML |
|---|---|
| 開催期間 | 2022/9/15(から1日開催) |
| 開催地（和） | 慶應義塾大学 矢上キャンパス |
| 開催地（英） | Keio Univ. (Yagami Campus) |
| テーマ（和） | 機械学習一般 |
| テーマ（英） | Machine Learning, etc. |
| 委員長氏名（和） | 杉山 将(東大) |
| 委員長氏名（英） | Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Infomation-Based Induction Sciences and Machine Learning |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 複数の参照解を利用したSafe Pattern Pruningにおける正則化パス計算の効率化 |
| サブタイトル（和） | |
| タイトル（英） | Improving Efficiency of Regularization Path Computation in Safe Pattern Pruning via Multiple Referential Solutions |
| サブタイトル（和） | |
| キーワード(1)（和/英） | L1正則化学習 / L1-Regularized Optimization |
| キーワード(2)（和/英） | Safe Screening / Safe Screening |
| キーワード(3)（和/英） | Safe Pattern Pruning / Safe Pattern Pruning |
| キーワード(4)（和/英） | Pattern Mining / Pattern Mining |
| キーワード(5)（和/英） | 構造化データ / Structured Input |
| キーワード(6)（和/英） | 凸最適化 / Convex Optimization |
| 第 1 著者 氏名（和/英） | 吉田 拓未 / Takumi Yoshida |
| 第 1 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：Nitech) |
| 第 2 著者 氏名（和/英） | 花田 博幸 / Hiroyuki Hanada |
| 第 2 著者 所属（和/英） | 理化学研究所(略称：理研) Institute of Physical and Chemical Research(略称：RIKEN) |
| 第 3 著者 氏名（和/英） | 中川 和也 / Kazuya Nakagawa |
| 第 3 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：Nitech) |
| 第 4 著者 氏名（和/英） | 鈴村 真矢 / Shinya Suzumura |
| 第 4 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：Nitech) |
| 第 5 著者 氏名（和/英） | Onur Boyar / Onur Boyar |
| 第 5 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：Nitech) |
| 第 6 著者 氏名（和/英） | 岩田 和樹 / Kazuki Iwata |
| 第 6 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：Nitech) |
| 第 7 著者 氏名（和/英） | 志村 駿 / Shun Shimura |
| 第 7 著者 所属（和/英） | 名古屋大学(略称：名大) Nagoya University(略称：NaogyaU) |
| 第 8 著者 氏名（和/英） | 田中 優次 / Yuji Tanaka |
| 第 8 著者 所属（和/英） | 名古屋大学(略称：名大) Nagoya University(略称：NaogyaU) |
| 第 9 著者 氏名（和/英） | 烏山 昌幸 / Masayuki Karasuyama |
| 第 9 著者 所属（和/英） | 名古屋工業大学(略称：名工大) Nagoya Institute of Technology(略称：Nitech) |
| 第 10 著者 氏名（和/英） | 田地 宏一 / Kouichi Taji |
| 第 10 著者 所属（和/英） | 名古屋大学(略称：名大) Nagoya University(略称：NaogyaU) |
| 第 11 著者 氏名（和/英） | 津田 宏治 / Koji Tsuda |
| 第 11 著者 所属（和/英） | 東京大学/理化学研究所(略称：東大/理研) The University Tokyo/Institute of Physical and Chemical Research(略称：UTokyo/RIKEN) |
| 第 12 著者 氏名（和/英） | 竹内 一郎 / Ichiro Takeuchi |
| 第 12 著者 所属（和/英） | 名古屋大学/理化学研究所(略称：名大/理研) Nagoya University/Institute of Physical and Chemical Research(略称：NaogyaU/RIKEN) |
| 発表年月日 | 2022-09-15 |
| 資料番号 | IBISML2022-38 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | IBISML-189 |
| ページ範囲 | pp.39-46(IBISML), |
| ページ数 | 8 |
| 発行日 | 2022-09-08 (IBISML) |