| 講演名 | 2023-06-29 グループ正則化付き離散最適輸送の高速化 井田 安俊(NTT), 金井 関利(NTT), 足立 一樹(NTT), 熊谷 充敏(NTT), 藤原 靖宏(NTT), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 正則化付き離散最適輸送は, あるドメイン上のサンプルから構築される2つの離散分布を比較できるツールであり, 機械学習において幅広い応用を持つ. この応用の中には教師なしドメイン適応のように片方のドメインのサンプルのみがクラスラベルを持つものがある. このような問題にてクラスラベルの情報を取り入れるため, グループ正則化がしばしば利用される. 具体的には同じクラスラベルを持つサンプルを1つのグループとし, 離散最適輸送の目的関数にグループ正則化項として組み込む. この目的関数を勾配法で最適化することで, クラスラベルの情報を考慮して分布を比較できる. しかし, クラス数やサンプル数が大きい場合, 正則化項の数やサイズも大きくなり勾配の計算時間も増加する. そこで本論文では高速なグループ正則化付き離散最適輸送を提案する. 提案手法の主要なアイディアは, 値がゼロになる勾配の計算を安全に省略することである. また提案手法は, 既存手法と同じ目的関数の値になることを保証する. 実験では提案手法が既存手法と比較して精度を落とすことなく最大8.6倍高速であることを示す. |
| 抄録(英) | When we use discrete optimal transport (OT) for unsupervised domain adaptation, a group-sparse regularizer is frequently leveraged to preserve label information on data samples. However, the gradient computation is expensive when the number of classes or data samples is large. We propose fast discrete OT with group-sparse regularizers. The main idea is to skip the computations of the gradients that must be zeros. Our method is guaranteed to return the same value of the objective function as that of the original method. Experiments show that our method is up to 8.6 times faster than the original method without degrading accuracy. |
| キーワード(和) | 機械学習 / 最適輸送 / スパースモデリング / 高速化 |
| キーワード(英) | Machine Learning / Optimal Transport / Sparse Modeling / Acceleration |
| 資料番号 | NC2023-8,IBISML2023-8 |
| 発行日 | 2023-06-22 (NC, IBISML) |
| 研究会情報 | |
| 研究会 | NC / IBISML / IPSJ-BIO / IPSJ-MPS |
|---|---|
| 開催期間 | 2023/6/29(から3日開催) |
| 開催地（和） | 沖縄科学技術大学院大学カンファレンス・センター |
| 開催地（英） | OIST Conference Center |
| テーマ（和） | 機械学習によるバイオデータマイニング、一般 |
| テーマ（英） | |
| 委員長氏名（和） | 田中 宏和(東京都市大) / 杉山 将(東大) |
| 委員長氏名（英） | Hirokazu Tanaka(Tokyo City Univ.) / Masashi Sugiyama(Univ. of Tokyo) |
| 副委員長氏名（和） | 井澤 淳(筑波大) / 神嶌 敏弘(産総研) / 津田 宏治(東大) |
| 副委員長氏名（英） | Jun Izawa(Univ. of Tsukub) / Toshihiro Kamishima(AIST) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 寺島 裕貴(NTT) / 田中 沙織(奈良先端大) / 岩田 具治(NTT) / 中村 篤祥(北大) |
| 幹事氏名（英） | Hiroki Terashima(NTT) / Saori Tanaka(NAIST) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.) |
| 幹事補佐氏名（和） | 田和辻 可昌(早大) / 堀井 隆斗(阪大) / 河原 吉伸(阪大) / 鈴木 大慈(東工大) |
| 幹事補佐氏名（英） | Yoshimasa Tawatsuji(Waseda Univ.) / Takato Horii(Osaka Univ.) / Yoshinobu Kawahara(Osaka Univ.) / Taiji Suzuki(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Information-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | グループ正則化付き離散最適輸送の高速化 |
| サブタイトル（和） | |
| タイトル（英） | Fast Regularized Discrete Optimal Transport with Group-Sparse Regularizers |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 機械学習 / Machine Learning |
| キーワード(2)（和/英） | 最適輸送 / Optimal Transport |
| キーワード(3)（和/英） | スパースモデリング / Sparse Modeling |
| キーワード(4)（和/英） | 高速化 / Acceleration |
| 第 1 著者 氏名（和/英） | 井田 安俊 / Yasutoshi Ida |
| 第 1 著者 所属（和/英） | NTT(略称：NTT) NTT(略称：NTT) |
| 第 2 著者 氏名（和/英） | 金井 関利 / Sekitoshi Kanai |
| 第 2 著者 所属（和/英） | NTT(略称：NTT) NTT(略称：NTT) |
| 第 3 著者 氏名（和/英） | 足立 一樹 / Kazuki Adachi |
| 第 3 著者 所属（和/英） | NTT(略称：NTT) NTT(略称：NTT) |
| 第 4 著者 氏名（和/英） | 熊谷 充敏 / Atsutoshi Kumagai |
| 第 4 著者 所属（和/英） | NTT(略称：NTT) NTT(略称：NTT) |
| 第 5 著者 氏名（和/英） | 藤原 靖宏 / Yasuhiro Fujiwara |
| 第 5 著者 所属（和/英） | NTT(略称：NTT) NTT(略称：NTT) |
| 発表年月日 | 2023-06-29 |
| 資料番号 | NC2023-8,IBISML2023-8 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | NC-90,IBISML-91 |
| ページ範囲 | pp.48-55(NC), pp.48-55(IBISML), |
| ページ数 | 8 |
| 発行日 | 2023-06-22 (NC, IBISML) |