| 講演名 | 2021-12-17 データの選択による効率的なDNNの学習 東 遼太(和歌山大), 和田 俊和(和歌山大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 我々は，学習データ全体から一部を選ぶ「データ選択」により，効率的なDNNの学習を実現することを目指しており，本報告では，画像分類問題において，識別境界付近の点を選ぶ場合と，空間的に均一な点集合を選ぶ場合，およびランダム選択の場合，のそれぞれについて精度を比較した．その結果，選択するデータ数やデータセットに応じて最適な手法が異なることが判明し，データ選択の基準を適応的に変える必要性が示唆された．そして，データ選択による精度低下を回復する手段の一つとして蒸留（distillation）を適用し，その効果を検証した．データ選択はプロトタイピングや能動学習，重み付き学習などに応用可能であり，本報告で示された知見はその改善につながるものである． |
| 抄録(英) | We are investigating the method to sample the important data from the whole dataset for efficient training of Deep Neural Networks. In this report, we compare the accuracy of image classifiers trained from reduced datasets: sampled near the decision boundaries, sampled uniformly over the latent space, and sampled randomly. Experimental results imply that the optimal sampling varies depending on the number of samples, and the data selection criteria should be changed accordingly. Also, we introduce distillation to recover the accuracy degradation by the data reduction and evaluate its effect. Data selection can be applied to many problems: prototyping, active learning, and weighted learning. Findings in this report can be utilized to produce better solution of them. |
| キーワード(和) | 深層学習 / データ選択 / 画像分類 / 蒸留 / 能動学習 |
| キーワード(英) | Deep Learning / Data Selection / Image Classification / Distillation / Active Learning |
| 資料番号 | PRMU2021-51 |
| 発行日 | 2021-12-09 (PRMU) |
| 研究会情報 | |
| 研究会 | PRMU |
|---|---|
| 開催期間 | 2021/12/16(から2日開催) |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 時系列・因果推論・異常検知 |
| テーマ（英） | |
| 委員長氏名（和） | 内田 誠一(九大) |
| 委員長氏名（英） | Seiichi Uchida(Kyushu Univ.) |
| 副委員長氏名（和） | 岩村 雅一(阪府大) / 安倍 満(デンソーアイティーラボラトリ) |
| 副委員長氏名（英） | Masakazu Iwamura(Osaka Pref. Univ.) / Mitsuru Anpai(Denso IT Lab.) |
| 幹事氏名（和） | 柴田 剛志(NTT) / 西山 正志(鳥取大) |
| 幹事氏名（英） | Takashi Shibata(NTT) / Masashi Nishiyama(Tottori Univ.) |
| 幹事補佐氏名（和） | 山口 光太(サイバーエージェント) / 松井 勇佑(東大) |
| 幹事補佐氏名（英） | Kouta Yamaguchi(CyberAgent) / Yusuke Matsui(Univ. of Tokyo) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | データの選択による効率的なDNNの学習 |
| サブタイトル（和） | |
| タイトル（英） | Data Selection for Efficient Deep Learning |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 / Deep Learning |
| キーワード(2)（和/英） | データ選択 / Data Selection |
| キーワード(3)（和/英） | 画像分類 / Image Classification |
| キーワード(4)（和/英） | 蒸留 / Distillation |
| キーワード(5)（和/英） | 能動学習 / Active Learning |
| 第 1 著者 氏名（和/英） | 東 遼太 / Ryota Higashi |
| 第 1 著者 所属（和/英） | 和歌山大学(略称：和歌山大) Wakayama University(略称：Wakayama Univ.) |
| 第 2 著者 氏名（和/英） | 和田 俊和 / Toshikazu Wada |
| 第 2 著者 所属（和/英） | 和歌山大学(略称：和歌山大) Wakayama University(略称：Wakayama Univ.) |
| 発表年月日 | 2021-12-17 |
| 資料番号 | PRMU2021-51 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | PRMU-304 |
| ページ範囲 | pp.148-153(PRMU), |
| ページ数 | 6 |
| 発行日 | 2021-12-09 (PRMU) |