| 講演名 | 2021-12-17 Task-independent redundancy reduction method using regularization for efficient neural network training ヴィタル チャルヴィ(NEC), バイエ フロリアン(NEC), 二瓶 浩一(NEC), 逸身 勇人(NEC), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | |
| 抄録(英) | Neural networks (NNs) are widely used for various applications in recent years. However, it is difficult for the NN to learn optimum amount of information due to under-fitting and over-fitting. One reason is the presence of repeated information or inoperative components, in other words, redundancies. Hence, mitigating redundancies is essential for improving accuracy. Current methods do not capture all the ways to reduce redundancies without changing the network architecture. This paper proposes a neural network training method to reduce the redundancies. We propose novel metrics to quantify redundancies and ways to compute them. We evaluate our method on different tasks: 2D object detection, 3D object detection and image classification. Experimental results show upto 4% increase in accuracy for 2D object detection task. |
| キーワード(和) | |
| キーワード(英) | RedundancyRegularizationInformationNeural Network |
| 資料番号 | PRMU2021-58 |
| 発行日 | 2021-12-09 (PRMU) |
| 研究会情報 | |
| 研究会 | PRMU |
|---|---|
| 開催期間 | 2021/12/16(から2日開催) |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 時系列・因果推論・異常検知 |
| テーマ（英） | |
| 委員長氏名（和） | 内田 誠一(九大) |
| 委員長氏名（英） | Seiichi Uchida(Kyushu Univ.) |
| 副委員長氏名（和） | 岩村 雅一(阪府大) / 安倍 満(デンソーアイティーラボラトリ) |
| 副委員長氏名（英） | Masakazu Iwamura(Osaka Pref. Univ.) / Mitsuru Anpai(Denso IT Lab.) |
| 幹事氏名（和） | 柴田 剛志(NTT) / 西山 正志(鳥取大) |
| 幹事氏名（英） | Takashi Shibata(NTT) / Masashi Nishiyama(Tottori Univ.) |
| 幹事補佐氏名（和） | 山口 光太(サイバーエージェント) / 松井 勇佑(東大) |
| 幹事補佐氏名（英） | Kouta Yamaguchi(CyberAgent) / Yusuke Matsui(Univ. of Tokyo) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | |
| サブタイトル（和） | |
| タイトル（英） | Task-independent redundancy reduction method using regularization for efficient neural network training |
| サブタイトル（和） | |
| キーワード(1)（和/英） | / RedundancyRegularizationInformationNeural Network |
| 第 1 著者 氏名（和/英） | ヴィタル チャルヴィ / Charvi Vitthal |
| 第 1 著者 所属（和/英） | 日本電気株式会社(略称：NEC) NEC Corporation(略称：NEC) |
| 第 2 著者 氏名（和/英） | バイエ フロリアン / Florian Beye |
| 第 2 著者 所属（和/英） | 日本電気株式会社(略称：NEC) NEC Corporation(略称：NEC) |
| 第 3 著者 氏名（和/英） | 二瓶 浩一 / Koichi Nihei |
| 第 3 著者 所属（和/英） | 日本電気株式会社(略称：NEC) NEC Corporation(略称：NEC) |
| 第 4 著者 氏名（和/英） | 逸身 勇人 / Hayato Itsumi |
| 第 4 著者 所属（和/英） | 日本電気株式会社(略称：NEC) NEC Corporation(略称：NEC) |
| 発表年月日 | 2021-12-17 |
| 資料番号 | PRMU2021-58 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | PRMU-304 |
| ページ範囲 | pp.188-194(PRMU), |
| ページ数 | 7 |
| 発行日 | 2021-12-09 (PRMU) |