講演名 | 2021-12-17 CNNにおけるドロップアウトを利用した高精度学習法を目指して 秋葉 浩和(和歌山大), 和田 俊和(和歌山大), |
---|---|
PDFダウンロードページ | PDFダウンロードページへ |
抄録(和) | Convolutional Neural Network(CNN)の畳み込み層に対して用いられるドロップアウトの役割は,目的関数を摂動させて,大域的に最適な解に近づけるという効果があるが,そのままでは最適解には収束しないため,ある程度学習が進んだ段階でドロップアウトをやめる必要がある.この結果として,最初からドロップアウトを用いずに学習した場合と比較すると,比較的早いエポックで低いトレーニングロス,高いトレーニング・テスト精度が得られることがある.このことを利用して,ドロップアウトを取りやめるタイミングや方法によって,異なるロス・精度に達するが,この中でロスが低く精度が高いものを効率よく探索する方法について検討する.このために,本報告ではドロップアウト率を急激に0に落とした場合や,ゆっくり落とした場合,あるいは,ドロップアウトを取りやめるタイミングを変更した場合で,どのように,ロスや精度が変化するかについて具体的なネットワークやデータセットを用いて検討を行った結果について報告する. |
抄録(英) | |
キーワード(和) | ドロップアウト / 畳み込みニューラルネットワーク / 深層学習 / 画像分類 |
キーワード(英) | |
資料番号 | PRMU2021-52 |
発行日 | 2021-12-09 (PRMU) |
研究会情報 | |
研究会 | PRMU |
---|---|
開催期間 | 2021/12/16(から2日開催) |
開催地(和) | オンライン開催 |
開催地(英) | Online |
テーマ(和) | 時系列・因果推論・異常検知 |
テーマ(英) | |
委員長氏名(和) | 内田 誠一(九大) |
委員長氏名(英) | Seiichi Uchida(Kyushu Univ.) |
副委員長氏名(和) | 岩村 雅一(阪府大) / 安倍 満(デンソーアイティーラボラトリ) |
副委員長氏名(英) | Masakazu Iwamura(Osaka Pref. Univ.) / Mitsuru Anpai(Denso IT Lab.) |
幹事氏名(和) | 柴田 剛志(NTT) / 西山 正志(鳥取大) |
幹事氏名(英) | Takashi Shibata(NTT) / Masashi Nishiyama(Tottori Univ.) |
幹事補佐氏名(和) | 山口 光太(サイバーエージェント) / 松井 勇佑(東大) |
幹事補佐氏名(英) | Kouta Yamaguchi(CyberAgent) / Yusuke Matsui(Univ. of Tokyo) |
講演論文情報詳細 | |
申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding |
---|---|
本文の言語 | JPN |
タイトル(和) | CNNにおけるドロップアウトを利用した高精度学習法を目指して |
サブタイトル(和) | |
タイトル(英) | Toward high-accuracy CNN learning using dropout. |
サブタイトル(和) | |
キーワード(1)(和/英) | ドロップアウト |
キーワード(2)(和/英) | 畳み込みニューラルネットワーク |
キーワード(3)(和/英) | 深層学習 |
キーワード(4)(和/英) | 画像分類 |
第 1 著者 氏名(和/英) | 秋葉 浩和 / Hirokazu Akiba |
第 1 著者 所属(和/英) | 和歌山大学(略称:和歌山大) Wakayama University(略称:Wakayama Univ.) |
第 2 著者 氏名(和/英) | 和田 俊和 / Toshikazu Wada |
第 2 著者 所属(和/英) | 和歌山大学(略称:和歌山大) Wakayama University(略称:Wakayama Univ.) |
発表年月日 | 2021-12-17 |
資料番号 | PRMU2021-52 |
巻番号(vol) | vol.121 |
号番号(no) | PRMU-304 |
ページ範囲 | pp.154-159(PRMU), |
ページ数 | 6 |
発行日 | 2021-12-09 (PRMU) |