講演抄録/キーワード |
講演名 |
2021-12-17 15:00
CNNにおけるドロップアウトを利用した高精度学習法を目指して ○秋葉浩和・和田俊和(和歌山大) PRMU2021-52 |
抄録 |
(和) |
Convolutional Neural Network(CNN)の畳み込み層に対して用いられるドロップアウトの役割は,目的関数を摂動させて,大域的に最適な解に近づけるという効果があるが,そのままでは最適解には収束しないため,ある程度学習が進んだ段階でドロップアウトをやめる必要がある.この結果として,最初からドロップアウトを用いずに学習した場合と比較すると,比較的早いエポックで低いトレーニングロス,高いトレーニング・テスト精度が得られることがある.このことを利用して,ドロップアウトを取りやめるタイミングや方法によって,異なるロス・精度に達するが,この中でロスが低く精度が高いものを効率よく探索する方法について検討する.このために,本報告ではドロップアウト率を急激に0に落とした場合や,ゆっくり落とした場合,あるいは,ドロップアウトを取りやめるタイミングを変更した場合で,どのように,ロスや精度が変化するかについて具体的なネットワークやデータセットを用いて検討を行った結果について報告する. |
(英) |
(Not available yet) |
キーワード |
(和) |
ドロップアウト / 畳み込みニューラルネットワーク / 深層学習 / 画像分類 / / / / |
(英) |
/ / / / / / / |
文献情報 |
信学技報, vol. 121, no. 304, PRMU2021-52, pp. 154-159, 2021年12月. |
資料番号 |
PRMU2021-52 |
発行日 |
2021-12-09 (PRMU) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2021-52 |