講演名 2011-03-11
階層型ニューラルネットワークの活性化関数の適応的学習とその効果
清 大輔, 中川 匡弘,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本稿では、階層型ニューラルネットワークの誤差逆伝搬法において、重みと閾値だけではなく、シグモイド型の活性化関数における傾きの係数も学習し、その効果を調べた.問題については非線形分離問題を2種用意し、既定の平均自乗誤差を下回った回数と下回った時の学習回数を調べ、学習成功率と平均学習回数を求めた.結果、問題によって効果に差異があるが、傾きを学習した場合においての学習の加速が確認できた.よって、本稿で設定した問題では傾きの学習はネットワークの学習の加速に有効であることが確認できた.
抄録(英) In this paper, on back propagation of a layer neural network, we study the effect of adaptive learning of activation function not only weight and levels. We prepare two of non-liner separation problem, and get the learning success rate and mean the number of learning times by searching the number of times on mean squared error (MSE) under the constant value and the number of learning times. The result is that we confirmed adaptive learning is faster than normal one. So we confirmed that adaptive learning is effective for acceleration of learning.
キーワード(和) 階層型ニューラルネットワーク / 誤差逆伝搬法
キーワード(英) Layer Neural Network / Back Propagation
資料番号 NLP2010-191
発行日

研究会情報
研究会 NLP
開催期間 2011/3/3(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Nonlinear Problems (NLP)
本文の言語 JPN
タイトル(和) 階層型ニューラルネットワークの活性化関数の適応的学習とその効果
サブタイトル(和)
タイトル(英) Adaptive Learning of Activation Function of Layer Neural Network
サブタイトル(和)
キーワード(1)(和/英) 階層型ニューラルネットワーク / Layer Neural Network
キーワード(2)(和/英) 誤差逆伝搬法 / Back Propagation
第 1 著者 氏名(和/英) 清 大輔 / Daisuke SEI
第 1 著者 所属(和/英) 長岡技術科学大学
Nagaoka University of Techonology
第 2 著者 氏名(和/英) 中川 匡弘 / Masahiro NAKAMURA
第 2 著者 所属(和/英) 長岡技術科学大学
Nagaoka University of Techonology
発表年月日 2011-03-11
資料番号 NLP2010-191
巻番号(vol) vol.110
号番号(no) 465
ページ範囲 pp.-
ページ数 4
発行日