講演名 1994/3/25
出力誤差関数の微係数を利用した誤差逆伝搬法
吉田 富美男, 石田 慎二, 松田 甚一,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 階層型ニュ-ラルネットの学習においては,一般にロ-カルミニマが存在するため,最急降下法に基づく誤差逆伝搬法では必ずしも学習に成功するとは限らない.本報告では,階層型ニュ-ラルネットの出力誤差の2乗和,すなわち評価関数,の微分を利用して学習効率を改善する手法を提案する.本手法では,出力層における出力誤差を誤差逆伝搬法と同様に逆伝搬させながら,これと同時に,評価関数の微分値を直接中間層に逆伝搬させることによって学習を行う.コンピュ-タ・シミュレ-ションにより,従来の誤差逆伝搬法の学習成功率88.2%に対して,本手法では99.4%と非常に高い成功率が得られることを示すとともに,筆者らがこれまで検討してきたブ-スタ-学習法との関係を明らかにする.
抄録(英) A modified error back propagation method for improving the learning efficiency of layered neural networks is presented.In this method,the network can be trained in a similar way as a conventional error back propagation method,only except adding the differential of output error function to the back propagation error at hidden layer units.It is shown by computer simulation that,in the learning of exclusive-OR,the success rate of learning with the conventional error back propagation method is 88.2%,and that with our method is improved to 99.4%.Furthermore,we clear the relationship between this method and the booster learning method proposed by us.
キーワード(和) ニュ-ラルネットワ-ク / 誤差逆伝搬法 / 学習効率 / 出力誤差関数 / 微係数
キーワード(英) neural networks / error back propagation method / learning efficiency / output error function / differential coefficient
資料番号 NC93-117
発行日

研究会情報
研究会 NC
開催期間 1994/3/25(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 出力誤差関数の微係数を利用した誤差逆伝搬法
サブタイトル(和)
タイトル(英) A Modified Error Back Propagation Method using the Differential of Output Error Function
サブタイトル(和)
キーワード(1)(和/英) ニュ-ラルネットワ-ク / neural networks
キーワード(2)(和/英) 誤差逆伝搬法 / error back propagation method
キーワード(3)(和/英) 学習効率 / learning efficiency
キーワード(4)(和/英) 出力誤差関数 / output error function
キーワード(5)(和/英) 微係数 / differential coefficient
第 1 著者 氏名(和/英) 吉田 富美男 / Fumio Yoshida
第 1 著者 所属(和/英) 長岡技術科学大学工学部電気系
Department of Electrical Engineering,Faculty of Engineering, Nagaoka University of Technology
第 2 著者 氏名(和/英) 石田 慎二 / Shinji Ishida
第 2 著者 所属(和/英) 長岡技術科学大学工学部電気系
Department of Electrical Engineering,Faculty of Engineering, Nagaoka University of Technology
第 3 著者 氏名(和/英) 松田 甚一 / Jin-ichi Matsuda
第 3 著者 所属(和/英) 長岡技術科学大学工学部電気系
Department of Electrical Engineering,Faculty of Engineering, Nagaoka University of Technology
発表年月日 1994/3/25
資料番号 NC93-117
巻番号(vol) vol.93
号番号(no) 537
ページ範囲 pp.-
ページ数 8
発行日