講演名 1993/11/24
内部表現を利用した誤差逆伝搬法IV : 補助出力ユニットを利用したローカルミニマの判定
石田 慎二, 吉田 富美男, 松田 甚一,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 階層型ニューラルネットの学習に用いられる誤差逆伝搬法は,最急降下法に基づいているため,学習成功率や学習回数などの学習特性に問題がある.これに対して筆者らは,出力層に補助出力ユニットを付加して,中間層に形成されつつある内部表現を積極的に利用する新しい学習法を提案し,これにより学習効率が改善できることを確認したほか,その理由について検討を行なってきた.本報告では,これらの検討結果をもとに,補助出力ユニットがネットワークの学習に果たす役割を実験的に検討し,ローカルミニマノ判定を行い得ることを示すとともに,補助出力ユニットによる擾乱効果を利用した学習効率改善手法について言及する.
抄録(英) In an error back propagation method,the network sometimes fails to complete the learning due to local minima and even if the global minimum can be achieved it takes tremendous learning steps. We have been studying a new learning method,in which auxiliary units are installed in output layer and internal representations are used as the teacher′s signals for them,and we are testing lear ning efficiency of our method through computer simulations. Here,we discuss the attraction effect due to auxiliary output units.It is confirmed that,in our method,we can check whether the net is in the local minima or not during learning phase and improve effectively the learning process.
キーワード(和) ニューラルネットワーク / 誤差逆伝搬法 / 内部表現 / 学習効率 / ローカルミニマ / 擾 乱効果
キーワード(英) neural network / error back propagation method / internal representation / learning efficiency / local minimum
資料番号 NC93-51
発行日

研究会情報
研究会 NC
開催期間 1993/11/24(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 内部表現を利用した誤差逆伝搬法IV : 補助出力ユニットを利用したローカルミニマの判定
サブタイトル(和)
タイトル(英) A Modified Learning Method for Error Back Propagation Algorithm using the Data of Internal Representation IV : Judgment of local minima using auxiliary output units
サブタイトル(和)
キーワード(1)(和/英) ニューラルネットワーク / neural network
キーワード(2)(和/英) 誤差逆伝搬法 / error back propagation method
キーワード(3)(和/英) 内部表現 / internal representation
キーワード(4)(和/英) 学習効率 / learning efficiency
キーワード(5)(和/英) ローカルミニマ / local minimum
キーワード(6)(和/英) 擾 乱効果
第 1 著者 氏名(和/英) 石田 慎二 / Shinji Ishida
第 1 著者 所属(和/英) 長岡技術科学大学
Nagaoka University of Technology
第 2 著者 氏名(和/英) 吉田 富美男 / Fumio Yoshida
第 2 著者 所属(和/英) 長岡技術科学大学
Nagaoka University of Technology
第 3 著者 氏名(和/英) 松田 甚一 / Jin-ichi Matsuda
第 3 著者 所属(和/英) 長岡技術科学大学
Nagaoka University of Technology
発表年月日 1993/11/24
資料番号 NC93-51
巻番号(vol) vol.93
号番号(no) 341
ページ範囲 pp.-
ページ数 8
発行日