講演名 | 1993/11/24 内部表現を利用した誤差逆伝搬法IV : 補助出力ユニットを利用したローカルミニマの判定 石田 慎二, 吉田 富美男, 松田 甚一, |
---|---|
PDFダウンロードページ | PDFダウンロードページへ |
抄録(和) | 階層型ニューラルネットの学習に用いられる誤差逆伝搬法は,最急降下法に基づいているため,学習成功率や学習回数などの学習特性に問題がある.これに対して筆者らは,出力層に補助出力ユニットを付加して,中間層に形成されつつある内部表現を積極的に利用する新しい学習法を提案し,これにより学習効率が改善できることを確認したほか,その理由について検討を行なってきた.本報告では,これらの検討結果をもとに,補助出力ユニットがネットワークの学習に果たす役割を実験的に検討し,ローカルミニマノ判定を行い得ることを示すとともに,補助出力ユニットによる擾乱効果を利用した学習効率改善手法について言及する. |
抄録(英) | In an error back propagation method,the network sometimes fails to complete the learning due to local minima and even if the global minimum can be achieved it takes tremendous learning steps. We have been studying a new learning method,in which auxiliary units are installed in output layer and internal representations are used as the teacher′s signals for them,and we are testing lear ning efficiency of our method through computer simulations. Here,we discuss the attraction effect due to auxiliary output units.It is confirmed that,in our method,we can check whether the net is in the local minima or not during learning phase and improve effectively the learning process. |
キーワード(和) | ニューラルネットワーク / 誤差逆伝搬法 / 内部表現 / 学習効率 / ローカルミニマ / 擾 乱効果 |
キーワード(英) | neural network / error back propagation method / internal representation / learning efficiency / local minimum |
資料番号 | NC93-51 |
発行日 |
研究会情報 | |
研究会 | NC |
---|---|
開催期間 | 1993/11/24(から1日開催) |
開催地(和) | |
開催地(英) | |
テーマ(和) | |
テーマ(英) | |
委員長氏名(和) | |
委員長氏名(英) | |
副委員長氏名(和) | |
副委員長氏名(英) | |
幹事氏名(和) | |
幹事氏名(英) | |
幹事補佐氏名(和) | |
幹事補佐氏名(英) |
講演論文情報詳細 | |
申込み研究会 | Neurocomputing (NC) |
---|---|
本文の言語 | JPN |
タイトル(和) | 内部表現を利用した誤差逆伝搬法IV : 補助出力ユニットを利用したローカルミニマの判定 |
サブタイトル(和) | |
タイトル(英) | A Modified Learning Method for Error Back Propagation Algorithm using the Data of Internal Representation IV : Judgment of local minima using auxiliary output units |
サブタイトル(和) | |
キーワード(1)(和/英) | ニューラルネットワーク / neural network |
キーワード(2)(和/英) | 誤差逆伝搬法 / error back propagation method |
キーワード(3)(和/英) | 内部表現 / internal representation |
キーワード(4)(和/英) | 学習効率 / learning efficiency |
キーワード(5)(和/英) | ローカルミニマ / local minimum |
キーワード(6)(和/英) | 擾 乱効果 |
第 1 著者 氏名(和/英) | 石田 慎二 / Shinji Ishida |
第 1 著者 所属(和/英) | 長岡技術科学大学 Nagaoka University of Technology |
第 2 著者 氏名(和/英) | 吉田 富美男 / Fumio Yoshida |
第 2 著者 所属(和/英) | 長岡技術科学大学 Nagaoka University of Technology |
第 3 著者 氏名(和/英) | 松田 甚一 / Jin-ichi Matsuda |
第 3 著者 所属(和/英) | 長岡技術科学大学 Nagaoka University of Technology |
発表年月日 | 1993/11/24 |
資料番号 | NC93-51 |
巻番号(vol) | vol.93 |
号番号(no) | 341 |
ページ範囲 | pp.- |
ページ数 | 8 |
発行日 |