| 講演名 | 1994/10/13 二次近似範囲を調整する共役勾配法とBP学習への適用 後藤 正幸, 俵 信彦, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | ニューラルネットワークの学習法であるBP学習は,本質的には最急降下法として導出されたため,収束速度や初期値依存性の問題点が指摘されていた。学習速度に対しては,共役勾配法を適用することにより,かなりの高速化が達成できると報告される。しかし,共役勾配法はもともと二次関数の最小化問題に対して導出された方法であり,BP学習のような一般の関数の探索問題に関しては,それが局所的には二次近似できるという考えから,そのまま適用されているにすぎない。共役勾配法は初期値によっては,最急降下法では陥らないような大きな誤差のローカルミニマに陥ることもある。そこで,本稿では,適切な二次近似範囲を設定しながら,探索を進める適応共役勾配法アルゴリズムを提案する。 |
| 抄録(英) | BP learning algorithm from Conjugate Gradient Method is effective method for high speed learning,However,in this method, problem which it depends on an initial setting of network parameter values should be mentioned.We,therefore,propose a learning algorithm with high accuracy based on Conjugate Gradient Method.The algorithm is based on "improved formiula" to create a conjugate direction and can search adapting parameter j.We call the proposed algorithm "Adaptive Conjugate Gradient algorithm. |
| キーワード(和) | 共役勾配法 / 非線形計画法 / バックプロパゲーション / ニューラルネットワーク |
| キーワード(英) | Conjugate Gradient Method / Nonlinear programming / Backpropagation / Neural Networks |
| 資料番号 | NC94-37 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1994/10/13(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 二次近似範囲を調整する共役勾配法とBP学習への適用 |
| サブタイトル（和） | |
| タイトル（英） | Adaptive Conjugate Gradient Algorithm and its application to BP learning |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 共役勾配法 / Conjugate Gradient Method |
| キーワード(2)（和/英） | 非線形計画法 / Nonlinear programming |
| キーワード(3)（和/英） | バックプロパゲーション / Backpropagation |
| キーワード(4)（和/英） | ニューラルネットワーク / Neural Networks |
| 第 1 著者 氏名（和/英） | 後藤 正幸 / Masayuki Gotoh |
| 第 1 著者 所属（和/英） | 早稲田大学理工学部工業経営学科 Department of IE and Management,School of Science and Engineering, Waseda University |
| 第 2 著者 氏名（和/英） | 俵 信彦 / Nobuhiko Tawara |
| 第 2 著者 所属（和/英） | 武蔵工業大学工学部経営工学科 Department of Industrial Engineering,Faculty of Engineering, Musashi Institute of Technology |
| 発表年月日 | 1994/10/13 |
| 資料番号 | NC94-37 |
| 巻番号（vol） | vol.94 |
| 号番号（no） | 272 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |