| No | 24182 |
|---|---|
| 標題（和） | ニュ-ロンの非線形性の適応制御による学習の高速化の一手法 |
| 標題（英） | An Approach to the Acceleration of Learning by Adaptive Control of Neurons′Nonlinearity |
| 研究会名（和） | 回路とシステム; 通信方式; ディジタル信号処理 |
| 研究会名（英） | Circuits and Systems; Communication Systems; Digital Signal Processing |
| 開催年月日 | 1992-03-05 |
| 終了年月日 | 1992-03-06 |
| 会議種別コード | 2 |
| 共催団体名（和） | 電気学会 |
| 資料番号 | CAS91-164 // CS91-124 // DSP91-91 |
| 抄録（和） | 本稿では、誤差逆伝播学習法において学習の高速化を図るアルゴリズムを提案している。本提案アルゴリズムでは、まずニュ-ロンの出力関数に非線形性を制御する温度パラメ-タを導入する。そして、これを出力2乗誤差和を最小にするように、最急降下法を用いて適応制御する。従来のアルゴリズムでは、学習終盤において重み修正量が非常に小さくなるために収束が遅くなるが、提案アルゴリズムでは、学習の終盤における学習を加速することができ、従来よりも高速に学習させることができる。また、温度初期値を意図的に設定してやることにより、学習成功率を上げることもできる。最後に、これらのアルゴリズムを、XOR問題、数字フォント認識問題に適用し、その有効性を実証した。 |
| 抄録（英） | An acceleration algorithm of learning in the back-propagation method is presented in this paper.We introduce the temperature to control the nonlinearity in the output function of neurons.The temperature is adaptively controlled by the least-mean-square method to minimize the sum of the squared output error.The convergence of the conventional algorithm is slow because the weight modification is extremely small in the last stage of leaning,but the developed algorithm is capable of accelerating the learning process in the last stage of interest and offers a faster learning speed than the conventional.In addition if the initial temperature is set intentionally,the hit rate rises.Finally we have demonstrated that the algorithm is effective to the acceleration of learning through the XOR problem and a numeric font recognition problem. |
| 収録資料名（和） | 電子情報通信学会技術研究報告 |
| 収録資料の巻号 | Vol.91 No.493〜498 |
| ページ開始 | 25 |
| ページ終了 | 30 |
| キーワード（和） | シグモイド関数 |
| キーワード（英） | sigmoid function |
| 本文の言語 | JPN |
| 著者（和） | 渡辺弘道 |
| 著者（ヨミ） | ワタナベヒロミチ |
| 著者（英） | Watanabe Hiromichi |
| 所属機関（和） | 新潟大学工学部 |
| 所属機関（英） | Faculty of Engineering,Niigata University |
| 著者（和） | 菊池久和 |
| 著者（ヨミ） | キクチヒサカズ |
| 著者（英） | Kikuchi Hisakazu |
| 所属機関（和） | 新潟大学工学部 |
| 所属機関（英） | Faculty of Engineering,Niigata University |
| 著者（和） | 布施竜也 |
| 著者（ヨミ） | フセタツヤ |
| 著者（英） | Fuse Tatsuya |
| 所属機関（和） | 新潟大学工学部 |
| 所属機関（英） | Faculty of Engineering,Niigata University |
| 著者（和） | 長瀬秀臣 |
| 著者（ヨミ） | ナガセヒデオミ |
| 著者（英） | Nagase Hideomi |
| 所属機関（和） | 新潟大学工学部 |
| 所属機関（英） | Faculty of Engineering,Niigata University |