講演抄録/キーワード |
講演名 |
2009-11-14 09:55
改良型online準ニュートン法によるニューラルネットワークの学習 ○二宮 洋(湘南工科大) NLP2009-115 |
抄録 |
(和) |
本研究ではオンライン準ニュートン法を改良したニューラルネットワークの学習アルゴリズムを提案する.学習アルゴリズムとしては勾配法に基づくバックプロパゲーション(BP)法が広く使われている.BP法には学習データを一括して扱うバッチ学習法と学習データをデータ毎に扱うオンライン学習法がある.一方,BP法と同様に勾配法に基づく学習アルゴリズムに準ニュートン法がある.準ニュートン法に基づく学習アルゴリズムは一般的にはバッチ学習法として扱われている.近年,大規模なデータを扱う機械学習アルゴリズムとしてonline準ニュートン法が提案された.本研究ではこのonline準ニュートン法を改良することで,非常に非線形性の強い学習データを扱うことができるアルゴリズムを提案する. |
(英) |
This paper describes a new technique for training feedforward neural networks. The proposed algorithm is employed for robust neural network training purpose. Recently, the online quasi-Newton method was developed for the machine learning. The quasi-Newton method which is batch training method is the most efficient optimization algorithm based on the gradient descent. In this paper the online quasi-Newton training algorithm is improved for robust neural network training. Neural network training for some benchmark problems is presented to demonstrate the proposed algorithm. The proposed algorithm achieves more accurate and robust training results than both the batch and online quasi-Newton methods. |
キーワード |
(和) |
ニューラルネットワーク / 準ニュートン法 / オンライン学習法 / バッチ学習法 / / / / |
(英) |
Neural networks / quasi-Newton method / online training method / batch training method / / / / |
文献情報 |
信学技報, vol. 109, no. 269, NLP2009-115, pp. 187-192, 2009年11月. |
資料番号 |
NLP2009-115 |
発行日 |
2009-11-04 (NLP) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NLP2009-115 |