講演抄録/キーワード |
講演名 |
2013-01-24 12:50
分散並列環境における準ニュートン学習アルゴリズムの有効性 ○佐伯 誠・坂下善彦・二宮 洋(湘南工科大) NLP2012-111 NC2012-101 |
抄録 |
(和) |
ニューラルネットワークの主な学習にはバックプロパゲーション法や準ニュートン法など、1次収束性や超1次収束性を持つ勾配法に基づくアルゴリズムが用いられている。特に、学習が困難な問題に対しては準ニュートン法などの超1次収束性を持つアルゴリズムを用いる必要がある。また、これらの学習法は学習データの扱い方の違いからバッチ学習法とオンライン学習法とに分かれている。一方、分散並列環境下における機械学習では、オンライン学習と同様に学習データを分割し,これら分割された学習データを各マシンに分散させ、各マシンごとに1次収束性のアルゴリズムを用いて学習を行うことが主流である。
本研究では、準ニュートン法に基づく学習アルゴリズムの分散並列環境における有効性に関してシミュレーションを用いて検証する。 |
(英) |
This paper describes the feasibility of quasi-Newton method for training feedforward neural networks on the parallel distributed environment. Recently, we have to deal with large data in machine learning. Parallel distributed environment is one of the means to solve this problem. Most of the learning method with huge samples are based on the first order gradient algorithms. The quasi-Newton method is one of the most effective method to training feed forward neural networks. This study verify practiced effectiveness method through computer simulations. |
キーワード |
(和) |
ニューラルネットワーク / 準ニュートン法 / バックプロパゲーション法 / 分散並列環境 / / / / |
(英) |
neural networks / quasi-Newton method / back-propagation method / parallel distributed environment / / / / |
文献情報 |
信学技報, vol. 112, no. 389, NLP2012-111, pp. 43-48, 2013年1月. |
資料番号 |
NLP2012-111 |
発行日 |
2013-01-17 (NLP, NC) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
NLP2012-111 NC2012-101 |