講演名 2013-01-24
分散並列環境における準ニュートン学習アルゴリズムの有効性
佐伯 誠, 坂下 善彦, 二宮 洋,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) ニューラルネットワークの主な学習にはバックプロパゲーション法や準ニュートン法など、1次収束性や超1次収束性を持つ勾配法に基づくアルゴリズムが用いられている。特に、学習が困難な問題に対しては準ニュートン法などの超1次収束性を持つアルコリズムを用いる必要がある。また、これらの学習法は学習データの扱い方の違いからバッチ学習法とオンライン学習法とに分かれている。一方、分散並列環境下における機械学習では、オンライン学習と同様に学習データを分割し,これら分割された学習データを各マシンに分散させ、各マシンごとに1次収束性のアルゴリズムを用いて学習を行うことが主流である。本研究では、準ニュートン法に基づく学習アルゴリズムの分散並列環境における有効性に関してシミュレーションを用いて検証する。
抄録(英) This paper descnbes the feasibility of quasi-Newton method for training feedforward neural networks on the parallel distnbuted environment. Recently, we have to deal with large data in machine learning. Parallel distnbuted environment is one of the means to solve this problem. Most of the learning method with huge samples are based on the first order gradient algonthms. The quasi-Newton method is one of the most effective method to training feed forward neural networks. This study venfy practiced effectiveness method through computer simulations.
キーワード(和) ニューラルネットワーク / 準ニュートン法 / バックプロパゲーション法 / 分散並列環境
キーワード(英) neural networks / quasi-Newton method / back-propagation method / parallel distnbuted environment
資料番号 NLP2012-111,NC2012-101
発行日

研究会情報
研究会 NLP
開催期間 2013/1/17(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Nonlinear Problems (NLP)
本文の言語 JPN
タイトル(和) 分散並列環境における準ニュートン学習アルゴリズムの有効性
サブタイトル(和)
タイトル(英) Study of quasi-Newton Training Algorithm on Parallel Distributed Environment
サブタイトル(和)
キーワード(1)(和/英) ニューラルネットワーク / neural networks
キーワード(2)(和/英) 準ニュートン法 / quasi-Newton method
キーワード(3)(和/英) バックプロパゲーション法 / back-propagation method
キーワード(4)(和/英) 分散並列環境 / parallel distnbuted environment
第 1 著者 氏名(和/英) 佐伯 誠 / Makoto SAIKI
第 1 著者 所属(和/英) 湘南工科大学工学部情報工学科
Department of information Science, Faculty of Engineering
第 2 著者 氏名(和/英) 坂下 善彦 / Yoshihiko SAKASHITA
第 2 著者 所属(和/英) 湘南工科大学工学部情報工学科
Department of information Science, Faculty of Engineering
第 3 著者 氏名(和/英) 二宮 洋 / Hiroshi NINOMIYA
第 3 著者 所属(和/英) 湘南工科大学工学部情報工学科
Department of information Science, Faculty of Engineering
発表年月日 2013-01-24
資料番号 NLP2012-111,NC2012-101
巻番号(vol) vol.112
号番号(no) 389
ページ範囲 pp.-
ページ数 6
発行日