講演名 | 2013-01-24 分散並列環境における準ニュートン学習アルゴリズムの有効性 佐伯 誠, 坂下 善彦, 二宮 洋, |
---|---|
PDFダウンロードページ | PDFダウンロードページへ |
抄録(和) | ニューラルネットワークの主な学習にはバックプロパゲーション法や準ニュートン法など、1次収束性や超1次収束性を持つ勾配法に基づくアルゴリズムが用いられている。特に、学習が困難な問題に対しては準ニュートン法などの超1次収束性を持つアルコリズムを用いる必要がある。また、これらの学習法は学習データの扱い方の違いからバッチ学習法とオンライン学習法とに分かれている。一方、分散並列環境下における機械学習では、オンライン学習と同様に学習データを分割し,これら分割された学習データを各マシンに分散させ、各マシンごとに1次収束性のアルゴリズムを用いて学習を行うことが主流である。本研究では、準ニュートン法に基づく学習アルゴリズムの分散並列環境における有効性に関してシミュレーションを用いて検証する。 |
抄録(英) | This paper descnbes the feasibility of quasi-Newton method for training feedforward neural networks on the parallel distnbuted environment. Recently, we have to deal with large data in machine learning. Parallel distnbuted environment is one of the means to solve this problem. Most of the learning method with huge samples are based on the first order gradient algonthms. The quasi-Newton method is one of the most effective method to training feed forward neural networks. This study venfy practiced effectiveness method through computer simulations. |
キーワード(和) | ニューラルネットワーク / 準ニュートン法 / バックプロパゲーション法 / 分散並列環境 |
キーワード(英) | neural networks / quasi-Newton method / back-propagation method / parallel distnbuted environment |
資料番号 | NLP2012-111,NC2012-101 |
発行日 |
研究会情報 | |
研究会 | NLP |
---|---|
開催期間 | 2013/1/17(から1日開催) |
開催地(和) | |
開催地(英) | |
テーマ(和) | |
テーマ(英) | |
委員長氏名(和) | |
委員長氏名(英) | |
副委員長氏名(和) | |
副委員長氏名(英) | |
幹事氏名(和) | |
幹事氏名(英) | |
幹事補佐氏名(和) | |
幹事補佐氏名(英) |
講演論文情報詳細 | |
申込み研究会 | Nonlinear Problems (NLP) |
---|---|
本文の言語 | JPN |
タイトル(和) | 分散並列環境における準ニュートン学習アルゴリズムの有効性 |
サブタイトル(和) | |
タイトル(英) | Study of quasi-Newton Training Algorithm on Parallel Distributed Environment |
サブタイトル(和) | |
キーワード(1)(和/英) | ニューラルネットワーク / neural networks |
キーワード(2)(和/英) | 準ニュートン法 / quasi-Newton method |
キーワード(3)(和/英) | バックプロパゲーション法 / back-propagation method |
キーワード(4)(和/英) | 分散並列環境 / parallel distnbuted environment |
第 1 著者 氏名(和/英) | 佐伯 誠 / Makoto SAIKI |
第 1 著者 所属(和/英) | 湘南工科大学工学部情報工学科 Department of information Science, Faculty of Engineering |
第 2 著者 氏名(和/英) | 坂下 善彦 / Yoshihiko SAKASHITA |
第 2 著者 所属(和/英) | 湘南工科大学工学部情報工学科 Department of information Science, Faculty of Engineering |
第 3 著者 氏名(和/英) | 二宮 洋 / Hiroshi NINOMIYA |
第 3 著者 所属(和/英) | 湘南工科大学工学部情報工学科 Department of information Science, Faculty of Engineering |
発表年月日 | 2013-01-24 |
資料番号 | NLP2012-111,NC2012-101 |
巻番号(vol) | vol.112 |
号番号(no) | 389 |
ページ範囲 | pp.- |
ページ数 | 6 |
発行日 |