| 講演名 | 2010/6/11 学習データの与え方を改良した勾配学習アルゴリズムを用いたニューラルネットワークの学習に関する研究(機械学習によるバイオデータマインニング,生命現象の非線形性,一般) 阿部 俊和, 坂下 善彦, 二宮 洋, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | ニューラルネットワークの学習に対して、勾配法に基づくアルゴリズムが様々提案されている.その中で,学習データの与え方に関する研究として,オンライン学習法及びバッチ学習法に関する研究がある.近年,準ニュートン法に対して学習データの与え方を改良することで,オンライン及びバッチ学習法の収束性が大幅に向上することが示された.本研究では様々な勾配系アルゴリズムに対して学習データの与え方を改良する手法を適用し,各アルゴリズムの収束性をシミュレーションを用いて検証する. |
| 抄録(英) | Various techniques based on the gradient descent method have been studied as the training algorithm for neural networks. Neural network training poses data-driven optimization problems in which the objective function involves the summation of loss terms over a set of data to be modeled. For a given set of training data, the gradient-based algorithms operate in one of two modes: stochastic (online) or batch. Recently, the robust training algorithm based on quasi-Newton method has been introduced improving the feeding-technique of training data. The algorithm combines the "stochastic (online)" mode with the "batch" one. In this paper the improved feeding-technique of training data is applied to the other gradient-based training algorithms. The convergence properties of the improved feeding-technique of training data to the gradient-based algorithms are studied through the computer simulations. |
| キーワード(和) | 勾配法に基づく学習アルゴリズム / ニューラルネットワーク / オンライン学習法 / バッチ学習法 |
| キーワード(英) | neural networks / learning training algorithm / online training method / batch training method |
| 資料番号 | NC2010-9,NLP2010-9 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2010/6/11(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 学習データの与え方を改良した勾配学習アルゴリズムを用いたニューラルネットワークの学習に関する研究(機械学習によるバイオデータマインニング,生命現象の非線形性,一般) |
| サブタイトル（和） | |
| タイトル（英） | Study on Robust Training of Neural Networks using Gradient-based Algorithm with Improved Feeding-technique of Training Data |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 勾配法に基づく学習アルゴリズム / neural networks |
| キーワード(2)（和/英） | ニューラルネットワーク / learning training algorithm |
| キーワード(3)（和/英） | オンライン学習法 / online training method |
| キーワード(4)（和/英） | バッチ学習法 / batch training method |
| 第 1 著者 氏名（和/英） | 阿部 俊和 / Toshikazu ABE |
| 第 1 著者 所属（和/英） | 湘南工科大学大学院工学研究科電子情報工学専攻 Electrical and Information Engineering, Shonan Institute of Technology |
| 第 2 著者 氏名（和/英） | 坂下 善彦 / Yoshihiko SAKASHITA |
| 第 2 著者 所属（和/英） | 湘南工科大学工学部情報工学科 Department of Information Science, Faculty of Engineering, Shonan Institute of Technology |
| 第 3 著者 氏名（和/英） | 二宮 洋 / Hiroshi NINOMIYA |
| 第 3 著者 所属（和/英） | 湘南工科大学工学部情報工学科 Department of Information Science, Faculty of Engineering, Shonan Institute of Technology |
| 発表年月日 | 2010/6/11 |
| 資料番号 | NC2010-9,NLP2010-9 |
| 巻番号（vol） | vol.110 |
| 号番号（no） | 83 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |