| 講演名 | 2016-01-29 ソフトコミッティマシンのノードパータベーション学習 原 一之(日大), 片平 健太郎(名大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | ノードパータベーション学習は確率的勾配法の一つであり，ノード出力に摂動を加えた時の誤差の変化から勾配を推定する学習法である．ノードパータベーション学習は目的関数を定式化できない問題にも適用できる利点がある．以前，我々は複数の単純パーセプトロンからなるネットワークにノードパータベーション学習を適用し，学習の動的過程を統計力学的手法を用いて解析し，その有効性を示した．本報告では、ネットワークを階層構造に拡張した場合のノードパータベーション学習の扱いやその動特性を計算機実験で解析し，有効性を示した． |
| 抄録(英) | Node perturbation learning is a stochastic gradient descent method for neural networks. It estimates the gradient of the error surface by calculating a change of the performance of the perturbed output and that of not perturbed output. It can apply to the problems where the objective function is not defined. In our previous study, we derived the dynamic property of node perturbation learning applied to many simple perceptrons and showed it's validation by using the statistical mechanics method. In this report, we explore the node perturbation learning applied to soft committee machine and analyze the dynamic property of the learning process. We then show the validity of proposed method by using computer simulations. |
| キーワード(和) | ノードパータベーション学習 / ソフトコミッティマシン / オンライン学習 / 摂動 / 汎化誤差 / 統計力学的手法 |
| キーワード(英) | node-perturbation learning / soft committee machine / on-line learning / perturbation / generalization error / statistical mechanics method |
| 資料番号 | NC2015-66 |
| 発行日 | 2016-01-21 (NC) |
| 研究会情報 | |
| 研究会 | NC / NLP |
|---|---|
| 開催期間 | 2016/1/28(から2日開催) |
| 開催地（和） | 九州工業大学 若松キャンパス |
| 開催地（英） | Kyushu Institute of Technology |
| テーマ（和） | ニューロコンピューティングの実装および人間科学のための解析・モデル化，一般 |
| テーマ（英） | Implementation of Neuro Computing,Analysis and Modeling of Human Science, etc |
| 委員長氏名（和） | 斎藤 利通(法政大) / 神野 健哉(日本工大) |
| 委員長氏名（英） | Toshimichi Saito(Hosei Univ.) / Kenya Jinno(Nippon Inst. of Tech.) |
| 副委員長氏名（和） | 佐藤 茂雄(東北大) / 藤坂 尚登(広島市大) |
| 副委員長氏名（英） | Shigeo Sato(Tohoku Univ.) / Naoto Fujisaka(Hiroshima City Univ.) |
| 幹事氏名（和） | 堀尾 恵一(九工大) / 田中 宏喜(京都産大) / 長谷川 幹雄(東京理科大) / 和田 昌浩(甲南大) |
| 幹事氏名（英） | Keiichi Horio(Kyushu Inst. of Tech.) / Hiroki Tanaka(Kyoto Sangyo Univ.) / Mikio Hasegawa(Tokyo Univ. of Science) / Masahiro Wada(Konan Univ.) |
| 幹事補佐氏名（和） | 神原 裕行(東工大) / 秋間 学尚(東北大) / 中野 秀洋(東京都市大) / 麻原 寛之(岡山理科大) |
| 幹事補佐氏名（英） | Hiroyuki Kanbara(Tokyo Inst. of Tech.) / Hisanao Akima(Tohoku Univ.) / Hidehiro Nakano(Tokyo City Univ.) / Hiroyuki Asahara(Okayama Univ. of Science) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Technical Committee on Nonlinear Problems |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ソフトコミッティマシンのノードパータベーション学習 |
| サブタイトル（和） | |
| タイトル（英） | Node-perturbation Learning for Soft-committee machine |
| サブタイトル（和） | |
| キーワード(1)（和/英） | ノードパータベーション学習 / node-perturbation learning |
| キーワード(2)（和/英） | ソフトコミッティマシン / soft committee machine |
| キーワード(3)（和/英） | オンライン学習 / on-line learning |
| キーワード(4)（和/英） | 摂動 / perturbation |
| キーワード(5)（和/英） | 汎化誤差 / generalization error |
| キーワード(6)（和/英） | 統計力学的手法 / statistical mechanics method |
| 第 1 著者 氏名（和/英） | 原 一之 / Kazuyuki Hara |
| 第 1 著者 所属（和/英） | 日本大学(略称：日大) Nihon University(略称：Nihon Univ.) |
| 第 2 著者 氏名（和/英） | 片平 健太郎 / Kentaro Katahira |
| 第 2 著者 所属（和/英） | 名古屋大学(略称：名大) Nagoya University(略称：Nagoya Univ.) |
| 発表年月日 | 2016-01-29 |
| 資料番号 | NC2015-66 |
| 巻番号（vol） | vol.115 |
| 号番号（no） | NC-426 |
| ページ範囲 | pp.49-54(NC), |
| ページ数 | 6 |
| 発行日 | 2016-01-21 (NC) |