| 講演名 | 2011-07-25 実現可能でなく正則でない場合の学習理論(知的システム,一般) 渡辺 澄夫, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 神経回路網は非線形かつ非正則な学習モデルであり、従来の統計学ではその性質を解明することはできなかった。本論文では真の分布が学習モデルによって実現可能でなく、かつ、真の分布が学習モデルに対して正則でない場合を考える。特に真の分布に対して最適な学習モデルが本質的にユニークでない場合を解析し、自由エネルギーと汎化誤差の漸近挙動が従来から知られていたものと異なることを明らかにする。真の分布に対して最適な学習モデルが本質的にユニークでないケースは、真の分布か学習モデルが対称性を持つ場合に生じすることが多いと考えられるが、その場合でも、学習サンプルの揺らぎにより、事後分布が自発的対称性破れを持つことを明らかにする。 |
| 抄録(英) | Artificial neural networks are nonlinear and nonregular learning machines, whose learning performances can not been clarified by the conventional statistical theories. In this paper, we study the case that the optimal model is essentially nonunique for the true distribution, and show that the asymptotic behaviors of the free energy and the generalization error are different from the conventional ones. We also show that the spontaneous symmetry breaking of the posterior distribution occurs by the fluctuation of the training samples. |
| キーワード(和) | 神経回路網 / 学習理論 / 自発的対称性の破れ |
| キーワード(英) | Neural Network / Learning Theorey / Spontaneous Symmetry Breaking |
| 資料番号 | NC2011-24 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2011/7/18(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 実現可能でなく正則でない場合の学習理論(知的システム,一般) |
| サブタイトル（和） | |
| タイトル（英） | Statistical Learning Theory for Unrealizable and Singular Cases |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 神経回路網 / Neural Network |
| キーワード(2)（和/英） | 学習理論 / Learning Theorey |
| キーワード(3)（和/英） | 自発的対称性の破れ / Spontaneous Symmetry Breaking |
| 第 1 著者 氏名（和/英） | 渡辺 澄夫 / Sumio WATANABE |
| 第 1 著者 所属（和/英） | 東京工業大学大学院総合理工学研究科知能システム科学専攻 Tokyo Institute of Technology, Dept. of Computational Intelligence and Systems Science |
| 発表年月日 | 2011-07-25 |
| 資料番号 | NC2011-24 |
| 巻番号（vol） | vol.111 |
| 号番号（no） | 157 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |