| 講演名 | 1996/3/19 関数近似問題に対する階層型ニューラルネットワークの内部表現と汎化能力の関係に関する一検討 渡辺 栄治, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 本報告では, 階層型NNの汎化能力改善学習法を構築するための一つのアプローチとして, 関数近似問題に対する階層型NNの内部表現と汎化能力の関係について検討する. ここでは, 汎化能力の劣化原因である"過剰学習"問題を"過剰自由度"および"荷重係数の非一意性"の2種類の問題に分割し, 内部表現(荷重係数値や中間層ユニット出力値)の観点からこれら問題について検討する. まず, 荷重係数に関するエントロピーに着目した情報量規範を導入することにより, "過剰自由度"問題に関して検討する. つぎに, 主成分分析法に基づいた中間層上の線形化精度評価手法を導入することにより, "荷重係数の非一意性"問題に関して検討する. 最後に, 過剰学習"および"過剰自由度"の観点から階層型NNの内部表現と汎化能力の関係について数値例を用いて具体的に検討する. |
| 抄録(英) | This report discusses the relation between internal representations and generalization ability of multi layered neural networks for function approximation problems. Here, the over learning problem, which makes the generalization ability poor, is divided into the two problems; the excessive degrees of freedom and the non-uniqueness of weights. These problems are carefully discussed from the view point of internal representation; weights and outputs or hidden units. First, the excessive degrees of freedom problem is discussed by introducing the entropy for weights. Next, the non-uniqueness of weights problem is also discussed by introducing the principal components analysis method. Finally, the relations between internal representations and generalization ability of multi layered neural networks are concretely discussed by numerical results. |
| キーワード(和) | 階層型ニューラルネットワーク / 関数近似問題 / 内部表現 / 汎化能力 / 過剰学習 |
| キーワード(英) | Multi layered neural network / function approximation problem / internal representation / generalization ability / over learning |
| 資料番号 | NC95-164 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1996/3/19(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 関数近似問題に対する階層型ニューラルネットワークの内部表現と汎化能力の関係に関する一検討 |
| サブタイトル（和） | |
| タイトル（英） | A Study on Relations between Internal Representation and Generalization Ability of Multi Layered Neural Networks for Function Approximation Problems |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 階層型ニューラルネットワーク / Multi layered neural network |
| キーワード(2)（和/英） | 関数近似問題 / function approximation problem |
| キーワード(3)（和/英） | 内部表現 / internal representation |
| キーワード(4)（和/英） | 汎化能力 / generalization ability |
| キーワード(5)（和/英） | 過剰学習 / over learning |
| 第 1 著者 氏名（和/英） | 渡辺 栄治 / Eiji Watanabe |
| 第 1 著者 所属（和/英） | 福山大学工学部情報処理工学科 Department of Information Processing Engineering Faculty of Engineering, Fukuyama University |
| 発表年月日 | 1996/3/19 |
| 資料番号 | NC95-164 |
| 巻番号（vol） | vol.95 |
| 号番号（no） | 599 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |