| 講演名 | 2000/3/14 階層型ニューラルネットワークの結合重みの統計的性質 北原 正慈, 早坂 太一, 戸田 尚宏, 臼井 支朗, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 従来, 回帰モデルのパラメータ推定量の統計的性質は, 漸近正規性を基本として考えられてきた.しかしながら, 3層階層型ニューラルネットワークを用いた回帰モデルの場合, パラメータの推定量の漸近正規性が示せない場合が存在する事が既に指摘されている.本研究では, その様な例として, ネットワークの出力が雑音にフィットしてしまう場合について, 数値実験によりパラメータ推定値の分布を求めた.その結果, パラメータ推定量に漸近正規性が成り立たない事を示唆する結果を得た.またこの時, ネットワークの出力がステップ関数状となることから, ステップ関数を用いた回帰モデルのパラメータ推定量が従う確率分布の導出を試み, 非線形パラメータ値が与えられた時の線形パラメータ推定量が従う条件付確率分布が, 二重指数分布に従う事を導いた.この結果は, 3層階層型ニューラルネットワークの統計的性質が, 従来の漸近正規性を仮定して得られる理論では説明出来ない事を強く示唆している. |
| 抄録(英) | The property called "asymptotic normality" for the estimators of the parameters has played an important role in a regression analysis. For 3-layered neural network(3-LNN), however, it has been pointed out that such a property cannot be derived theoretically in several case. In this study, we obtained the probability distribution of least square estimators for 3-LNN by a numerical experiment when the network output fit the noise. It was shown that the asymptotic normality was not held in this case. Moreover, the network output had a strong aptitude for transformation to a Heaviside function. So, we tried to derive the probability distribution for regression models with Heaviside functions, and showed that the conditional probability distribution for the estimators of the coefficients with respect to the nonlinear parameter values converges asymptotically to the double exponential distribution. Those results suggest that traditional theory based on asymptotic normality cannot be applied for solving the statistical property of 3-LNN. |
| キーワード(和) | 層階層型ニューラルネットワーク / 回帰モデル / 最小二乗堆定量 / 漸近正規性 / モデル選択 |
| キーワード(英) | 3-layered neural network / Regression model / Least squares estimator / Asymptotic normality / Statistical model selection |
| 資料番号 | NC99-126 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2000/3/14(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 階層型ニューラルネットワークの結合重みの統計的性質 |
| サブタイトル（和） | |
| タイトル（英） | Statistical Property of Layered Neural Network Connection Weights |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 層階層型ニューラルネットワーク / 3-layered neural network |
| キーワード(2)（和/英） | 回帰モデル / Regression model |
| キーワード(3)（和/英） | 最小二乗堆定量 / Least squares estimator |
| キーワード(4)（和/英） | 漸近正規性 / Asymptotic normality |
| キーワード(5)（和/英） | モデル選択 / Statistical model selection |
| 第 1 著者 氏名（和/英） | 北原 正慈 / Masashi Kitahara |
| 第 1 著者 所属（和/英） | 豊橋枝術科学大学情報工学系 Dept.of Information and Computer Sciences, Toyohashi University of Technology |
| 第 2 著者 氏名（和/英） | 早坂 太一 / Taichi Hayasaka |
| 第 2 著者 所属（和/英） | 豊橋枝術科学大学情報工学系 Dept.of Information and Computer Sciences, Toyohashi University of Technology |
| 第 3 著者 氏名（和/英） | 戸田 尚宏 / Naohiro Toda |
| 第 3 著者 所属（和/英） | 愛知県立大学情報科学部 Faculty of Information Science and Technology, Aichi Prefectural Universikg |
| 第 4 著者 氏名（和/英） | 臼井 支朗 / Shiro Usui |
| 第 4 著者 所属（和/英） | 豊橋枝術科学大学情報工学系 Dept.of Information and Computer Sciences, Toyohashi University of Technology |
| 発表年月日 | 2000/3/14 |
| 資料番号 | NC99-126 |
| 巻番号（vol） | vol.99 |
| 号番号（no） | 685 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |