講演名 1995/7/27
正規直交性を満たす離散基底可変型関数表現を用いた回帰モデルにおける最小2乗誤差と予測2乗誤差について
早坂 太一, 萩原 克幸, 戸田 尚宏, 臼井 支朗,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 3層階層型ニューラルネットワークが与える関数表現は,基底関数の線形結合として表され,その際,入出力関係に対して非線形に含まれるパラメータは,2乗誤差を最小とするように基底の形状を変化させる役割を果たす.本稿では,基底を選択できるという性質に着目し,正規直交性を満たす基底を離散的なパラメータにより可変とする関数表現に対して,サンプルとして正規雑音系列を与えた場合の最小2乗誤差および予測2乗誤差のサンプルの分布に関する期待値を,極値理論を用いて漸近的な意味で求めた.また,関数表現の係数パラメータの推定量の絶対値の漸近分布が2重指数分布で与えられることを示した.こうした結果は,推定量の漸近正規性を仮定した従来の線形回帰モデルに対する理論が,基底を可変とする関数表現には適用できないことを示唆している.
抄録(英) 3-layered neural network models are represented by functions of the form consisting of linear combinations of basis, which can be selected by modifying nonlinearly associated parameters so as to minimize the squared error. In this paper, we pay attention to these properties and deal with the functional representations with orthnormal basis modified by the associated discrete parameters. For such functional representations, we obtain the asymptotic expectations of the least squared error and the squared prediction error with respect to the sample distribution by using extreme value theory. Furthermore, we show that the asymptotic distributions of the absolute values of coefficients are double exponential. These results suggest that we cannot apply the classical theory for linear regression models supposing asymptotic normality of the parameters to the case of the functional representations with variable basis.
キーワード(和) 離散基底可変型の関数表現 / 回帰モデル / 2乗誤差 / 極値理論 / 2重指数分布
キーワード(英) functional representation with discrete variable basis / regression model / squared error / extreme value theory / double exponential distribution
資料番号
発行日

研究会情報
研究会 NC
開催期間 1995/7/27(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 正規直交性を満たす離散基底可変型関数表現を用いた回帰モデルにおける最小2乗誤差と予測2乗誤差について
サブタイトル(和)
タイトル(英) On the estimation and prediction error of functional representation with orthnormal discrete variable basis in regression models
サブタイトル(和)
キーワード(1)(和/英) 離散基底可変型の関数表現 / functional representation with discrete variable basis
キーワード(2)(和/英) 回帰モデル / regression model
キーワード(3)(和/英) 2乗誤差 / squared error
キーワード(4)(和/英) 極値理論 / extreme value theory
キーワード(5)(和/英) 2重指数分布 / double exponential distribution
第 1 著者 氏名(和/英) 早坂 太一 / Taichi Hayasaka
第 1 著者 所属(和/英) 豊橋技術科学大学情報工学系
Department of Information and Computer Sciences, Toyohashi University of Technology
第 2 著者 氏名(和/英) 萩原 克幸 / Katsuyuki Hagiwara
第 2 著者 所属(和/英) 三重大学工学部
Faculty of Engineering, Mie University
第 3 著者 氏名(和/英) 戸田 尚宏 / Naohiro Toda
第 3 著者 所属(和/英) 豊橋技術科学大学情報工学系
Department of Information and Computer Sciences, Toyohashi University of Technology
第 4 著者 氏名(和/英) 臼井 支朗 / Shiro Usui
第 4 著者 所属(和/英) 豊橋技術科学大学情報工学系
Department of Information and Computer Sciences, Toyohashi University of Technology
発表年月日 1995/7/27
資料番号
巻番号(vol) vol.95
号番号(no) 189
ページ範囲 pp.-
ページ数 8
発行日