講演名 2012-12-12
動径基底関数ネットワークにおける学習係数の数値的導出(一般)
徳田 悟, 永田 賢二, 岡田 真人,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 動径基底関数(RBF)ネットワークは,ガウス関数などの単峰な基底の重ねあわせで入出力データを回帰するモデルである.近年,X線光電子分光法など,基底関数から電子状態を推定するスペクトル問題に精力的に応用され,その有用性は高まっている.RBFネットワークにおけるモデル選択では,AICやBICなど広く知られている情報量規準は,RBFネットワークがもつ階層性ゆえに漸近正規性が成り立たないため,利用することができない.また,階層性を持つ学習モデルでも成り立つ情報量基準として,WBICが提案されているが,これを利用する為には,自由エネルギーの主要項の係数である学習係数を数値的に求める必要がある.本研究では,新たな学習係数の算出法を提案し,RBFネットワークにおいてその導出を行う.具体的には,交換モンテカルロ法を用い,シミュレーションの結果として得られる交換率の値から学習係数を求める.また,学習係数が解析的に明らかにされている分散固定型RBFネットワークの学習を数値シミュレーションにより行い,理論値とシミュレーション値を比較することで,提案手法の有効性を明らかにする.
抄録(英) Radial basis function (RBF) network is a regression model which regresses input-output data by radial basis functions such as Gaussian function. Recently, this model has been widely used to the spectral deconvolution such as X-ray Photoelectron Spectroscopy data analysis, and enables us to estimate electronic state of matter from the peak positions of the estimated peaks. For the model selection for the RBF network, the well-known information criterion such as AIC and BIC cannot apply because the asymptotic normality does not hold due to the hierarchy of this model. In a recent study, new information criterion called WBIC has been proposed for the model selection of the models with hierarchy. WBIC, however, requires the numerical value of learning coefficient, which is the coefficient of the leading term for the free energy. In this paper, we propose a new method for calculating the learning coefficient, and derivate the coefficient in RBF network. More concretly, we use the exchange Monte Carlo method, and calculate the learning coefficient from the exchange ratio given by the result of the simulation. In addition, we simulate the learning in the variance-fixed-type RBF network, whose learning coefficient is clarified, and show the effectiveness of the proposed method by comparing the theoretical values and the experimental ones.
キーワード(和) 動径基底関数ネットワーク / 学習係数 / 交換モンテカルロ法 / 交換率
キーワード(英) Radial basis function network / Learning coefficient / Exchange Monte Carlo method / Exchange ratio
資料番号 NC2012-78
発行日

研究会情報
研究会 NC
開催期間 2012/12/5(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 動径基底関数ネットワークにおける学習係数の数値的導出(一般)
サブタイトル(和)
タイトル(英) A numerical derivation of learning coefficient in radial basis function network
サブタイトル(和)
キーワード(1)(和/英) 動径基底関数ネットワーク / Radial basis function network
キーワード(2)(和/英) 学習係数 / Learning coefficient
キーワード(3)(和/英) 交換モンテカルロ法 / Exchange Monte Carlo method
キーワード(4)(和/英) 交換率 / Exchange ratio
第 1 著者 氏名(和/英) 徳田 悟 / Satoru Tokuda
第 1 著者 所属(和/英) 東京大学
The University of Tokyo
第 2 著者 氏名(和/英) 永田 賢二 / Kenji Nagata
第 2 著者 所属(和/英) 東京大学
The University of Tokyo
第 3 著者 氏名(和/英) 岡田 真人 / Masato Okada
第 3 著者 所属(和/英) 東京大学
The University of Tokyo
発表年月日 2012-12-12
資料番号 NC2012-78
巻番号(vol) vol.112
号番号(no) 345
ページ範囲 pp.-
ページ数 6
発行日