講演名 2013-01-24
特異階段追跡法を用いたサンプリング法による多層パーセプトロンモデル選択
大脇 高之, 中野 良平,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 多層パーセプトロン(MLP)は,パラメーター意識別が保証されない特異モデルであり,正則モデルの情報量規準をモデル選択に使用するのは適切でないとされ,理論研究に基づいて各種の情報量規準が提案されてきた.本稿では, MLPのモデル選択において各情報量基準がどのように働くかを実験し評価する.なお,正解の隠れユニット数が小さいと性能差が出難いため,正解が20位であるデータを用いる.情報量基準には,最尤推定量を用いるものとサンプリング法を用いるものがあるが,ここではその両方に対して,隠れユニット数の増加とともに必ず解品質を改善できる特異階段追跡(SSF)法を用いる.
抄録(英) Multilayer perceptron (MLP) is one of singular statistical models, where it is not guaranteed that any parameter is uniquely identified. Then it is questioned that any information criterion developed for regular models can be applied to selection of singular models. Followed by this situation, several model selection criteria have been proposed. This paper evaluates several information criteria by applying them to MLP model selection problems having about 20 hidden units as a true model. Moreover, as a search method we employ SSF which guarantees the successive improvement of solution quality as the number of hidden units is increased.
キーワード(和) モデル選択 / 情報量基準 / 多層パーセプトロン / サンプリング法 / 特異階段追跡法
キーワード(英) model selection / information criterion / multilayer perceptron / sampling method / singularity stairs following
資料番号 NLP2012-105,NC2012-95
発行日

研究会情報
研究会 NLP
開催期間 2013/1/17(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Nonlinear Problems (NLP)
本文の言語 JPN
タイトル(和) 特異階段追跡法を用いたサンプリング法による多層パーセプトロンモデル選択
サブタイトル(和)
タイトル(英) Multilayer Perceptron Model Selection Using Sampling Utilizing Singularity Stairs Following
サブタイトル(和)
キーワード(1)(和/英) モデル選択 / model selection
キーワード(2)(和/英) 情報量基準 / information criterion
キーワード(3)(和/英) 多層パーセプトロン / multilayer perceptron
キーワード(4)(和/英) サンプリング法 / sampling method
キーワード(5)(和/英) 特異階段追跡法 / singularity stairs following
第 1 著者 氏名(和/英) 大脇 高之 / Takayuki OHWAKI
第 1 著者 所属(和/英) 中部大学大学院工学研究科情報工学専攻
Chubu University
第 2 著者 氏名(和/英) 中野 良平 / Ryohei NAKANO
第 2 著者 所属(和/英) 中部大学大学院工学研究科情報工学専攻
Chubu University
発表年月日 2013-01-24
資料番号 NLP2012-105,NC2012-95
巻番号(vol) vol.112
号番号(no) 389
ページ範囲 pp.-
ページ数 6
発行日