講演名 2002/1/22
リカレントネットを用いた力学系学習におけるモデル選択と局所最適性
横山 俊治, 竹島 賢一, 中野 良平,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 連続時間リカレントニューラルネット(RNN)を用いて力学系を学習する際, アフィンRNN(A-RNN)を使用する.A-RNNは隠れユニットを可視ユニットの線形写像とするものであり, 常に力学系を生成する.A-RNNを用いた力学系の学習には3層パーセプトロンの学習アルゴリズムを用いる.本論文はその学習におけるモデル選択と局所最適性を論じる.実験の結果, 汎化性能を監視することでモデル選択が可能であることと局所最適解が予想以上に多いことがわかった.
抄録(英) We consider learning a dynamical system (DS) by a continuous-time recurrent neural network (RNN). An affine RNN (A-RNN), whose hidden units are linearly related to visible ones, is defined so that it always produces a DS.Learning a DS by an A-RNN is performed as a three-layer perceptron. This paper investigates model selection and local optima problem in the learning. The experiments showed that model selection cant be exactly done by monitoring generalization performance and in the learning there exist much more local optima than expected.
キーワード(和) リカレントニューラルネット / 力学系学習 / 隠れユニット / アフイン神経力学系
キーワード(英) Recurrent neural networks / Dynamical system learning / Hidden unit / Affine neural dynamical system
資料番号
発行日

研究会情報
研究会 NC
開催期間 2002/1/22(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) リカレントネットを用いた力学系学習におけるモデル選択と局所最適性
サブタイトル(和)
タイトル(英) Model Selection and Local Optimality in Learning Dynamical Systems using Recurrent Neural Networks
サブタイトル(和)
キーワード(1)(和/英) リカレントニューラルネット / Recurrent neural networks
キーワード(2)(和/英) 力学系学習 / Dynamical system learning
キーワード(3)(和/英) 隠れユニット / Hidden unit
キーワード(4)(和/英) アフイン神経力学系 / Affine neural dynamical system
第 1 著者 氏名(和/英) 横山 俊治 / Toshiharu YOKOYAMA
第 1 著者 所属(和/英) 名古屋工業大学知能情報システム学科
Department of Intelligence and Computer Science, Nagoya Institute of Technology
第 2 著者 氏名(和/英) 竹島 賢一 / Ken-ichi TAKESHIMA
第 2 著者 所属(和/英) 名古屋工業大学知能情報システム学科
Department of Intelligence and Computer Science, Nagoya Institute of Technology
第 3 著者 氏名(和/英) 中野 良平 / Ryohei NAKANO
第 3 著者 所属(和/英) 名古屋工業大学知能情報システム学科
Department of Intelligence and Computer Science, Nagoya Institute of Technology
発表年月日 2002/1/22
資料番号
巻番号(vol) vol.101
号番号(no) 616
ページ範囲 pp.-
ページ数 7
発行日