講演名 2002/3/13
H_∞学習 : 局所的最適化アプローチ
西山 清, 鈴木 清彦,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) ニューラルネットワークの学習アルゴリズムとしてバックプロパゲーション(BP)法が広く用いられている。しかし、BP学習法では学習が遅く、かつ結合係数やしきい値の初期値によって学習効率に大きなばらつきが生じると云った問題があった。拡張カルマンフィルタに基づく学習法では、学習回数を大幅に削減できるもののBP法と同様にロバスト性が乏しく、過学習の問題もあった。そこで、拡張H_∞フィルタ(EHF)に基づくロバストな学習法であるH_∞学習を提案し、ネットワーク全体に対して大域的にH_∞準最適なg-EHF学習アルゴリズムを導出した。しかし、g-EHF学習アルゴリズムは、比較的大規模なネットワーク、特に多出力系において計算量が膨大となった。そこで、本論文では、あるニューロンに接続される結合重みとしきい値を順次更新して行き、ネットワーク全体の重みとしきい値を更新する、局所的にH_∞準最適なl-EHF学習アルゴリズムを導出する。
抄録(英) Backpropagation (BP) method is widely known as a learning algorithm of layered neural networks. However, the learning rate is too late, and it is strongly affected by the initial values of weight coefficients and thresholds. In this paper, H_∞- learning of layered neural networks is proposed, and a new learning algorithm, called the l-EHF algorithm, is derived, comparing with the backpropagation (BP) and the extended Kalman filter (EKF) learning algorithms. The robustness of H_∞-learning to variances in the initial weights and thresholds is verified by computer simulations.
キーワード(和) 学習アルゴリズム / H_∞理論 / ニューラルネットワーク / ロバスト推定 / バックプロパゲーション / カルマンフィルタ
キーワード(英) learning algorithm / H_∞ theory / neural network / robust estimation / back-propagation / Kalman filter
資料番号 NC2001-224
発行日

研究会情報
研究会 NC
開催期間 2002/3/13(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) H_∞学習 : 局所的最適化アプローチ
サブタイトル(和)
タイトル(英) H_∞- Learning : Local Optimization Approach
サブタイトル(和)
キーワード(1)(和/英) 学習アルゴリズム / learning algorithm
キーワード(2)(和/英) H_∞理論 / H_∞ theory
キーワード(3)(和/英) ニューラルネットワーク / neural network
キーワード(4)(和/英) ロバスト推定 / robust estimation
キーワード(5)(和/英) バックプロパゲーション / back-propagation
キーワード(6)(和/英) カルマンフィルタ / Kalman filter
第 1 著者 氏名(和/英) 西山 清 / Kiyoshi NISIYAMA
第 1 著者 所属(和/英) 岩手大学工学部情報システム工学科
Department of Computer and Information Science, Iwate University
第 2 著者 氏名(和/英) 鈴木 清彦 / Kiyohiko SUZUKI
第 2 著者 所属(和/英) 岩手大学工学部情報システム工学科
Department of Computer and Information Science, Iwate University
発表年月日 2002/3/13
資料番号 NC2001-224
巻番号(vol) vol.101
号番号(no) 737
ページ範囲 pp.-
ページ数 8
発行日