講演名 | 2002/3/13 H_∞学習 : 局所的最適化アプローチ 西山 清, 鈴木 清彦, |
---|---|
PDFダウンロードページ | PDFダウンロードページへ |
抄録(和) | ニューラルネットワークの学習アルゴリズムとしてバックプロパゲーション(BP)法が広く用いられている。しかし、BP学習法では学習が遅く、かつ結合係数やしきい値の初期値によって学習効率に大きなばらつきが生じると云った問題があった。拡張カルマンフィルタに基づく学習法では、学習回数を大幅に削減できるもののBP法と同様にロバスト性が乏しく、過学習の問題もあった。そこで、拡張H_∞フィルタ(EHF)に基づくロバストな学習法であるH_∞学習を提案し、ネットワーク全体に対して大域的にH_∞準最適なg-EHF学習アルゴリズムを導出した。しかし、g-EHF学習アルゴリズムは、比較的大規模なネットワーク、特に多出力系において計算量が膨大となった。そこで、本論文では、あるニューロンに接続される結合重みとしきい値を順次更新して行き、ネットワーク全体の重みとしきい値を更新する、局所的にH_∞準最適なl-EHF学習アルゴリズムを導出する。 |
抄録(英) | Backpropagation (BP) method is widely known as a learning algorithm of layered neural networks. However, the learning rate is too late, and it is strongly affected by the initial values of weight coefficients and thresholds. In this paper, H_∞- learning of layered neural networks is proposed, and a new learning algorithm, called the l-EHF algorithm, is derived, comparing with the backpropagation (BP) and the extended Kalman filter (EKF) learning algorithms. The robustness of H_∞-learning to variances in the initial weights and thresholds is verified by computer simulations. |
キーワード(和) | 学習アルゴリズム / H_∞理論 / ニューラルネットワーク / ロバスト推定 / バックプロパゲーション / カルマンフィルタ |
キーワード(英) | learning algorithm / H_∞ theory / neural network / robust estimation / back-propagation / Kalman filter |
資料番号 | NC2001-224 |
発行日 |
研究会情報 | |
研究会 | NC |
---|---|
開催期間 | 2002/3/13(から1日開催) |
開催地(和) | |
開催地(英) | |
テーマ(和) | |
テーマ(英) | |
委員長氏名(和) | |
委員長氏名(英) | |
副委員長氏名(和) | |
副委員長氏名(英) | |
幹事氏名(和) | |
幹事氏名(英) | |
幹事補佐氏名(和) | |
幹事補佐氏名(英) |
講演論文情報詳細 | |
申込み研究会 | Neurocomputing (NC) |
---|---|
本文の言語 | JPN |
タイトル(和) | H_∞学習 : 局所的最適化アプローチ |
サブタイトル(和) | |
タイトル(英) | H_∞- Learning : Local Optimization Approach |
サブタイトル(和) | |
キーワード(1)(和/英) | 学習アルゴリズム / learning algorithm |
キーワード(2)(和/英) | H_∞理論 / H_∞ theory |
キーワード(3)(和/英) | ニューラルネットワーク / neural network |
キーワード(4)(和/英) | ロバスト推定 / robust estimation |
キーワード(5)(和/英) | バックプロパゲーション / back-propagation |
キーワード(6)(和/英) | カルマンフィルタ / Kalman filter |
第 1 著者 氏名(和/英) | 西山 清 / Kiyoshi NISIYAMA |
第 1 著者 所属(和/英) | 岩手大学工学部情報システム工学科 Department of Computer and Information Science, Iwate University |
第 2 著者 氏名(和/英) | 鈴木 清彦 / Kiyohiko SUZUKI |
第 2 著者 所属(和/英) | 岩手大学工学部情報システム工学科 Department of Computer and Information Science, Iwate University |
発表年月日 | 2002/3/13 |
資料番号 | NC2001-224 |
巻番号(vol) | vol.101 |
号番号(no) | 737 |
ページ範囲 | pp.- |
ページ数 | 8 |
発行日 |