| 講演名 | 1996/6/21 リカレントネットによる有限オートマトンのアニーリング学習法 新井 賢一, 中野 良平, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 有限オートマトン(FSA)を学習するリカレントネット(RNN)において、ニューロン活性化パラメータ(β)が状態空間内の軌道の安定表現と学習の性能に及ぼす影響について報告する。最初に、βがある臨界値より大きいときRNNは任意の長さの入力データこ対しても得られたFSAの状態を安定に表現し続けられることを示す。次に、βに関する状態表現の安定性や誤差平面の形状に関する知見から、βを制御するRNNのアニーリング学習法を提案する。また、計算機実験により従来の学習法に較べアニーリング学習法の学習効率が改善されることが分かった。 |
| 抄録(英) | In recurrent neural network (RNN) learning of finite state automata (FSA), we discuss how a neuro gain (J) influences the stability of the state representation and the performance of the learning. We formally show that the existence of the critical neuro gain (β_0) : any β larger than β_0 makes an RNN maintain the stable representation of states of an acquired FSA. Considering the existence of β_0 and avoidance of local minima, we propose a new RNN learning method with the scheduling of β, called an annealed RNN learning. Our experiments show that the annealed RNN learning went beyond a constant β learning. |
| キーワード(和) | リカレントネット / 有限オートマトン / 軌道の安定性 / アニーリング |
| キーワード(英) | Recurrent Neural Network / Finite State Automata / Stability / annealing |
| 資料番号 | NC96-12 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1996/6/21(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | リカレントネットによる有限オートマトンのアニーリング学習法 |
| サブタイトル（和） | |
| タイトル（英） | Annealed RNN Learning of Finite State Automata |
| サブタイトル（和） | |
| キーワード(1)（和/英） | リカレントネット / Recurrent Neural Network |
| キーワード(2)（和/英） | 有限オートマトン / Finite State Automata |
| キーワード(3)（和/英） | 軌道の安定性 / Stability |
| キーワード(4)（和/英） | アニーリング / annealing |
| 第 1 著者 氏名（和/英） | 新井 賢一 / Ken-ichi Arai |
| 第 1 著者 所属（和/英） | NTTコミュニケーション科学研究所 NTT Communication Science Laboratories |
| 第 2 著者 氏名（和/英） | 中野 良平 / Ryohei Nakano |
| 第 2 著者 所属（和/英） | NTTコミュニケーション科学研究所 NTT Communication Science Laboratories |
| 発表年月日 | 1996/6/21 |
| 資料番号 | NC96-12 |
| 巻番号（vol） | vol.96 |
| 号番号（no） | 117 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |