講演名 1999/7/19
大域情報を用いた階層形ニューラルネットワークの学習法
能勢 容幸, 原 一之,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本稿では、結合係数空間における誤差曲面の大域情報を用いることにより、学習が初期の結合係数に依存しない学習法を提案する。勾配法を用いる誤差逆伝播法では初期値によっては極小解に陥る、という問題がある。この問題に対し、誤差曲面上に探索範囲を設定し、探索範囲内での最小値を探索する、という操作を繰り返すことにより誤差を最小とするネットワークを探索する方法を提案する。探索範囲は誤差が大きい間は広く、誤差が小さくなると狭くするため、誤差曲面の詳細な探索が可能である。また、ネットワークの結合係数を1個ずつ変化させるため、探索に要する計算量は結合係数のオーダ程度である。
抄録(英) In this paper, we propose a training method that the convergence of the training does not depend on the initial connection weights. The proposed method uses global information of the error surface. BP algorithm is easily trapped to the local minima, because it uses only local information of the error surface. For this problem, we propose a training method which searches the network expresses the minimum output error by iterating a search process within a region on the error surface. Searching region becomes wider for a large output error and will be narrower for a small output error. This process allows the detail search of the error surface. Moreover, the proposed method updates only one connection weight at one searching process, so this works to reducing the computational complexity.
キーワード(和) 大域情報 / 誤差曲面 / 探索 / アニーリング / 階層形ニューラルネットワーク
キーワード(英) Global information / Error surface / Search / Annearing / Multilayer neural networks
資料番号 NC99-37
発行日

研究会情報
研究会 NC
開催期間 1999/7/19(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 大域情報を用いた階層形ニューラルネットワークの学習法
サブタイトル(和)
タイトル(英) A Training Method For Mutilayer Nerual Networks Using Global Imformation of Error Surface
サブタイトル(和)
キーワード(1)(和/英) 大域情報 / Global information
キーワード(2)(和/英) 誤差曲面 / Error surface
キーワード(3)(和/英) 探索 / Search
キーワード(4)(和/英) アニーリング / Annearing
キーワード(5)(和/英) 階層形ニューラルネットワーク / Multilayer neural networks
第 1 著者 氏名(和/英) 能勢 容幸 / Hiroyuki Nose
第 1 著者 所属(和/英) 東京都立工業高等専門学校電気工学科
Dept. Electrical Eng., Tokyo Metropolitan College of Technology
第 2 著者 氏名(和/英) 原 一之 / Kazuyuki Hara
第 2 著者 所属(和/英) 東京都立工業高等専門学校電子情報工学科
Dept. Elec. &Info. Eng., Tokyo Metropolitan College of Technology
発表年月日 1999/7/19
資料番号 NC99-37
巻番号(vol) vol.99
号番号(no) 193
ページ範囲 pp.-
ページ数 6
発行日