| 講演名 | 1997/11/17 入力集合の可分離性と両極型ネットの収束上の優位性 白土 浩, 五反田 博, 井上 勝裕, 熊丸 耕介, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 本報告では, 分離超平面が入力集合の外接直方体を通るための分離条件を法ベクトルで定式化する. そして, 2次元の場合について分離条件を満たす法ベクトル分布を図示する. この分布から, 第1中間層に対する分離条件は, 入力パターンを単に平行移動しただけでも大きく変わり, その他の層に対する (広義の) 分離条件は、ユニット出力が0から1の値をとる片極型ユニットと-0.5から0.5の値をとる両極型ユニットとで異なることが分かる. さらに, 荷重の初期値を通常のように平均ゼロの乱数で設定したときの法ベクトルの初期分布についても図示する。 この初期分布と分離条件の比較から, 通常の初期値設定による逆伝搬学習の収束能力は, 片極型ネットよりも両極型ネットの方が優れていることが裏付けられる. さらに, 双方のネットで入力集合の分割が幾何学的に等価となるように初期値設定した場合でも, 片極型に比べて両極型ネットによる収束は良好となる. |
| 抄録(英) | This paper formulates a separability condition by normal vectors so that the separation hyperplanes should pass through a rectangle surrouding the input set. Then it depicts the distributions of two-dimensional normal vectors satisfying the condition. These distributions elucidate that the condition for the first hidden layer varies significantly even if the input patterns are simply translated, and that those conditions (in a wider sense) for the other layers are different between unipolar and bipolar units. It, also depicts an initial distribution of normal vectors with the weights initialized ordinarily by random values with zero mean. Comparison of the initial distribution to the separability condition leads to the fact that the bipolar net is superior to the unipolar net in convergence of the back propagation learning initialized randomly in such an ordinary manner. The bipolar nets exhibit better convergence than the unipolar nets even if their input space divisions in every layer by the separation hyperplanes are geometrically the same at the outset of the learning. |
| キーワード(和) | 多層ネット / BP学習 / 入力集合の可分離性 / 収束性 / 両極型ネット |
| キーワード(英) | multilayer nets / BP algorithm / separability of input set / convergence / bipolar nets |
| 資料番号 | NC97-53 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1997/11/17(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | 入力集合の可分離性と両極型ネットの収束上の優位性 |
| サブタイトル（和） | |
| タイトル（英） | Input Set Separability and Superiority of Bipolar Nets in Convergence |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 多層ネット / multilayer nets |
| キーワード(2)（和/英） | BP学習 / BP algorithm |
| キーワード(3)（和/英） | 入力集合の可分離性 / separability of input set |
| キーワード(4)（和/英） | 収束性 / convergence |
| キーワード(5)（和/英） | 両極型ネット / bipolar nets |
| 第 1 著者 氏名（和/英） | 白土 浩 / Hiroshi SHIRATSUCHI |
| 第 1 著者 所属（和/英） | 九州工業大学 情報工学部 Faculty of Computer Science and Systems Engineering, Kyushu Institute of Technology |
| 第 2 著者 氏名（和/英） | 五反田 博 / Hiromu GOTANDA |
| 第 2 著者 所属（和/英） | 近畿大学 九州工学部 Faculty of Engineering, Kinki Univercity in Kyushu |
| 第 3 著者 氏名（和/英） | 井上 勝裕 / Katsuhiro INOUE |
| 第 3 著者 所属（和/英） | 九州工業大学 情報工学部 Faculty of Computer Science and Systems Engineering, Kyushu Institute of Technology |
| 第 4 著者 氏名（和/英） | 熊丸 耕介 / Kousuke KUMAMARU |
| 第 4 著者 所属（和/英） | 九州工業大学 情報工学部 Faculty of Computer Science and Systems Engineering, Kyushu Institute of Technology |
| 発表年月日 | 1997/11/17 |
| 資料番号 | NC97-53 |
| 巻番号（vol） | vol.97 |
| 号番号（no） | 379 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |