講演名 2003/3/10
幾何学的観点に基づく冗長中間ユニット判別に関する検討
比嘉 直樹, 白土 浩,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本稿では類似ベクトルを削除するアルゴリズムについて提案し,アヤメ分類問題を対象としたシミュレーションにより有効性を検証する.すなわち,まず初期中間ユニヅト数が多くなってくると分離能力が似通ったユニットが多く出現することを述べ,忘却付き構造学習ではこのようなユニットを削除することが難しいことを示す.そして,中間ユニットにおける類似度をユニット出力差に基づいた類似度とユニットがなす分離超平面に基づいた類似度という二つの観点から検討し,学習時に類似度が高いユニット組と結合している荷重を削除するためのアルゴリズムについて提案する.アヤメ分類問題を対象としてシミュレーション実験の結果,幾何学的な観点に基づいたユニット削除法では,初期ユニット数が増加しても最終的なネット構造が変化しないことを示す.
抄録(英) This report studies on an additional pruning algorithm with structure learning with forgetting(SLF) for the redundant units of neural networks. Two types redundancy criteria of hidden units are considered : differences between two hidden unit outputs, and using separation hyperplane's angle, norm and distance. Through the analysis of similarity progresses in SLF, in case of large number of initial hidden units, it is shown that the redundant hidden units are still remain at the end of learning. Proposal learning algorithm eliminates redundant the hidden units, which have the high similarity between the hidden units, from the neural networks. From simulation results performed on iris classification problem. it was confirmed that the proposal learning algorithm give almost same network structure even if the number of the initial hidden units are increases.
キーワード(和) 類似度 / ユニット削除 / 忘却付き構造学習 / 分離超平面 / 構造決定
キーワード(英) Similarity / Pruning / Structural Learning with Forgetting / Separating Hyper plane / Structure Determination
資料番号 NC2002-142
発行日

研究会情報
研究会 NC
開催期間 2003/3/10(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 幾何学的観点に基づく冗長中間ユニット判別に関する検討
サブタイトル(和)
タイトル(英) Studies on An Redundant Units Discrimination Based on Geometrically Viewpoint
サブタイトル(和)
キーワード(1)(和/英) 類似度 / Similarity
キーワード(2)(和/英) ユニット削除 / Pruning
キーワード(3)(和/英) 忘却付き構造学習 / Structural Learning with Forgetting
キーワード(4)(和/英) 分離超平面 / Separating Hyper plane
キーワード(5)(和/英) 構造決定 / Structure Determination
第 1 著者 氏名(和/英) 比嘉 直樹 / Naoki HIGA
第 1 著者 所属(和/英) 琉球大学工学部
Faculty of Engineering, University of the Ryukyus
第 2 著者 氏名(和/英) 白土 浩 / Hiroshi SHIRATSUCHI
第 2 著者 所属(和/英) 琉球大学工学部
Faculty of Engineering, University of the Ryukyus
発表年月日 2003/3/10
資料番号 NC2002-142
巻番号(vol) vol.102
号番号(no) 729
ページ範囲 pp.-
ページ数 6
発行日