| 講演名 | 2002/6/21 幾何学的観点に基づいた冗長ユニット削除アルゴリズムに関する考察 比嘉 直樹, 白土 浩, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 本稿では類似ベクトルを削除するアルゴリズムについて提案し,アヤメ分類問題を対象としたシミュレーションにより有効性を検証する.すなわち,まず中間ユニット数が多くなってくると分離能力が似通ったユニットが多く出現することを述べ,忘却付き構造学習ではこのようなユニットを削除することが難しいことを示す.そして,中間ユニット間の類似度を調べるための手法について検討し,学習時に類似度が高いユニット組と結合している荷重を削除するためのアルゴリズムについて提案する.中間ユニットにおける類似度については,似たような分離性能を示すユニットを,分離超平面に直交する法ベクトル同士の内積により定義することで,類似度の高いユニットの学習を抑制するための手法について検討する.これにより,冗長ユニットは学習過程において自然淘汰されるため,最適な構造が形成されることが期待される.以上の有効性を幾つかの学習課題を対象としてシミュレーションにより検証する. |
| 抄録(英) | This report studies how our proposed additional learning algorithm for structural learning with forgetting effects the structure determination of neural networks. The proposed learning algorithm eliminates redundant hidden units, which have the high similarity between hidden units, from neural networks. From simulation result performed on iris classification problem, it was confirmed that the proposed learning algorithm gives better network structure and higher generalization ability. |
| キーワード(和) | 忘却付き構造学習 / 類似度 / 構造決定 / ユニット削除 |
| キーワード(英) | Structural Learning with Forgetting / Similarity / Structure Determination / Pruning |
| 資料番号 | NC2002-26 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2002/6/21(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 幾何学的観点に基づいた冗長ユニット削除アルゴリズムに関する考察 |
| サブタイトル（和） | |
| タイトル（英） | Studies on An Algorithm for Reducing Redundant Units Based on Geometrical Approach |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 忘却付き構造学習 / Structural Learning with Forgetting |
| キーワード(2)（和/英） | 類似度 / Similarity |
| キーワード(3)（和/英） | 構造決定 / Structure Determination |
| キーワード(4)（和/英） | ユニット削除 / Pruning |
| 第 1 著者 氏名（和/英） | 比嘉 直樹 / Naoki HIGA |
| 第 1 著者 所属（和/英） | 琉球大学工学部 Faculty of Engineering, University of the Ryukyus |
| 第 2 著者 氏名（和/英） | 白土 浩 / Hiroshi SHIRATSUCHI |
| 第 2 著者 所属（和/英） | 琉球大学工学部 Faculty of Engineering, University of the Ryukyus |
| 発表年月日 | 2002/6/21 |
| 資料番号 | NC2002-26 |
| 巻番号（vol） | vol.102 |
| 号番号（no） | 158 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |