| 講演名 | 1999/7/19 重み表現に線形の従属制約を導入した階層型ニューラルネットワークの写像能力 石井 真樹, 熊沢 逸夫, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | ニューラルネットワークの汎化能力を保証するためには自由度を制限することが有効であるとされているが, 学習対象に関する先験的知識に基づいて制限することが重要である. 本稿では入力パターンのある種の変換に対する不変性に基づく自由度の制限方法として, 重み表現に線形の従属制約を導入する方式を提案する. 汎化能力を議論する上で, このような制約を導入した場合に写像能力がどの程度低下するのかを理論的に示す必要がある. そこで閾素子で構成される階層型ニューラルネットワークに対して, 制約を導入した場合の写像能力として, そのVC次元の上下界を明らかにする. |
| 抄録(英) | In order to improve generalization ability, it is effective to restrict degrees of freedom of representation model based on a priori knowledge about target. A method we proposed here is to introduce linear dependent constraints among weights, as an approach of restricting degrees of freedom. The linear dependency is determined based on some invarience structure of input patterns. Before discussing its generalization ability, it is necessary to clarify how its mapping ability decreases by introducing such constraints. Therefore for multilayerd neural network with threshold units, we clarify the bounds on the VC dimension as its mapping ability. |
| キーワード(和) | ニューラルネットワーク / 先験的知識 / 従属制約 / VC次元 |
| キーワード(英) | neural network / a priori knowledge / dependent constraints / VC dimension |
| 資料番号 | NC99-36 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 1999/7/19(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 重み表現に線形の従属制約を導入した階層型ニューラルネットワークの写像能力 |
| サブタイトル（和） | |
| タイトル（英） | Mapping Ability of Multilayered Neural Network Introduced Linear Dependent Constraints among Weights |
| サブタイトル（和） | |
| キーワード(1)（和/英） | ニューラルネットワーク / neural network |
| キーワード(2)（和/英） | 先験的知識 / a priori knowledge |
| キーワード(3)（和/英） | 従属制約 / dependent constraints |
| キーワード(4)（和/英） | VC次元 / VC dimension |
| 第 1 著者 氏名（和/英） | 石井 真樹 / Masaki ISHII |
| 第 1 著者 所属（和/英） | 東京工業大学大学院情報理工学研究科計算工学専攻 Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology |
| 第 2 著者 氏名（和/英） | 熊沢 逸夫 / Itsuo KUMAZAWA |
| 第 2 著者 所属（和/英） | 東京工業大学大学院情報理工学研究科計算工学専攻 Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology |
| 発表年月日 | 1999/7/19 |
| 資料番号 | NC99-36 |
| 巻番号（vol） | vol.99 |
| 号番号（no） | 193 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |