| 講演名 | 2002/12/6 Conditional Quantile に関するヒントを用いたニューラルネットワークの汎化に関する一提案 山中 教行, 竹内 一郎, 古橋 武, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 本稿では,ニューラルネットワーク(以後NN)による回帰分析において汎化性を向上させるための方法を提案する.基本的なアイデアは,ロバスト統計の方法をヒント付き学習の枠組を利用することによってNNに取り入れることである.具体的には,さまざまな条件付き分位点(Conditional Quanile)をヒントとして学習することによって,回帰分析本来の目的である条件付き平均の推定を安定化させ,汎化性を向上させる.数値実験によって,本手法の有効性を検討するとともに,一般的な汎化性向上技術であるWeight Decayとの比較を行った結果を報告する. |
| 抄録(英) | We propose, in this paper, a new approach to improve the generalization performance of artificial neural networks (NN) for regression problems. The basic idea is to incorpolate a robust statistics technique into NN within the framework of learning with hints. In particular, we propose to train NN with the hints on conditional quantiles, and show that this approach yield a robust estimation of conditional expectation, which we want to estimate in regression problem, and improve its generalization property. We provide, in this paper, an numerical study on our proposal to show its effectiveness and characteristics as well as the comparison with conventional Weight Decay technique, which is one of the most common technique for generalization. |
| キーワード(和) | ニューラルネットワーク / L_1回帰分析 / ロバスト統計 / ヒント付き学習 / Quantile Regression / 汎化性 / 過学習 |
| キーワード(英) | Neural Network / L_1 Regression / Robust Statistics / Learning with Hints / Quantile Regression / Generalization Performance / Over Training |
| 資料番号 | NC2002-92 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2002/12/6(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | Conditional Quantile に関するヒントを用いたニューラルネットワークの汎化に関する一提案 |
| サブタイトル（和） | |
| タイトル（英） | A Proposal of The Neural Network Using Hints on Conditional Quantiles to Improve Its Generalization Performance |
| サブタイトル（和） | |
| キーワード(1)（和/英） | ニューラルネットワーク / Neural Network |
| キーワード(2)（和/英） | L_1回帰分析 / L_1 Regression |
| キーワード(3)（和/英） | ロバスト統計 / Robust Statistics |
| キーワード(4)（和/英） | ヒント付き学習 / Learning with Hints |
| キーワード(5)（和/英） | Quantile Regression / Quantile Regression |
| キーワード(6)（和/英） | 汎化性 / Generalization Performance |
| キーワード(7)（和/英） | 過学習 / Over Training |
| 第 1 著者 氏名（和/英） | 山中 教行 / Noriyuki YAMANAKA |
| 第 1 著者 所属（和/英） | 三重大学工学部 Faculty of Engineering, Mie University |
| 第 2 著者 氏名（和/英） | 竹内 一郎 / Ichiro TAKEUCHI |
| 第 2 著者 所属（和/英） | 三重大学工学部 Faculty of Engineering, Mie University |
| 第 3 著者 氏名（和/英） | 古橋 武 / Takeshi FURUHASHI |
| 第 3 著者 所属（和/英） | 三重大学工学部 Faculty of Engineering, Mie University |
| 発表年月日 | 2002/12/6 |
| 資料番号 | NC2002-92 |
| 巻番号（vol） | vol.102 |
| 号番号（no） | 508 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |