| 講演名 | 2007-03-14 不偏尤度に基づく階層モデルの統計的学習 関野 正志, 新田 克己, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | カーネル回帰モデル,ニューラルネットワーク,混合分布モデルといった階層モデルに,最尤推定,事後確率最大化推定,ベイズ推定といった統計的学習手法を適用すると過学習が生じることが知られている。本稿では,正則モデルの集合として定義できる階層モデルについて,従来の統計的学習手法により過学習が生じる原因を明らかにし,不偏尤度(情報量規準)に基づいて学習する不偏学習を提案する。カーネル回帰モデルの正則化最尤推定への適用例により不偏学習の有効性を示す. |
| 抄録(英) | It is known that overfitting occurs when a conventional statistical learning method such as maximum likelihood estimation, maximum a posteriori estimation or Bayesian estimation is applied to hierarchical models. In this paper, we clarify the cause of why overfitting occurs when a conventional statistical learning method is applied to hierarchical models, and propose "Unbiased Learning" which is a learning framework based on unbiased likelihood (information criterion) for hierarchical models. We confirm the effectiveness of unbiased learning when applied to kernel regression model. |
| キーワード(和) | 階層モデル / 統計的学習 / 情報量規準 / モデル選択 / 過学習 |
| キーワード(英) | hierarchical model / statistical learning / information criterion / model selection / over fitting |
| 資料番号 | NC2006-136 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2007/3/7(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 不偏尤度に基づく階層モデルの統計的学習 |
| サブタイトル（和） | |
| タイトル（英） | Unbiased Learning for Hierarchical Models |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 階層モデル / hierarchical model |
| キーワード(2)（和/英） | 統計的学習 / statistical learning |
| キーワード(3)（和/英） | 情報量規準 / information criterion |
| キーワード(4)（和/英） | モデル選択 / model selection |
| キーワード(5)（和/英） | 過学習 / over fitting |
| 第 1 著者 氏名（和/英） | 関野 正志 / Masashi SEKINO |
| 第 1 著者 所属（和/英） | 東京工業大学大学院総合理工学研究科 Tokyo Institute of Technology |
| 第 2 著者 氏名（和/英） | 新田 克己 / Katsumi NITTA |
| 第 2 著者 所属（和/英） | 東京工業大学大学院総合理工学研究科 Tokyo Institute of Technology |
| 発表年月日 | 2007-03-14 |
| 資料番号 | NC2006-136 |
| 巻番号（vol） | vol.106 |
| 号番号（no） | 588 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |