| 講演名 | 2001/2/2 アンサンブル学習の理論的モデル化に関する一検討 内田 真人, 塩谷 浩之, 伊達 惇, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | アンサンブル学習とは, 汎化性能向上の目的から, 学習済みの複数の学習機械についてそれらの出力の重み付き平均値を予測値とする手法である.本稿では, 負の対数尤度関数を損失関数とするアンサンブル学習を定式化し, その有効性をパラメータ推定の立場から漸近論的に評価する.また, アンサンブル学習の本質がKullbackダイバージェンスに関する3段階の最小化操作にあることから, これをα-ダイバージェンスを用いる場合に拡張する.さらに, 非ベイズ的付加項を用いた学習との関連性についても述べる. |
| 抄録(英) | The ensemble learning using the expectation of total outputs from some trained machines is proposed to improve the predictive performance. In this paper, we analyze the algorithmic structure of this learning method using the negative logarithm likelihood function. As a result, we can realize the ensemble learning is a simple three-step-minimizing procedure for Kullback divergence. Taking this into account, the asymptotic statistical property is given to elucidate the effect of the ensemble learning. Our framework extends the theoretical range of the ensemble learning, that is, the ensemble learning using α-divergence can be defined in a similar way. In addition, we mention that the learning with non-Bayesian additive term is related to this framework. |
| キーワード(和) | アンサンブル学習 / 平均予測誤差 / α-ダイバージェンス |
| キーワード(英) | ensemble learning / expectation of predictive error / α-divergence |
| 資料番号 | NC2000-95 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2001/2/2(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | アンサンブル学習の理論的モデル化に関する一検討 |
| サブタイトル（和） | |
| タイトル（英） | A Study on Theoretical Modeling of Ensemble Learning |
| サブタイトル（和） | |
| キーワード(1)（和/英） | アンサンブル学習 / ensemble learning |
| キーワード(2)（和/英） | 平均予測誤差 / expectation of predictive error |
| キーワード(3)（和/英） | α-ダイバージェンス / α-divergence |
| 第 1 著者 氏名（和/英） | 内田 真人 / Masato UCHIDA |
| 第 1 著者 所属（和/英） | 北海道大学大学院工学研究科 Graduate School of Engineering, Hokkaido University |
| 第 2 著者 氏名（和/英） | 塩谷 浩之 / Hiroyuki SHIOYA |
| 第 2 著者 所属（和/英） | 北海道大学大学院工学研究科 Graduate School of Engineering, Hokkaido University |
| 第 3 著者 氏名（和/英） | 伊達 惇 / Tsutomu DA-TE |
| 第 3 著者 所属（和/英） | 北海道大学大学院工学研究科 Graduate School of Engineering, Hokkaido University |
| 発表年月日 | 2001/2/2 |
| 資料番号 | NC2000-95 |
| 巻番号（vol） | vol.100 |
| 号番号（no） | 618 |
| ページ範囲 | pp.- |
| ページ数 | 7 |
| 発行日 | |