| 講演名 | 2003/7/22 [チュートリアル講演]アンサンブル学習(<特集>統計的学習理論及び一般) 岡田 真人, 原 一之, 三好 誠司, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 本講演では,バギングやパラレルブースティングなどのアンサンブル学習を統計力学的なオンライン学習の枠組で議論する.教師と生徒は両方とも単純パーセプトロンである場合を議論する.アンサンブル学習機械の汎化誤差が生徒の結合荷重ベクトルの大きさ,教師と生徒の荷重ベクトルのオーバーラップ(方向余弦)および生徒の結合荷重ベクトル間のオーバラップ(相関)にのみ依存することを示す.これらの巨視的な変数の学習のダイナミクスを記述する方程式を導出し,バギングとパラレルブースティングの性質を議論する. |
| 抄録(英) | We discuss emsemble learning algorithms, i. e., bagging and parallel boosting based on the on-line learning from statistical mechnical point of view. We treat cases that both of teacher and students are simple perceptrons. We show the the generalization error of emsemble learnig machine depends only on the normls of the weight vectors of student perceptrons, overlaps (direction cosine) between the weight vector of the teacher perceptron and those of the student perceptrons, and correlations between the weight vectors of the student percetrons. We derive differential equations to describe the dynamics of these macrosocpic variables. Applying these equations to a linear perceptron case and a nonlinear perceptron case, we discuss properties of the bagging and the parallel boosting in these cases. |
| キーワード(和) | アンサンブル学習 / バギング / パラレルブースティング / オンライン学習 / 統計力学 / パーセプトロン |
| キーワード(英) | Ensemble learning / Bagging / Parallel boosting / On-line learning / Statistical mechanics / Perceptron |
| 資料番号 | NC2003-35 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2003/7/22(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | [チュートリアル講演]アンサンブル学習(<特集>統計的学習理論及び一般) |
| サブタイトル（和） | |
| タイトル（英） | [Tutorial] Ensemble learning |
| サブタイトル（和） | |
| キーワード(1)（和/英） | アンサンブル学習 / Ensemble learning |
| キーワード(2)（和/英） | バギング / Bagging |
| キーワード(3)（和/英） | パラレルブースティング / Parallel boosting |
| キーワード(4)（和/英） | オンライン学習 / On-line learning |
| キーワード(5)（和/英） | 統計力学 / Statistical mechanics |
| キーワード(6)（和/英） | パーセプトロン / Perceptron |
| 第 1 著者 氏名（和/英） | 岡田 真人 / Masato OKADA |
| 第 1 著者 所属（和/英） | 理化学研究所脳科学総合研究センター:科学技術振興事業団戦略的創造研究推進事業(さきがけ研究21) RIKEN Brain Science Institute:"Intelligent Cooperation and Control" PRESTO, JST |
| 第 2 著者 氏名（和/英） | 原 一之 / Kazuyuki HARA |
| 第 2 著者 所属（和/英） | 東京都立工業高等専門学校 Tokyo Metropolitan College of Technology |
| 第 3 著者 氏名（和/英） | 三好 誠司 / Seiji MIYOSHI |
| 第 3 著者 所属（和/英） | 神戸市立工業高等専門学校 Kobe City College of Technology |
| 発表年月日 | 2003/7/22 |
| 資料番号 | NC2003-35 |
| 巻番号（vol） | vol.103 |
| 号番号（no） | 228 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |