| 講演名 | 2005/3/23 教師が非単調な場合のアンサンブル学習 三好 誠司, 原 一之, 岡田 真人, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | アンサンブル学習の大きな特徴として, 多数決などで生徒を組み合わせることにより, 単一の生徒では表現できない入出力関係を実現できることがあげられる.その意味で, 教師が生徒一個のモデル空間内にないような場合のアンサンブル学習の解析は非常に興味深い.そこで本論文では, 教師が非単調なパーセプトロンであり生徒が単純パーセプトロンである場合のアンサンブル学習を統計力学的なオンライン学習の枠組みで議論する.メトロポリス法により汎化誤差を計算した結果, ヘブ学習では学習の初期においてアンサンブルの効果があるものの, やがて生徒の多様性がなくなりアンサンブルの効果も消滅してしまうことがわかった.これに対し, パーセプトロン学習では生徒の多様性は消滅せず, そのために十分時間が経過した後でもアンサンブルの効果が残ることがわかった. |
| 抄録(英) | A major merit of ensemble learning is to realize the input-output relations by combining students that cannot be represented by one student. Therefore, ensemble learning in which a teacher isn't in the model space of one student is very attractive. In this paper ensemble learning, in which a teacher and students are a non-monotonic perceptron and simple perceptrons respectively, is discussed based on online learning theory and statistical mechanics. Hebbian learning doesn't keep the variety of students and the effect of ensemble disappears. On the contrary, perceptron learning keeps the variety of students and the effect of ensemble doesn't disappear. |
| キーワード(和) | アンサンブル学習 / オンライン学習 / 非単調教師 / 汎化誤差 |
| キーワード(英) | ensemble learning / online learning / non-monotonic teacher / generalization error |
| 資料番号 | NC2004-214 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2005/3/23(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 教師が非単調な場合のアンサンブル学習 |
| サブタイトル（和） | |
| タイトル（英） | Analysis of Ensemble Learning for Non-Monotonic Teacher |
| サブタイトル（和） | |
| キーワード(1)（和/英） | アンサンブル学習 / ensemble learning |
| キーワード(2)（和/英） | オンライン学習 / online learning |
| キーワード(3)（和/英） | 非単調教師 / non-monotonic teacher |
| キーワード(4)（和/英） | 汎化誤差 / generalization error |
| 第 1 著者 氏名（和/英） | 三好 誠司 / Seiji MIYOSHI |
| 第 1 著者 所属（和/英） | 神戸市立工業高等専門学校 Kobe City College of Technology |
| 第 2 著者 氏名（和/英） | 原 一之 / Kazuyuki HARA |
| 第 2 著者 所属（和/英） | 東京都立工業高等専門学校 Tokyo Metropolitan College of Technology |
| 第 3 著者 氏名（和/英） | 岡田 真人 / Masato OKADA |
| 第 3 著者 所属（和/英） | 東京大学大学院新領域創成科学研究科:理化学研究所脳科学総合研究センター:科学技術振興機構さきがけ Division of Transdisciplinary Sciences, Graduate School of Frontier Sciences, The University of Tokyo:RIKEN Brain Science Institute:JST PRESTO |
| 発表年月日 | 2005/3/23 |
| 資料番号 | NC2004-214 |
| 巻番号（vol） | vol.104 |
| 号番号（no） | 760 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |