| 講演名 | 2004/10/12 教師がコミティマシンの場合のアンサンブル学習(一般) 三好 誠司, 原 一之, 岡田 真人, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | アンサンブル学習の大きな特徴として,多数決などで生徒を組み合わせることにより,単一の生徒では表現できない入出力関係を実現できることがあげられる,その意味で,教師が生徒一個のモデル空間内にないような場合のアンサンブル学習の解析は非常に興味深い.そこで本論文では,教師がコミティマシンであり生徒が単純パーセプトロンである場合のアンサンブル学習を統計力学的なオンライン学習の枠組みで議論する.メトロポリス法により汎化誤差を計算した結果,ヘブ学習ではすべての生徒は教師中間層の中央に漸近すること,パーセプトロン学習では生徒の多様性が消滅せず,そのためにアンサンブルの効果が残ること,アダトロン学習では一種の過学習が起こることなど,学習則毎の顕著な特徴が明らかになった. |
| 抄録(英) | A major merit of ensemble learning is to realize the input-output relations by combining students that cannot be represented by one student. Therefore, ensemble learning in which a teacher isn't in the model space of one student is very attractive. In this paper ensemble learning, in which a teacher and students are a committee machine and simple perceptrons respectively, is discussed based on online learning theory and statistical mechanics. Hebbian learning gathers all students to the center of teacher units. Perceptron learning keeps a variety of students and the effect of ensemble doesn't disappear. AdaTron learning shows a kind of over-learning. |
| キーワード(和) | アンサンブル学習 / オンライン学習 / コミティマシン / 汎化誤差 |
| キーワード(英) | ensemble learning / online learning / committee machine / generalization error |
| 資料番号 | NC2004-79 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2004/10/12(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 教師がコミティマシンの場合のアンサンブル学習(一般) |
| サブタイトル（和） | |
| タイトル（英） | Analysis of Ensemble Learning for Committee Machine Teacher |
| サブタイトル（和） | |
| キーワード(1)（和/英） | アンサンブル学習 / ensemble learning |
| キーワード(2)（和/英） | オンライン学習 / online learning |
| キーワード(3)（和/英） | コミティマシン / committee machine |
| キーワード(4)（和/英） | 汎化誤差 / generalization error |
| 第 1 著者 氏名（和/英） | 三好 誠司 / Seiji MIYOSHI |
| 第 1 著者 所属（和/英） | 神戸市立工業高等専門学校 Kobe City College of Technology |
| 第 2 著者 氏名（和/英） | 原 一之 / Kazuyuki HARA |
| 第 2 著者 所属（和/英） | 東京都立工業高等専門学校 Tokyo Metropolitan College of Technology |
| 第 3 著者 氏名（和/英） | 岡田 真人 / Masato OKADA |
| 第 3 著者 所属（和/英） | 東京大学大学院新領域創成科学研究科複雑理工学専攻:理化学研究所脳科学総合研究センター:科学技術振興機構さきがけ Division of Transdisciplinary Sciences, Graduate School of Frontier Sciences, The University of Tokyo:RIKEN Brain Science Institute:JST PRESTO |
| 発表年月日 | 2004/10/12 |
| 資料番号 | NC2004-79 |
| 巻番号（vol） | vol.104 |
| 号番号（no） | 349 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |