| 講演名 | 2005/6/16 潜在的な教師のある相互学習の統計力学 原 一之, 岡田 真人, |
|---|---|
| PDFダウンロードページ | PDFダウンロードページへ |
| 抄録(和) | 我々は以下のような潜在的な教師のある相互学習のダイナミクスを統計力学的な手法を用いて解析した.学習前の潜在的な教師とのオーバーラップは0でないと仮定する.2個の学習機械(生徒)を用い、互いに他方を教師として学習する.従って学習では教師は使用しない.解析の結果, 2個の生徒を用いて相互学習を行うと, 生徒と潜在教師のオーバラップが向上する, という現象を発見した.また, 相互学習の漸近的な汎化誤差は, 学習前の生徒によるバギングの汎化誤差に等しいことを示した.さらに相互学習は学習の初期に汎化誤差が最小になる現象を示すこと, その汎化誤差は学習前の生徒にパラレルブースティングを適用したときの汎化誤差より劣ることを示した. |
| 抄録(英) | In Mutual learning, two learning machines (students) learn each other and a student acts as a teacher to another student. Therefore, teacher is not used in mutual learning. We analyze dynamics of mutual learning with latent teacher by using a statistical mechanics method. We assume that overlap between latent teacher and students are not zero before the learning. From our analysis, we show that the overlap between the latent teacher and student becomes larger after mutual learning while students did not learn teacher. We also show that asymptotic property of the generalization error of mutual learning is equal to that of Bagging uses not learned students. At the early stage of mutual learning, generalization error becomes minimum, and the generalization error at minimum is larger than that of parallel boosting uses not learned students, are shown. |
| キーワード(和) | 相互学習 / 潜在教師 / オンライン学習 / アンサンブル学習 / 統計力学 |
| キーワード(英) | Mutual learning / Latent teacher / on-line learning / ensemble learning / Statistical mechanics |
| 資料番号 | NC2005-11 |
| 発行日 |
| 研究会情報 | |
| 研究会 | NC |
|---|---|
| 開催期間 | 2005/6/16(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Neurocomputing (NC) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 潜在的な教師のある相互学習の統計力学 |
| サブタイトル（和） | |
| タイトル（英） | Statistical Mechanism of Mutual Learning with Latent Teacher |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 相互学習 / Mutual learning |
| キーワード(2)（和/英） | 潜在教師 / Latent teacher |
| キーワード(3)（和/英） | オンライン学習 / on-line learning |
| キーワード(4)（和/英） | アンサンブル学習 / ensemble learning |
| キーワード(5)（和/英） | 統計力学 / Statistical mechanics |
| 第 1 著者 氏名（和/英） | 原 一之 / Kazuyuki HARA |
| 第 1 著者 所属（和/英） | 東京都立工業高等専門学校電子情報工学科 Department of Electronics and Information, Tokyo Metropolitan College of Technology |
| 第 2 著者 氏名（和/英） | 岡田 真人 / Masato OKADA |
| 第 2 著者 所属（和/英） | 東京大学大学院新領域創成科学研究科複雑理工学専攻:理化学研究所脳科学総合研究センター脳数理研究チーム:科学技術振興機構さきがけ「協調と制御」 Division, Osaka Corporation:Laboratory for Mathematical Neuroscience, Brain Science Institute, RIKEN:Intellegent Cooperation and Control, PRESTO, Japan Science and Technology Agency |
| 発表年月日 | 2005/6/16 |
| 資料番号 | NC2005-11 |
| 巻番号（vol） | vol.105 |
| 号番号（no） | 130 |
| ページ範囲 | pp.- |
| ページ数 | 6 |
| 発行日 | |