講演名 2005/6/16
教師が真の教師のまわりをまわる場合のオンライン学習
三好 誠司, 岡田 真人,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) オンライン学習において, 教師と生徒の構造や出力特性の相違, 雑音の影響などにより汎化誤差がゼロにならないモデルでは, 学習機械が真の教師のまわりを動き続ける場合がある.この動き続ける学習機械を教師とするような新たな生徒を考えこの生徒が真の教師に対してどれほどの汎化能力を持つことができるかを解析した.真の教師, 動く教師, 生徒のいずれもが雑音の重畳された線形なパーセプトロンであるモデルについて, 統計力学的手法により汎化誤差を解析的に求めた結果, 生徒が真の教師の入出力ではなく, 動く教師の入出力だけを例題として使用するにもかかわらず, 真の教師と動く教師の汎化誤差よりも真の教師と生徒の汎化誤差の方が小さくなりうることが明らかになった.
抄録(英) In the framework of on-line learning, the learning machine might move around the teacher due to the difference of structures or output functions between the teacher and the learning machine or the noises. We analyzed the generalization performance of a new student supervised by the moving machine. Calculating generalization errors of a model composed by the true teacher, the moving teacher and the student that are all linear perceptrons with noises analytically by using statistical mechanics, it is proved that the generalization error between the true teacher and the student can be smaller than that between the true teacher and the moving teacher, though the student uses examples from only the moving teacher.
キーワード(和) オンライン学習 / 汎化誤差 / 動く教師 / 真の教師 / 学習不能な場合
キーワード(英) on-line learning / generalization error / moving teacher / true teacher / unlearnable case
資料番号 NC2005-10
発行日

研究会情報
研究会 NC
開催期間 2005/6/16(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 教師が真の教師のまわりをまわる場合のオンライン学習
サブタイトル(和)
タイトル(英) Analysis of on-line learning when a teacher goes around the true teacher
サブタイトル(和)
キーワード(1)(和/英) オンライン学習 / on-line learning
キーワード(2)(和/英) 汎化誤差 / generalization error
キーワード(3)(和/英) 動く教師 / moving teacher
キーワード(4)(和/英) 真の教師 / true teacher
キーワード(5)(和/英) 学習不能な場合 / unlearnable case
第 1 著者 氏名(和/英) 三好 誠司 / Seiji MIYOSHI
第 1 著者 所属(和/英) 神戸市立工業高等専門学校
Kobe City College of Technology
第 2 著者 氏名(和/英) 岡田 真人 / Masato OKADA
第 2 著者 所属(和/英) 東京大学大学院新領域創成科学研究科複雑理工学専攻:理化学研究所脳科学総合研究センター:科学技術振興機構さきがけ
Division of Transdisciplinary Sciences, Graduate School of Frontier Sciences, The University of Tokyo:RIKEN Brain Science Institute:JST PRESTO
発表年月日 2005/6/16
資料番号 NC2005-10
巻番号(vol) vol.105
号番号(no) 130
ページ範囲 pp.-
ページ数 6
発行日