講演名 1998/3/20
最適汎化のための射影追加学習
杉山 将, 小川 英光,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 与えられた訓練データに対して学習が完了した後, 更に高い汎化能力を得るために, 新しい訓練データを追加する場合がある.このような場合, これまでの学習結果を利用して新しく追加される訓練データを学習すれば効率がよい.このような学習方式は, 一般に追加学習とよばれている.本論文では, 射影学習の評価基準を用いて, 雑音が存在する場合の射影追加学習を提案し, 計算に必要な記憶容量, 計算量ともに射影一括学習より軽減できることを示す.ここで注意すべきことは, 射影追加学習で得られる結果が, 全訓練データから射影一括学習で得られる結果と全く同じになることである.最後に, 訓練データの有効性の判定条件を与え, 有効でない訓練データを棄却することにより, 更に計算効率を高めることができることを示す.
抄録(英) In the case where new training data is added after the learning process has been completed, incremental learning, in which the posterior result is built upon the prior results, is generally preferred because it is effective in computation. In this paper, we give an incremental projection learning in the presence of noise. The memory and computational complexity required for the incremental projection learning is far less than that required for the batch projection learning. Note that the incremental projection learning provides exactly the same result as that obtained by the batch projection learning. Moreover, we derive a condition for identifying redundant training data that has no effect on the generalization ability, so that the computation becomes more efficient.
キーワード(和) 階層型ニューラルネットワーク / 学習 / 汎化能力 / 射影学習 / 追加学習 / 一括学習
キーワード(英) feed forward neural network / learning / generalization / projection learning / incremental learning / batch learning
資料番号
発行日

研究会情報
研究会 NC
開催期間 1998/3/20(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 最適汎化のための射影追加学習
サブタイトル(和)
タイトル(英) Incremental Projection Learning for Optimal Generalization
サブタイトル(和)
キーワード(1)(和/英) 階層型ニューラルネットワーク / feed forward neural network
キーワード(2)(和/英) 学習 / learning
キーワード(3)(和/英) 汎化能力 / generalization
キーワード(4)(和/英) 射影学習 / projection learning
キーワード(5)(和/英) 追加学習 / incremental learning
キーワード(6)(和/英) 一括学習 / batch learning
第 1 著者 氏名(和/英) 杉山 将 / Masashi SUGIYAMA
第 1 著者 所属(和/英) 東京工業大学大学院情報理工学研究所計算工学専攻
Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology
第 2 著者 氏名(和/英) 小川 英光 / Hidemitsu OGAWA
第 2 著者 所属(和/英) 東京工業大学大学院情報理工学研究所計算工学専攻
Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology
発表年月日 1998/3/20
資料番号
巻番号(vol) vol.97
号番号(no) 624
ページ範囲 pp.-
ページ数 8
発行日