講演名 1997/11/17
訓練データの雑音抑制と汎化能力
中島 朗子, 小川 英光,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 階層型ニューラルネットワークの学習には, 誤差逆伝搬法(BP法)がよく使われている. しかし, このBP法を使うと, 訓練データに雑音が加わっている場合, 間違えたままの値を覚えてしまう. この問題を解決するために, 既に, 訓練データの雑音を抑制することができる誤り修正型記憶学習を提案した. 本論文では, この誤り修正型記憶学習に対して, 訓練データ以外の入力も含めた評価である汎化能力を調べる. そのために, 汎化の基準として射影学習を考え, 許容性の概念を利用して, 誤り修正型記憶学習で射影学習と同じ汎化能力を獲得するための必要十分条件を与える。
抄録(英) Multi-layer feedforward neural networks are trained using the error back-propagation(BP) algorithm. The algorithm minimizes the training error. Hence, in the case of noisy training data, a trained network memorizes noisy outputs for given inputs. In order to suppress noise in training data, we proposed error correcting memorization learning(CML). In this paper, we evaluate generalization ability of CML comparing with the projection learning (PL). It is theoretically proved that although CML merely suppresses noise in training data, it provides the same generalization as PL under some necessary and sufficient condition.
キーワード(和) 汎化 / 記憶学習 / 雑音抑制 / 許容性 / 誤差逆伝搬法
キーワード(英) generalization / memorization learning / suppression of noise / admissibility / back-propagation
資料番号 NC97-52
発行日

研究会情報
研究会 NC
開催期間 1997/11/17(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 訓練データの雑音抑制と汎化能力
サブタイトル(和)
タイトル(英) Noise Suppression of Training Data and Generalization Ability
サブタイトル(和)
キーワード(1)(和/英) 汎化 / generalization
キーワード(2)(和/英) 記憶学習 / memorization learning
キーワード(3)(和/英) 雑音抑制 / suppression of noise
キーワード(4)(和/英) 許容性 / admissibility
キーワード(5)(和/英) 誤差逆伝搬法 / back-propagation
第 1 著者 氏名(和/英) 中島 朗子 / Akiko NAKASHIMA
第 1 著者 所属(和/英) 東京工業大学大学院 情報理工学研究科 計算工学専攻
Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology
第 2 著者 氏名(和/英) 小川 英光 / Hidemitsu OGAWA
第 2 著者 所属(和/英) 東京工業大学大学院 情報理工学研究科 計算工学専攻
Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology
発表年月日 1997/11/17
資料番号 NC97-52
巻番号(vol) vol.97
号番号(no) 379
ページ範囲 pp.-
ページ数 8
発行日