講演名 1995/6/30
射影学習の記憶学習に対する許容性
平林 晃, 小川 英光,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 誤差逆伝搬法を用いた階層型神経回路網の学習では,学習が進み過ぎると,教材に含まれない入力に対する出力の誤差がかえって大きくなる過学習と呼ばれる現象が起きる.小川・山崎は,過学習の原因が,誤差逆伝搬法の評価基準を本来の評価基準の代替として用いることにあることを明らかにした.そして,2つの評価基準の関係を論じることにより,本来の評価基準の代替評価基準に対する許容性の概念を導入した.本論文は,訓練データに雑音が存在する場合に,射影学習の評価基準が記憶学習の評価基準を許容するための必要十分条件を求める.さらに,それらの条件をもとに,許容性を成立させる教材の設計法を提案する.
抄録(英) In the training of multilayered feedforward neural networks using the error-backpropagation (BP) algorithm, it has been observed that the error over non-training data may increase, even though the error over training data decreases. This phenomenon is referred to as over-learning. In previous work it was shown how over-learning can be viewed as being the result of using the BP criterion as a substitute for some true criterion. Here, the concept of admissibility, which is defined using the relationship between the two criteria, was introduced. In this paper we consider the case where the true criterion is the projection learning criterion, and give the necessary and sufficient conditions for the projection learning to admit memorization learning in the presense of noise. Based on these conditions, we devised a method of choosing the training sets so that the adimissibility conditions are satisfied.
キーワード(和) 階層型神経回路網 / 汎化能力 / 過学習 / 教材 / 許容性 / 射影学習
キーワード(英) multilayered feedforward neural network / generalization ability / over-learning / training sets / admissibility / projection learning
資料番号
発行日

研究会情報
研究会 NC
開催期間 1995/6/30(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 射影学習の記憶学習に対する許容性
サブタイトル(和)
タイトル(英) Admissibility of Memorization Learning with respect to Projection Learning
サブタイトル(和)
キーワード(1)(和/英) 階層型神経回路網 / multilayered feedforward neural network
キーワード(2)(和/英) 汎化能力 / generalization ability
キーワード(3)(和/英) 過学習 / over-learning
キーワード(4)(和/英) 教材 / training sets
キーワード(5)(和/英) 許容性 / admissibility
キーワード(6)(和/英) 射影学習 / projection learning
第 1 著者 氏名(和/英) 平林 晃 / Akira Hirabayashi
第 1 著者 所属(和/英) 東京工業大学大学院情報理工学研究科計算工学専攻
Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology
第 2 著者 氏名(和/英) 小川 英光 / Hidemitsu Ogawa
第 2 著者 所属(和/英) 東京工業大学大学院情報理工学研究科計算工学専攻
Department of Computer Science Graduate School of Information Science and Engineering Tokyo Institute of Technology
発表年月日 1995/6/30
資料番号
巻番号(vol) vol.95
号番号(no) 135
ページ範囲 pp.-
ページ数 8
発行日