講演名 1997/2/7
自乗値ペナルティ項を用いた2次学習アルゴリズム
斉藤 和巳, 中野 良平,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 3層ニューラルネットの教師あり学習の目的関数に3種のペナルティ項を付加したときのそれぞれの学習性能を,1次と2次の学習アルゴリズムを用いて比較評価する. 非線型回帰問題を用いた実験では,自乗値ペナルティ項と2次学習アルゴリズムの組合せは,適切なペナルティ係数値において,高い汎化性能を示すとともに,他の組合せと比較して20倍以上も高速に収束したことを示す.
抄録(英) This paper compares three penalty terms with respect to the efficiency of supervised learning, by using first- and second-order learning algorithms. Our experiments,showed that for a reasonably adequate penalty factor, the combination of the squared penalty term and the second-order learning algorithm drastically improves the convergence performance more than 20 times over the other combinations, at the same time bringing about better generalization performance.
キーワード(和) ペナルテイ項 / 2次学習アルゴリズヘ汎化性能 / 収束性能
キーワード(英) penalty term / second-order learning algorithm / generalization performance / conver-gence performance.
資料番号 NLP96-151,NC96-105
発行日

研究会情報
研究会 NLP
開催期間 1997/2/7(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Nonlinear Problems (NLP)
本文の言語 JPN
タイトル(和) 自乗値ペナルティ項を用いた2次学習アルゴリズム
サブタイトル(和)
タイトル(英) Second-order Learning Algorithm with Squared Penalty Term
サブタイトル(和)
キーワード(1)(和/英) ペナルテイ項 / penalty term
キーワード(2)(和/英) 2次学習アルゴリズヘ汎化性能 / second-order learning algorithm
キーワード(3)(和/英) 収束性能 / generalization performance
第 1 著者 氏名(和/英) 斉藤 和巳 / Kazumi Saito
第 1 著者 所属(和/英) NTTコミュニケーション科学研究所
NTT Communication Science Laboratories
第 2 著者 氏名(和/英) 中野 良平 / Ryohei Nakano
第 2 著者 所属(和/英) NTTコミュニケーション科学研究所
NTT Communication Science Laboratories
発表年月日 1997/2/7
資料番号 NLP96-151,NC96-105
巻番号(vol) vol.96
号番号(no) 510
ページ範囲 pp.-
ページ数 8
発行日